OpenAI·Anthropic·Meta 등, AI 안전성 강조와 제품 고도화 가속

▲ 사진:ai 생성 이미지

최근 AI 업계에서는 AI 안전성 확보 및 제품 고도화를 강조하는 발표들이 잇따라 나오고 있다. OpenAI, Anthropic, Meta 등이 중심에 있다.

첫째, OpenAI는 기업공개(IPO)를 2026년 내에는 하지 않겠다고 밝혔다. CEO 샘 알트먼은 현 시점이 ‘IPO를 추진하기에 부적절한 순간(ill-advised moment)’이며, 현재 우선 과제는 AI의 안전성 확보라고 설명했다.

둘째, Anthropic의 CEO 다리오 아모데이는 AI 기술의 진보 속도가 규제 및 안전장치의 발전을 능가해서는 안 된다고 경고했다. 그는 산업 전반이 즉각적으로 진전 속도를 조절해야 하며, 그렇지 않으면 향후 몇 달 안에 치명적 결과에 직면할 수 있다고 말했다.

셋째, Meta는 개인용 AI 에이전트 ‘Muse’를 미국에서 iOS, Android 및 muse.ai 플랫폼을 통해 출시했다. Muse는 사용자 목표 설정, 시간·자원의 조율, 다양한 일상적 작업 처리 등에 활용 가능하며, 안전 및 프라이버시 보호를 위해 자체 ‘Muse Secure VM’ 내에서 운영된다. WhatsApp을 포함한 Meta의 다른 서비스 내에서도 사용 가능하다. (또한 Meta는 Muse Spark 1.3 업데이트를 발표하여 에이전트 기반 작업(agentic tasks)과 코드 작성(coding task)의 성능을 의미 있게 향상시켰다.

넷째, OpenAI는 AI 안전성 분야의 연구자 폴 크리스티아노(Paul Christiano)를 OpenAI 재단(OpenAI Foundation)의 이사회(board)에 합류시켰다. 그는 비표결(non-voting) 옵서버(observer) 자격으로 OpenAI Group PBC 이사회에도 참여하며, 재단의 안전 및 보안 위원회(Safety and Security Committee)의 한 구성원으로 임명되었다. 이 위원회는 OpenAI 전체의 안전 및 보안 관행을 감독한다.

이러한 움직임들은 AI 기술 개발과 안전성 확보가 병행되어야 한다는 산업계의 인식이 확산됨을 보여준다. 사용자에게 제공되는 제품들이 일상생활에 직접적 영향을 미치는 만큼, 프라이버시와 책임 있는 설계(responsible design), 제어 가능성(alignment) 등이 중요한 쟁점으로 부상하고 있다.

현재 AI 산업은 초기의 ‘기능 중심(capability-centric)’ 단계에서 ‘안전 중심(safety-centric)’ 성숙기로 접어드는 과도기에 있다. 이번 발표들은 기술 진보에 대한 낙관론과 동시에 그 진보가 가져올 잠재적 위험에 대한 관리 및 제어의 필요성을 재확인하는 계기가 된다.