후 댓글을 남겨주세요.
그록의 음란물 생성 활용에 내부 엔지니어들 반발·이탈
일론 머스크의 인공지능(AI) 기업 xAI가 성인용 콘텐츠에 의존해 이용자를 모으고 있다는 주장이 제기됐다.
미 정보기술(IT) 전문매체 디인포메이션은 최근까지 xAI에 재직했던 직원 2명을 인용해 이 회사의 AI 모델 '그록'(Grok) 트래픽의 절반 이상은 음란 이미지·영상과 성인 역할극 채팅을 비롯한 '후방주의'(NSFW·일터에서 안전하지 않은 콘텐츠) 활동과 관련한 것이라고 25일(현지시간) 보도했다.
심지어 그록의 코딩 전용 모델도 이용자 요청의 상당 부분은 음란물이나 알몸 이미지와 관련된 것으로 나타났다.
이용자들이 이러한 요청에 범용 모델 대신 코딩 전용 모델을 쓰는 것은 비용이 저렴하기 때문으로 추정된다.
이와 같은 현상은 내부 연구진의 반발과 이탈로도 이어졌다.
내부 엔지니어들은 그록이 실존 인물의 사진을 도용해 동의 없는 음란물을 생성하는 문제에 대해 충격을 받았으며, 일부는 기술 프로젝트 대신 '애니'(Ani)라는 이름의 성적 대상화 AI 아바타 개발에 투입되자 회사를 떠난 것으로 알려졌다.
xAI의 안전팀 규모는 지난해 말 기준으로도 6명가량에 불과했으나, 현재는 인원이 더 줄어들었다.
그록은 지난해 말 이용자의 요청으로 아동이 등장하는 성적 이미지를 생성한 사실이 드러나 여러 국가에서 접속 차단 조처되거나 조사 대상에 오른 바 있다.
xAI의 모회사로 최근 대규모 상장을 마무리한 스페이스X는 기업공개(IPO) 신청서에서 xAI의 모델이 올해 1분기에 매달 이미지 100억 장과 동영상 20억 편을 생성했다고 밝혔으나, 이들 작업의 상당 부분이 성인용 콘텐츠라는 사실은 언급하지 않았다.
다만 스페이스X는 투자 설명서의 '위험요인' 항목에서 "그록에는 더 솔직하고 직접적이거나, 덜 절제되거나 무례한 결과를 생성하도록 설계된 '매운맛'·'불안정' 모드가 있다"며 "이는 평판 손상이나 노골적인 콘텐츠·허위정보·기만적인 결과물의 생성, 잠재적으로 동의를 받지 못했거나 착취적인 이미지 등을 초래할 수 있다"고만 경고했다.
뉴스레터
매일 아침, 핵심 뉴스를 이메일로 받아보세요
후 댓글을 남겨주세요.