xAI의 챗봇 ‘그록’이 비키니 수영복 등을 입은 아동의 이미지를 게시했다가 이용자 신고를 받고 삭제했다. 이들 사진은 일부 이용자들의 요청에 따라 생성된 것으로, 1∼2세 영유아로 보이는 아동 사진도 포함된 것으로 나타났다. 그록은 아동을 성적으로 대상화하는 이미지 생성 요청을 차단하는 ‘안전장치’를 마련하고 있으나, 일부가 이를 우회한 것으로 보인다. 한 이용자가 문제를 제기하자 그록은 “안전장치의 허점을 확인했다”며 “긴급히 수정 중”이라고 밝혔다.
그록은 지난해 8월 이미지·영상 생성 모델을 출시하면서 성적인 이미지를 생성할 수 있는 ‘매운맛 모드’Spicy Mode도 함께 내놓은 것으로 알려졌다. 이에 따라 유명 연예인을 성적으로 묘사하는 딥페이크 영상을 생성하는 도구가 되고 있다는 비판이 제기되었으며, 성인물을 뜻하는 ‘xxxAI’라는 불명예스러운 별명을 얻기도 했다.
챗GPT와 제미나이, 클로드 등 주요 AI 챗봇은 성적 이미지나 콘텐츠 생성을 엄격히 금지하고 있으나, 그록은 ‘표현의 자유’ 등을 내세워 이를 막지 않고 있다. 그록이 이처럼 검열을 최소화한 방식으로 인기를 끌자 샘 올트먼 오픈AI 최고경영자CEO도 챗GPT에 성인 인증을 받은 이용자들이 성적 콘텐츠를 이용할 수 있도록 하는 기능을 도입하겠다고 지난 10월 밝히기도 했다.
아동을 성적으로 대상화하는 성 착취물의 생성이나 소지는 미 연방법에 따라 금지돼 있어, 성인을 대상으로 한 기능에서도 허용될 수 없다. xAI는 주요 외신들의 논평 요청에 대해 “기성 언론은 거짓말을 한다”Legacy Media Lies고 답했는데, 이는 언론사의 이메일에 대한 자동응답 답변이라고 CNBC는 설명했다.
@Meerae AI 빅데이터 연구소 meerae.info@gmail.com