“비키니 사진 금지” 그록, 결국 ‘매운맛 이미지’ 생성 차단한다

성적 이미지 생성으로 전세계적 비판을 받아왔던 xAI의 그록이 해당 기능을 차단했다고 밝혔다. 지난 수요일 엑스(X) 측은 그록이 더 이상 실제 사람을 대상으로 성적인 이미지를 만들지 못하게 하겠다고 발표했다.

엑스의 안전 담당 부서는 “비키니처럼 노출이 있는 옷을 입은 실제 사람의 사진을 편집할 수 없도록 기술적인 차단 장치를 마련했다”고 설명했다. 특히 이번 조치는 돈을 내고 사용하는 유료 회원을 포함해 모든 사용자에게 예외 없이 적용된다.

그록은 소셜미디어 엑스(X, 옛 트위터)에서 사용할 수 있는 AI 챗봇이다. 사용자와 대화할 뿐만 아니라 그림도 그려준다. 문제는 사용자가 요청하면 미성년자를 비롯해 평범한 다른 사람의 사진도 성적인 이미지로 바꿔준다는 점이다. 기술적으로는 놀라울지 몰라도, 당사자 동의 없이 이런 사진을 만드는 건 명백한 가해이자 심각한 사회 문제다.

파장은 컸다. 미성년자 피해 사례까지 보고되자 국제사회가 움직였다. 영국은 그록의 이 기능을 두고 “학대의 무기”라며 강력하게 경고했다. 미국 캘리포니아주와 유럽연합(EU)도 가만히 있지 않았다. 즉각 조사에 착수했다. 특히 EU는 증거가 사라지지 않도록 2026년 말까지 관련 데이터를 반드시 보관하라고 명령하며 압박 수위를 높였다.

xAI 측도 부랴부랴 대책을 내놨다. 돈을 내는 유료 사용자만 이 기능을 쓰게 하거나, 일부 기술적 제한을 두었다. 하지만 여전히 웹사이트나 앱에서 해당 기능이 작동하는 경우가 많아 비판은 계속됐고 결국 기능을 전면 차단하기에 이르렀다.

세계 각국은 법적인 칼을 빼 들었다. 캘리포니아주는 2026년 1월 14일 공식 조사를 시작했다. EU와 영국 역시 각각 ‘디지털 서비스법’과 ‘온라인 안전법’을 앞세워 강력한 제재를 준비 중이다. AI가 만든 가짜 이미지로 고통받는 사람들을 보호하기 위해서다.

이번 사건은 AI 기술이 얼마나 위험할 수 있는지, 왜 엄격한 규칙이 필요한지를 잘 보여준다. 이제 AI 기업은 단순히 기술을 개발하는 것을 넘어 법적인 책임까지 져야 한다. 미국에서는 피해자가 직접 소송할 수 있는 길도 열렸다. 기술 발전도 중요하지만, 기업의 사회적 책임과 윤리가 먼저라는 목소리가 커지고 있다.