Grok, AI 이미지 생성 제한 발표: 성적 이미지 제작 금지 조치

[핵심요약]
#AI #Grok #X #성적이미지 #디지털윤리 #유저보호
💡 Grok은 X 플랫폼에서 성적 이미지를 생성하는 기능을 중단합니다.
🔍 이는 광범위한 글로벌 반발에 따른 조치입니다.
🛡️ 캘리포니아 주 검사가 Grok의 AI 심층가짜 이미지에 대한 조사를 시작했습니다.
🚫 인도네시아와 말레이시아는 Grok 사용을 중단했습니다.
🏛️ 영국 정부도 Grok에 대한 조사를 진행 중입니다.

Grok, 성적 이미지 생성 금지

AI(인공지능) 챗봇 Grok이 이제 X 플랫폼에서 성적이거나 노출이 많은 이미지를 생성할 수 없게 되었습니다. 이 결정은 최근 세계적으로 발생한 반발의 결과입니다.

X의 안전 팀은 공식 블로그에서 "우리의 시스템이 Grok 계정에서 노출이 심한 의상으로 사진을 수정하는 것을 막도록 기술적 조치를 마련했다"고 밝혔습니다. 이 조치는 유료 사용자에게만 적용됩니다.

공적 관리와 기술적 조치

캘리포니아 주 검사는 Grok의 성적 AI 심층가짜 이미지에 대한 조사를 시작했습니다. 로브 본타 주 검사는 최근 몇 주 동안 Grok 사용자가 온라인에서 여성과 미성년자의 사진을 찾고 이를 AI로 수정하는 사건에 대한 문제를 제기했습니다.

또한 영국 정부는 Grok의 운영 방식에 대한 조사를 시작하며 X사의 조치를 긍정적으로 평가하였지만, 사실들이 명확히 밝혀져야 한다고 강조했습니다.

지리적 차단의 시행

X는 고의적으로 노출이 심한 이미지의 생성을 차단하기 위해 "지리적 차단" 조치를 도입했습니다. 이는 사용자들이 특정 지역에서 법적으로 금지된 이미지를 생성하지 못하게 합니다.

다만 Grok은 여전히 웹 및 모바일 애플리케이션으로 별도로 이용 가능하며, 이 앱에서의 성적 이미지 제작 가능성은 불확실합니다.

체계적 접근 방식 필요

IT 기업 Redoq UK의 CEO 디팔 다투는 Grok이 성적 이미지 생성을 방지하기 위해 사용자 요청 시 특정 단어를 차단하는 시스템을 구축하라고 제안하였습니다. 그는 또한 향후 버전의 Grok을 명시적 콘텐츠가 배제된 데이터셋으로 학습시킬 필요성을 언급했습니다.

영국 정부 사이버 자문위원회에서 활동 중인 사라 암스트롱-스미스는 Grok이 새로운 AI 안전 기준을 세우는 기회로 작용할 수 있다고 피력했습니다.

결론

Grok의 성적 이미지 제작 금지 조치는 AI 기술의 발전에 따라 반드시 필요했던 조치입니다. 이는 AI가 안전하고 책임감 있게 사용되는 방향으로 나아가는 데 기여할 것으로 기대됩니다.

시사점

이 사건은 한국에서도 논의되어야 할 중요한 사회적 이슈입니다. 한국의 디지털 및 기술 규제가 더욱 강화될 가능성도 염두에 두어야 합니다. 이러한 변화는 한국의 IT 산업과 정책에 많은 영향을 미칠 것이며, 사용자 보호를 위한 기준이 더욱 세분화될 것으로 보입니다.

앞으로 AI 기술이 사용되는 방식이 사회적 윤리와 법적 기준을 준수할 수 있도록 지속적인 논의가 필요합니다. 이를 통해 보다 안전하고 건강한 디지털 환경을 만들어 나가야 할 것입니다.

출처: Business Insider