미네소타주와 xAI 정면충돌…Grok 성적 딥페이크 규제 놓고 법적 공방

미국 미네소타주와 일론 머스크가 설립한 인공지능 기업 xAI가 AI를 이용한 비동의 성적 이미지 생성 문제를 놓고 법정에서 맞붙고 있다.

미네소타주는 특정 인물의 사진을 이용해 사실적인 가짜 성적 이미지를 만드는 행위를 제한하는 새로운 법을 시행하면서 xAI의 AI 서비스 Grok을 대표적인 규제 대상으로 지목하고 있다.

반면 xAI는 해당 법이 지나치게 광범위하게 작성돼 미국 헌법이 보장하는 표현의 자유까지 침해할 수 있다며 법 시행에 반발하고 있다.

이번 분쟁은 생성형 AI 기업이 이용자의 악용 행위에 대해 어느 정도까지 책임져야 하는지, 그리고 정부가 AI 이미지 생성 기능을 어디까지 제한할 수 있는지를 둘러싼 중요한 법적 시험대가 될 전망이다.

미네소타, AI 성적 딥페이크 규제 강화

미네소타주는 2026년 8월 1일부터 AI를 활용해 특정 인물의 가짜 성적 이미지를 제작하는 행위를 규제하는 새로운 법률을 시행하고 있다.

해당 법은 기존 인물 사진을 기반으로 실제처럼 보이는 성적 이미지를 생성할 수 있도록 하는 소프트웨어나 온라인 서비스를 주요 대상으로 한다.

특히 당사자의 동의 없이 생성되는 이미지가 심각한 피해를 발생시킬 수 있다는 점에서 AI 서비스 사업자에게도 강한 책임을 부과하는 구조다.

위반 사항이 인정될 경우 관련 기업에는 이미지 한 건당 최대 50만 달러 수준의 제재가 부과될 수 있는 것으로 전해졌다.

실제 피해 사례가 입법 배경으로 작용

미네소타주가 강력한 규제에 나선 배경에는 AI를 이용한 성적 이미지 조작 피해가 있다.

입법 과정에서는 한 남성이 소셜미디어 등에 공개된 사진을 이용해 자신이 알고 있던 여성 80명 이상의 가짜 성적 이미지를 제작한 사례가 언급됐다.

피해자가 자신의 사진을 일반적인 목적으로 온라인에 공개했더라도 제3자가 AI 기술을 이용해 전혀 다른 성적 이미지로 변형할 수 있다는 점이 문제로 지적됐다.

주정부와 의회는 피해가 발생한 이후 제작자를 처벌하는 것만으로는 충분하지 않으며, 이러한 이미지 제작을 손쉽게 만드는 기술적 수단 자체에도 일정한 책임을 물어야 한다고 판단한 것으로 보인다.

압도적인 찬성으로 통과된 규제안

관련 법안은 미네소타 의회에서 높은 찬성률로 처리됐다.

하원에서는 찬성 132표, 반대 1표를 기록했고 상원에서는 65명이 모두 찬성한 것으로 전해졌다.

당파를 넘어 AI 기반 비동의 성적 이미지가 심각한 피해를 만들 수 있다는 공감대가 상당히 강했다는 의미로 해석된다.

그러나 법안 통과와 별개로 실제 적용 범위가 지나치게 넓은지를 둘러싼 논란은 계속되고 있다.

xAI, 법 시행 막기 위한 소송 제기

xAI는 새로운 규제가 시행되기 전인 7월부터 법적 대응에 나섰다.

회사는 미네소타 법의 일부 조항이 미국 헌법 수정 제1조가 보호하는 표현의 자유를 침해할 가능성이 있다며 법 집행을 제한해달라는 취지의 소송을 제기했다.

xAI의 핵심 주장은 법률에서 금지 대상으로 정의한 이미지 범위가 지나치게 광범위하다는 것이다.

불법적인 비동의 성적 딥페이크뿐만 아니라 합법적으로 보호될 수 있는 표현까지 규제 대상에 포함될 가능성이 있다는 주장이다.

xAI가 문제 삼은 규제 범위

xAI는 법률 문구에 따라 상반신이 노출된 이미지나 수영 장면, 일부 풍자적 이미지까지 규제 대상으로 해석될 여지가 있다고 주장하고 있다.

정치적 풍자나 예술적 표현처럼 수정헌법 제1조의 보호를 받을 가능성이 있는 콘텐츠까지 제한될 수 있다는 논리다.

또한 악용 방지 시스템을 구축하려는 AI 개발사에 대한 충분한 예외 규정이 없다는 점도 문제로 제기했다.

경우에 따라서는 이미지에 등장하는 사람의 동의를 받아 제작된 콘텐츠까지 법 적용 대상이 될 가능성이 있다는 주장도 내놓고 있다.

미네소타 법무장관은 전혀 다른 입장

미네소타주 측은 xAI의 해석에 동의하지 않는다.

키스 엘리슨 미네소타주 법무장관은 해당 규제의 핵심 목적이 표현 자체를 제한하는 것이 아니라, 다른 사람의 동의 없이 사실적인 성적 이미지를 쉽게 만들어낼 수 있도록 하는 기술적 수단을 규제하는 데 있다고 주장하고 있다.

특히 Grok의 이미지 생성 기능 가운데 일부가 이러한 형태의 콘텐츠 제작을 지나치게 쉽게 만들었다는 것이 주정부의 문제의식이다.

따라서 이번 법은 일반적인 AI 이미지 생성 기술을 전면 금지하는 규제가 아니라 개인에게 실질적인 성적 피해를 발생시킬 수 있는 특정 사용 방식을 제한하기 위한 장치라는 입장이다.

핵심 쟁점은 ‘도구 제공자의 책임’

이번 사건의 중요한 쟁점 가운데 하나는 AI 기업이 사용자가 제작한 콘텐츠에 어느 정도까지 책임을 져야 하느냐다.

기존 인터넷 서비스에서는 플랫폼이 이용자가 작성한 모든 게시물을 사전에 검토하기 어렵다는 점이 고려돼 왔다.

그러나 생성형 AI에서는 상황이 다소 다르다.

플랫폼이 단순히 이용자가 만든 콘텐츠를 게시하는 역할을 하는 것이 아니라 사용자의 명령을 받아 AI 모델이 직접 새로운 이미지를 생성하기 때문이다.

따라서 생성 결과가 불법적이거나 타인에게 심각한 피해를 주는 경우 AI 개발사와 서비스 제공자의 책임을 기존 소셜미디어 플랫폼과 동일하게 봐야 하는지를 놓고 새로운 법적 논쟁이 형성되고 있다.

Grok 둘러싼 딥페이크 논란은 이번이 처음이 아니다

Grok은 이미 AI 생성 이미지와 관련해 여러 국가와 단체의 관심을 받아왔다.

특히 미성년자의 사진을 성적 이미지로 변형하는 데 AI가 악용될 수 있다는 문제가 제기되면서 규제기관과 시민단체의 감시가 강화됐다.

일부 감시단체는 짧은 기간 동안 Grok을 통해 상당한 규모의 아동 성착취 성격의 이미지가 만들어졌을 가능성이 있다는 분석을 내놓기도 했다.

이후 여러 국가의 관계기관이 관련 문제를 조사하기 시작했다.

미성년자 관련 소송도 제기

2026년 3월에는 캘리포니아의 미성년자 3명이 xAI를 상대로 소송을 제기한 것으로 전해졌다.

원고들은 자신들의 실제 사진이 AI를 이용해 성적 학대 성격의 가짜 콘텐츠로 변형됐다는 취지의 주장을 제기했다.

이러한 사건들은 AI 딥페이크가 유명인이나 정치인을 대상으로 한 단순한 합성 이미지 문제를 넘어 일반 개인과 미성년자의 안전 및 인격권 문제로 확대되고 있음을 보여준다.

특히 인터넷에 공개된 평범한 사진 한 장만으로도 사실적인 가짜 이미지를 제작할 수 있다는 점 때문에 피해 예방을 위한 규제 요구가 커지고 있다.

xAI는 악용 대응을 강화했다고 주장

xAI는 불법적인 서비스 이용을 방치하고 있다는 주장에 대해서는 반박하고 있다.

회사 측은 2026년 들어 관련 정책을 위반한 수만 개의 계정을 정지하는 등 악용 방지 조치를 시행했다고 밝힌 바 있다.

또한 미국의 아동 보호 관련 기관에 상당한 규모의 의심 사례를 신고했다는 입장이다.

이는 xAI 역시 미성년자 관련 성적 이미지나 불법 콘텐츠 생성 문제를 심각한 서비스 악용 사례로 판단하고 있다는 의미다.

다만 규제기관 입장에서는 사후 계정 정지나 신고만으로 피해를 충분히 막을 수 있는지가 별도의 문제다.

AI 안전장치는 어디까지 갖춰야 하나

생성형 AI 기업들은 일반적으로 특정 유형의 이미지나 요청을 차단하기 위한 안전 필터를 적용하고 있다.

하지만 이용자가 명령어를 우회하거나 새로운 방식으로 모델을 이용할 경우 안전장치가 무력화되는 사례가 발생할 수 있다.

AI 성능이 높아질수록 결과물의 현실감도 향상되면서 이러한 문제의 심각성은 더욱 커진다.

과거의 조잡한 합성사진과 달리 최근 AI 기술은 실제 사진과 구분하기 어려운 이미지를 만들 수 있기 때문이다.

이에 따라 단순히 금지어를 차단하는 수준을 넘어 인물 사진 변형과 성적 이미지 생성 자체에 보다 정교한 보호 장치를 적용해야 한다는 요구가 나오고 있다.

표현의 자유와 피해 방지 사이의 충돌

이번 소송이 어려운 이유는 양측이 모두 중요한 법적 가치를 주장하고 있기 때문이다.

미네소타주는 개인의 동의 없이 만들어지는 성적 이미지를 디지털 형태의 성폭력으로 보고 피해자를 보호해야 한다는 입장이다.

반면 xAI는 규제 범위가 과도하게 넓어지면 합법적인 예술과 풍자, 정치 표현까지 제한할 수 있다고 주장한다.

따라서 법원이 어떤 콘텐츠를 명확한 불법 행위로 규정하고 어떤 표현까지 헌법상 보호 대상으로 인정할지가 핵심 쟁점이 될 수 있다.

미국 밖에서도 AI 콘텐츠 규제 압박 확대

Grok을 둘러싼 논란은 미국에만 국한된 문제가 아니다.

유럽을 포함한 여러 지역에서도 AI가 생성한 불법 콘텐츠와 X 플랫폼의 관리 책임을 둘러싼 논쟁이 진행되고 있다.

특히 아동 성착취물과 딥페이크, 혐오 표현 같은 문제는 각국 규제기관이 생성형 AI 서비스에 보다 적극적으로 개입해야 한다는 주장의 근거가 되고 있다.

국가마다 표현의 자유에 대한 법적 기준과 플랫폼 책임 규정이 다르기 때문에 글로벌 AI 기업 입장에서는 지역별로 서로 다른 안전 정책을 적용해야 하는 상황이 나타날 가능성도 있다.

AI 기업 규제의 새로운 기준 될 가능성

미네소타와 xAI의 법적 충돌은 단순히 Grok 하나의 기능을 둘러싼 분쟁에 그치지 않을 수 있다.

법원이 미네소타주의 규제 권한을 폭넓게 인정할 경우 다른 미국 주에서도 유사한 AI 딥페이크 규제가 확대될 가능성이 있다.

반대로 법원이 규제 문구가 지나치게 광범위해 표현의 자유를 침해한다고 판단하면 앞으로 관련 법안은 보다 세밀한 예외 조항과 정의를 포함해야 할 수 있다.

결과적으로 이번 사건은 AI 개발사가 이용자의 생성 행위에 대해 얼마나 강력한 사전 차단 시스템을 갖춰야 하는지를 결정하는 선례 가운데 하나가 될 가능성이 있다.

Grok 논란이 AI 산업에 던지는 질문

생성형 AI의 이미지 제작 능력이 향상될수록 기술을 어디까지 개방해야 하는지를 둘러싼 논쟁은 더욱 커질 것으로 예상된다.

지나치게 엄격한 제한은 합법적인 창작과 연구, 표현 활동을 위축시킬 수 있다.

반대로 제한이 지나치게 느슨하면 실제 인물을 대상으로 한 성적 딥페이크나 사기, 명예훼손과 같은 피해가 빠르게 확산될 수 있다.

결국 AI 기업과 규제기관 모두 기술 자체를 금지하거나 무조건 허용하는 방식보다는 피해 가능성이 높은 사용 사례를 얼마나 정밀하게 구분할 수 있는지가 중요해질 전망이다.

미네소타주와 xAI의 법정 공방 역시 이러한 경계선을 어디에 설정할 것인지가 핵심이다.

향후 법원의 판단에 따라 Grok뿐 아니라 다른 생성형 AI 서비스의 이미지 생성 정책과 미국 내 AI 규제 방향에도 상당한 영향을 미칠 가능성이 있다.

※ 본 내용은 제공된 기사 내용을 바탕으로 새롭게 구성한 정보성 글이다. 소송 및 규제 관련 주장은 각 당사자의 입장을 포함하고 있으며, 최종적인 법적 책임 여부는 법원의 판단에 따라 달라질 수 있다.