●이 기사의 요점
・생성형 AI를 악용한 ‘AI 갈아입히기’가 사회적 문제로 떠올랐다. 연예인에 국한되지 않고 SNS에 사진을 올리는 모든 사람이 잠재적 피해자가 될 수 있는 시대가 도래했다. 법적·기술적 한계가 드러나고 있다.
・삭제 요청과 규제가 현실 속 속도에 미치지 못하는 상황에서, 이미지에 미세한 노이즈를 넣어 AI 학습을 방해하는 ‘기술적 자가방어’가 주목받고 있다. 피해를 당했을 때 신속히 대응하고 전문 창구를 활용하는 것이 중요하다.
・AI의 편리함 이면에서 개인의 존엄이 비용 없이 소비되는 현실이 존재한다. 문제 해결은 개인 방어 차원을 넘어 AI 기업과 사회 전체가 ‘신뢰의 비용’을 어떻게 분담할지에 달려 있다.
2025년 말 이후, SNS를 보면 이전과는 다른 낯선 장면이 점점 보편화되고 있다. X(구 트위터)에 탑재된 생성형 AI 등을 악용해 실존 인물이나 유명인의 사진을 본인 동의 없이 성적으로 조작·유포하는 이른바 ‘AI 갈아입히기’다.
외견상 익명 계정의 악성 장난처럼 보일 수 있다. 그러나 핵심은 훨씬 심각하다. 단 한 장의 SNS 사진으로도 누구나 ‘기술에 의한 폭력’의 대상이 될 수 있다는 점을 우리는 직시해야 한다.
피해자는 연예인이나 인플루언서에 한정되지 않는다. 일반 회사원, 학생, 자녀를 둔 부모 등, 얼굴이 드러나는 사진을 SNS에 올려본 적이 있는 사람은 모두 잠재적 당사자다.
이 문제에 우리는 어떻게 대응해야 할까.
●목차
왜 ‘법’과 ‘플랫폼’은 늘 뒤처지는가
현재 일본에서는 AI에 의한 성적 이미지 조작과 관련해 명예훼손죄, 모욕죄, 음란물 배포죄 등 기존 형법을 적용해 단속하는 움직임이 확산하고 있다. 2025년 시행된 ‘정보유통플랫폼 대응법’으로 SNS 사업자에게 불법·유해 정보의 신속한 삭제 의무도 부과됐다.
제도적으로는 진전이 있어 보이지만, 현장에서는 여전히 규제와 절차가 현실의 문제 속도를 따라잡지 못한다는 지적이 많다.
사이버보안 컨설턴트인 신미 스구루 씨는 이렇게 지적한다.
“AI 생성 이미지의 문제는 ‘실존 인물을 바탕으로 했지만, 결과물 자체는 창작물이라는 그레이존’입니다. 삭제 요청은 받아들여져도, 가해자 특정이나 형사책임을 묻는 데는 여전히 높은 장벽이 남아 있는 경우가 적지 않습니다.”
가장 큰 문제는 한 번 유출된 자료를 완전히 지우기 어렵다는 점이다. 삭제된 이미지를 바탕으로 다른 AI가 새로운 가짜 이미지를 무한히 생성해낼 수 있다. 복제는 증식하고 피해는 장기화한다.
플랫폼 사업자 역시 ‘표현의 자유’와 ‘이용자 보호’ 사이에서 균형을 잡아야 하며, 그 과정에서 대응은 뒤따르게 마련이다. 법과 운영 규칙이 생성형 AI의 진화 속도를 따라잡지 못하고 있는 현실이다.
기술적 자가방어라는 선택지: ‘데이터에 독을 섞다’는 발상
그렇다면 우리가 손을 놓고 당하기만 해야 할까. 최근 주목받는 대안은 기술로 기술을 봉쇄하는 ‘디지털 자가방어’다.
대표적 수단으로 이미지 보호 도구인 Glaze와 Nightshade가 있다.
이들 도구는 사람의 눈에는 거의 감지되지 않는 미세한 노이즈를 사진에 입혀 AI의 이미지 인식을 고의로 혼란시키는 기술이다. 사람에게는 평범한 사진이지만, AI는 ‘피부와 옷의 경계를 인식하지 못한다’거나 ‘인체 구조가 깨졌다’고 판단해 생성 결과가 망가진다.
“Nightshade의 기본 개념은 간단합니다. ‘학습 데이터에 독을 섞는다’는 것—자신의 이미지를 AI가 학습하기 어렵게 만들어 무단 이용 위험을 줄이는 방식입니다. 완전한 방어는 아니지만, 현 시점에서 개인이 취할 수 있는 몇 안 되는 실효적 수단 중 하나입니다.”(신미 씨)
물론 이런 도구들이 만능은 아니다. 향후 AI가 이에 대한 내성을 획득할 가능성도 존재한다. 그럼에도 아무것도 하지 않는 것보다 현실적인 대응책이다.
피해를 입었을 때, 감정보다 먼저 해야 할 ‘3가지 행동’
자신이나 가족의 사진이 무단으로 조작·유포됐다면 분노와 공포를 느끼는 것은 당연하다. 하지만 전문가들은 초기 대응이 이후 상황을 좌우한다고 말한다.
(1) 증거 보전
스크린샷, URL, 게시 일시, 계정 ID를 즉시 저장하라. 삭제된 후에는 확보할 수 없는 정보가 향후 법적 절차의 핵심 자료가 된다.
(2) 플랫폼에 신고·삭제 요청
AI 생성에 의한 동의 없는 성적 이미지임을 분명히 기재하라. 개정법에 따라 사업자는 신속한 대응이 요구된다.
(3) 전문 창구에 상담
경찰: 사이버범죄 상담 창구
변호사: 발신자 정보 공개 청구 및 손해배상 청구 검토
세이퍼인터넷협회(SIA): 삭제 지원 및 조언
‘참고 넘어가기’를 선택하지 않는 것이 유사 피해를 줄이는 데도 기여한다.
기업과 사회에 던지는 질문: ‘신뢰의 비용’을 누가 부담할 것인가
마지막으로, 이 문제를 개인의 자가방어에만 맡겨도 되는지에 대한 근본적 질문이 남는다.
생성형 AI는 비즈니스에서 생산성을 크게 높였다. 그러나 그 이면에서 개인의 존엄과 인격이 비용 없이 소비된다면, 그것을 건전한 혁신이라고 할 수 없다.
“’가짜니까 문제없다’는 발상은 극히 위험합니다. AI가 만들어낸 이미지일지라도 피해자의 사회적 평가와 심리적 피해는 현실입니다. 플랫폼과 AI 개발 기업은 이러한 ‘외부비용’을 누가 부담할지 정면으로 마주해야 합니다.”(같은 전문가)
’AI로 타인의 몸을 소비하는 행위’가 이토록 쉽게 용인된 배경에는 기술 진보에 비해 우리의 윤리적 상상력이 뒤처진 현실이 있다.
이 문제는 일부 연예인만의 문제가 아니다. 오늘 무심코 올린 사진 한 장이 몇 달 뒤 자신이나 소중한 누군가를 상처내는 ‘재료’가 될 수 있다.
지금 필요한 것은 단순한 기술 규제만이 아니다. 기술의 ‘사용 방식’에 대한 사회 전체의 단단한 합의다. 이를 소홀히 하면 디지털 사회의 기반인 ‘신뢰’ 자체가 조용히, 그러나 확실히 무너질 것이다.
(글＝BUSINESS JOURNAL 편집부)
Most Commented