【 앵커멘트 】
20대 여성이 다양한 머리 스타일을 합성해 보여주는 유료 앱에 얼굴사진을 올렸더니 나체 사진 합성물이 나왔습니다.
깜짝 놀란 이 여성은 항의했고, 앱 개발사는 기술적으로 오류가 있었다는 점을 인정하고 피해자에게 사과했습니다.
조경원 기자가 보도합니다.
【 기자 】
20대 여성 A씨는 지난달 29일 친구의 소개로 한 애플리케이션을 내려받아 사용했습니다.
이 앱은 네이버의 자회사 '스노우'가 만든 것으로 어울리는 머리스타일 찾는데 도움을 주는 기능이 있습니다.
해당 앱에 자신의 얼굴 사진을 올린 뒤 합성 결과물을 본 A씨는 경악을 금치 못했습니다.
자신의 얼굴이 나체 사진과 합성된 결과물이 나왔기 때문입니다.
▶ A씨 (음성변조)
- "기대되는 마음으로 결과물을 기다렸는데 너무 선정적이고 되게 혐오스럽게 느껴지는 사진을 받아서.."
지난 5일에도 스노우의 또 다른 앱인 '소다'에서도 성적 수치심을 유발하는 사진 합성물이 나왔습니다.
스노우와 소다는 스테이블 디퓨전이라는 인공지능 모델을 사용하고 있는데, 이 모델은 개발 당시 성인물과 같은 선정적인 이미지도 학습한 것으로 알려졌습니다.
문제는 이 인공지능 모델이 오픈 소스로 개발됐기 때문에 이를 이용하는 회사가 결과물을 제어할 수 없다는 겁니다.
▶ 김명주 / 서울여대 정보보호학부 교수
- "(인공지능) 출력단, 입력단에서 잘 제어를 못하게 되면 이용자가 볼 때는 기대하지 않았던 충격적인 장면들이 생성이 되기도 합니다."
논란이 확산하자 스노우는 자사 앱에 사과문을 올리고 사태 진화에 나섰습니다.
(CG) 스노우 측은 "인공지능 기술 한계로 불완전한 이미지 결과물이 생성될 가능성이 일부 존재한다"면서 "시스템을 강화해 재발하지 않도록 하겠다"고 밝혔습니다.
딥페이크 기술을 활용한 불법 합성물이 사회적 논란을 빚은 가운데, 대형 플랫폼 회사의 앱으로 인한 피해가 확인되면서 이용자들의 우려가 커지고 있습니다.
KBC 조경원입니다.
댓글
(0)