불법촬영 문제와 인공지능은 얼핏 보면 서로 다른 분야처럼 보인다. 불법촬영 자체는 AI가 등장하기 전부터 존재했던 문제이기 때문이다. 하지만 촬영물이 온라인 공간으로 유포되고 복제되는 과정에서는 AI 기술과 새로운 접점이 생기고 있다.
수많은 이미지와 영상이 매일 온라인에 올라오는 환경에서 사람이 모든 콘텐츠를 일일이 확인하는 데는 한계가 있다. 이 때문에 문제가 되는 콘텐츠를 발견하거나 이미 확인된 이미지의 재유포를 찾아내는 과정에서 자동화 기술과 AI를 활용하려는 시도가 이루어지고 있다.
중요한 점은 AI가 불법촬영 여부를 완벽하게 판단하는 심판이 아니라는 것이다. 기술이 어떤 부분을 도울 수 있고 어떤 부분에서는 사람의 판단이 필요한지 구분해서 살펴볼 필요가 있다.
불법촬영과 AI는 어떻게 연결될까
먼저 불법촬영과 AI 합성물을 구분할 필요가 있다.
불법촬영은 실제 사람을 동의 없이 촬영하는 행위와 관련된 문제다. 반면 딥페이크는 기존 사진이나 영상 등을 이용해 실제로 존재하지 않았던 장면을 합성할 수 있다는 점에서 차이가 있다.
하지만 온라인 유포 단계에서는 두 문제가 서로 닮은 모습을 보일 수 있다.
디지털 파일은 복사가 쉽다. 한 플랫폼에서 삭제된 이미지가 다른 곳에 다시 게시될 수도 있고 파일 이름이나 크기 등이 변경된 상태로 재등장할 수도 있다.
피해자의 입장에서는 최초 게시물을 삭제하는 것뿐 아니라 이후에 다시 나타나는 콘텐츠를 찾는 것도 중요한 문제가 된다.
이 지점에서 이미지 분석과 자동화 기술이 활용될 수 있다.
AI는 수많은 이미지를 어떻게 구분할까
이미지 인식 AI는 사진이나 영상에 나타나는 시각적 특징을 분석하는 데 활용될 수 있다.
다만 온라인에 올라온 모든 이미지를 AI가 보고 곧바로 “불법촬영물”이라고 판정하는 단순한 구조로 생각해서는 안 된다.
사진 한 장만으로 촬영 당시 당사자가 동의했는지 AI가 정확하게 알아낼 수 없기 때문이다. 이미지 자체의 특징과 촬영 과정에서 있었던 동의 여부는 서로 다른 정보다.
대신 이미 확인된 콘텐츠와 유사한 파일을 찾아내는 기술을 생각해 볼 수 있다.
대표적인 개념 가운데 하나가 이미지의 특징을 이용해 일종의 디지털 지문을 만드는 방식이다. 원본 파일이 조금 변경되더라도 특징을 비교해 동일하거나 유사한 콘텐츠인지 확인하는 데 활용할 수 있다.
AI 기반 이미지 분석 역시 대량의 콘텐츠 가운데 검토가 필요한 자료를 분류하는 보조적인 역할을 할 수 있다.
삭제된 이미지가 다시 올라오면 어떻게 찾을까
온라인 콘텐츠의 특징 중 하나는 복제가 매우 쉽다는 것이다.
이미지가 한 번 외부로 퍼진 뒤에는 파일 이름을 변경하거나 크기를 조정하고 일부를 잘라내는 등 여러 형태로 변형될 수 있다. 단순히 파일 이름만 비교해서는 같은 콘텐츠인지 확인하기 어려운 이유다.
이때 이미지 자체의 특징을 비교하는 기술이 도움이 될 수 있다.
이미 확인된 콘텐츠의 특징값과 새롭게 업로드되는 이미지의 특징을 비교하면 동일하거나 매우 유사한 자료를 발견하는 과정의 일부를 자동화할 수 있다.
물론 이 기술 역시 완벽하지 않다. 이미지가 크게 변형됐거나 새로운 형태로 편집됐다면 탐지가 어려워질 수 있고, 반대로 정상적인 콘텐츠를 잘못 분류하는 문제도 고려해야 한다.
그래서 자동 탐지 결과를 어떻게 검토하고 처리할 것인지까지 시스템 설계에 포함되어야 한다.
AI 탐지가 사람의 판단을 대신할 수 없는 이유
AI 기술이 발전하더라도 이미지의 맥락까지 완벽하게 이해하기는 어렵다.
비슷한 사진이라도 촬영과 공개에 동의한 콘텐츠가 있을 수 있고, 반대로 겉으로 평범해 보이는 이미지라도 당사자의 동의 없이 촬영되거나 유포된 것일 수 있다.
결국 사진의 픽셀만 분석해서 모든 상황을 판단할 수는 없다.
AI는 대량의 콘텐츠를 빠르게 분류하고 사람이 확인해야 할 대상을 찾는 데 도움을 줄 수 있지만, 신고 내용이나 당사자의 의사, 콘텐츠가 게시된 맥락 등을 함께 확인하는 과정이 중요하다.
이는 AI가 인간보다 부족하다는 단순한 문제가 아니다. 애초에 이미지 데이터만으로 알 수 없는 정보가 존재하기 때문이다.
디지털 안전에서 AI가 맡을 수 있는 역할
AI와 젠더 문제를 살펴보다 보면 인공지능은 항상 위험을 만드는 기술로만 등장하지 않는다.
생성형 AI와 딥페이크처럼 새로운 위험을 만들어 낼 수 있는 기술이 있는 반면, 같은 AI 기술을 이용해 유해 콘텐츠를 탐지하거나 반복적인 재유포를 찾는 방법도 연구되고 있다.
결국 중요한 것은 AI라는 기술 자체보다 어떤 목적으로 설계하고 사용하는가에 있다.
플랫폼에서는 자동 탐지 시스템과 이용자 신고 기능을 함께 운영할 수 있고, 사람이 최종적인 맥락을 검토하는 절차도 필요하다. 탐지 정확도를 높이는 것만큼 잘못된 차단을 줄이는 일도 중요하다.
사용자 역시 역할이 있다. 동의 여부를 알 수 없는 사적인 이미지나 피해가 의심되는 콘텐츠를 발견했을 때 호기심으로 저장하거나 다른 사람에게 전달하지 않는 것이 중요하다. 재공유 자체가 콘텐츠의 확산을 키울 수 있기 때문이다.
마무리
불법촬영 문제는 AI 때문에 처음 생겨난 문제가 아니다. 그러나 디지털 콘텐츠가 빠르게 복제되고 확산되는 환경에서는 AI와 자동화 기술이 피해 콘텐츠를 찾아내고 재유포를 확인하는 도구로 활용될 가능성이 있다.
동시에 AI만으로 모든 문제를 해결할 수 있다고 기대해서도 안 된다. 촬영 당시의 동의 여부와 게시 맥락처럼 이미지 자체만으로 판단하기 어려운 정보가 있기 때문이다.
따라서 디지털 안전을 위한 AI는 사람의 판단을 완전히 대체하기보다 많은 콘텐츠 가운데 확인이 필요한 대상을 찾고 대응 속도를 높이는 보조 기술로 이해하는 것이 적절하다.
앞선 글에서 딥페이크가 새로운 이미지를 만들어 내는 AI의 위험을 살펴봤다면, 이번에는 이미 존재하는 이미지의 유포 과정에서 AI가 어떤 역할을 할 수 있는지 살펴봤다.
다음 글에서는 한 번 온라인에 퍼진 이미지가 다른 사이트에 다시 등장할 때 AI와 이미지 비교 기술은 어떻게 재유포를 찾아낼 수 있는지 조금 더 자세히 알아본다.
FAQ
Q. AI가 사진만 보고 불법촬영물인지 정확하게 알 수 있나요?
사진 자체만으로 촬영 당시 당사자의 동의 여부를 완벽하게 확인하기는 어렵습니다. AI는 이미지의 특징을 분석하거나 이미 확인된 콘텐츠와 유사한 자료를 찾는 등의 보조적인 역할에 활용될 수 있습니다.
Q. 삭제한 사진이 다시 올라오는 것도 AI로 찾을 수 있나요?
이미지 특징이나 디지털 지문을 비교하는 기술을 활용하면 동일하거나 유사한 콘텐츠의 재등장을 탐지하는 데 도움을 받을 수 있습니다. 다만 이미지가 크게 변형되는 등 상황에 따라 탐지가 어려울 수도 있습니다.
Q. AI가 탐지하면 사람이 확인할 필요가 없나요?
그렇지 않습니다. 자동 탐지에는 잘못 분류할 가능성이 있고 이미지 자체만으로는 게시 맥락이나 동의 여부를 알기 어려운 경우도 있습니다. 따라서 기술적인 탐지와 사람의 검토를 함께 활용하는 방식이 중요합니다.
해시태그:
#인공지능 #AI #AI와젠더 #젠더와AI #불법촬영 #불법촬영물 #디지털안전 #AI탐지 #이미지인식AI #이미지탐지 #디지털성범죄 #AI윤리 #인공지능윤리 #이미지인식 #온라인안전 #젠더문제 #AI기
