인터넷에 올라온 사진은 삭제 버튼을 누르면 완전히 사라질까. 게시물을 처음 올린 공간에서는 삭제할 수 있지만, 누군가 이미 파일을 저장하거나 다른 플랫폼으로 옮겼다면 이야기가 달라진다. 같은 이미지가 이름과 크기를 바꾼 채 다시 등장할 수도 있기 때문이다.
특히 동의 없이 공개된 사적인 이미지나 합성 이미지라면 반복적인 재유포 자체가 또 다른 피해로 이어질 수 있다. 지난 글에서는 불법촬영물 탐지 과정에서 AI와 이미지 인식 기술이 어떤 역할을 할 수 있는지 살펴봤다. 이번에는 범위를 조금 좁혀 이미지가 다시 게시되는 상황을 기술적으로 어떻게 찾아낼 수 있는지 알아보려고 한다.
AI가 인터넷 전체를 돌아다니며 모든 사진을 자동으로 삭제하는 것은 아니다. 실제로는 이미지의 특징을 비교하고 유사한 콘텐츠를 찾아내는 여러 기술이 함께 사용될 수 있다.
파일 이름이 달라져도 같은 사진을 찾을 수 있을까
컴퓨터에서 사진을 저장하면 image.jpg, photo01.jpg처럼 파일 이름이 붙는다. 하지만 파일 이름은 사용자가 쉽게 변경할 수 있다.
따라서 파일 이름만으로 동일한 이미지를 추적하는 방식에는 한계가 있다.
이미지 자체의 특징을 이용하는 방법은 이와 다르다. 사진의 시각적인 특징을 분석해 비교에 사용할 수 있는 값으로 표현하고, 새로 확인된 이미지와 기존 이미지를 비교하는 것이다.
여기서 자주 등장하는 개념이 ‘해시(hash)’다.
일반적인 파일 해시는 파일 내용이 조금만 변경되어도 값이 크게 달라질 수 있다. 그래서 완전히 동일한 파일을 확인하는 데는 유용하지만 크기가 변경되거나 압축된 이미지까지 비교하려면 다른 접근이 필요할 수 있다.
이때 이미지가 조금 변형되더라도 시각적으로 비슷한 특징을 비교할 수 있도록 설계된 지각 해시(perceptual hash)와 같은 방법이 활용될 수 있다.
쉽게 말하면 파일의 이름표만 보는 것이 아니라 사진이 가진 특징을 비교하는 방식이라고 이해할 수 있다.
이미지가 조금 바뀌어도 찾을 수 있는 이유
온라인에서 재유포되는 사진은 원본 그대로인 경우만 있는 것이 아니다.
크기가 작아질 수도 있고, 압축되거나 색상이 조금 달라질 수도 있다. 화면을 캡처해 새로운 파일로 만들어 다시 게시하는 경우도 생각할 수 있다.
따라서 재유포 탐지 기술에서는 단순히 두 파일이 완전히 동일한지만 확인하는 것보다 ‘얼마나 비슷한가’를 비교하는 과정이 중요해진다.
AI 기반 이미지 분석 역시 이 과정에서 활용될 수 있다. 이미지에서 일정한 특징을 추출하고 기존 자료와 비교해 유사성이 높은 콘텐츠를 선별하는 방식이다.
예를 들어 수많은 이미지가 새롭게 등록되는 플랫폼이라면 사람이 모든 파일을 하나씩 열어 기존 신고 자료와 비교하기 어렵다. 자동화 시스템은 먼저 비교 대상의 범위를 좁히고, 추가적인 확인이 필요한 콘텐츠를 찾아내는 데 도움을 줄 수 있다.
다만 이러한 기술이 어떤 이미지든 무조건 찾아낸다는 뜻은 아니다. 이미지가 크게 잘리거나 여러 요소가 추가되는 등 변형 정도가 커지면 기존 자료와 연결하기 어려워질 수 있다.
AI가 발견하면 바로 삭제되는 것은 아니다
여기서 구분해야 할 부분이 있다.
콘텐츠를 찾아내는 것과 실제로 삭제 여부를 결정하는 것은 서로 다른 과정이라는 점이다.
자동화 시스템이 기존 신고 이미지와 유사한 콘텐츠를 발견했다고 하더라도 그것만으로 모든 상황을 판단할 수 있는 것은 아니다.
비슷한 이미지가 다른 맥락에서 합법적으로 사용되고 있을 가능성도 고려해야 한다. 기술의 오류로 서로 다른 콘텐츠가 비슷하다고 판단될 가능성 역시 존재한다.
따라서 탐지 결과를 바탕으로 추가적인 검토가 필요할 수 있다.
이 과정은 AI 안전 분야에서 자주 등장하는 문제와도 연결된다. 탐지율을 높이는 것만 중요하게 생각하면 정상적인 콘텐츠까지 잘못 차단할 수 있고, 반대로 기준을 지나치게 느슨하게 설정하면 찾아야 할 콘텐츠를 놓칠 수 있다.
결국 좋은 시스템은 ‘AI가 얼마나 많이 잡아내는가’뿐 아니라 오류가 발생했을 때 이를 어떻게 검토하고 수정할 수 있는지도 함께 고려해야 한다.
재유포 문제에서 기술보다 중요한 것
AI와 젠더 문제를 정리하면서 계속 확인하게 되는 공통점이 하나 있다. 기술만으로 사회적인 문제 전체를 해결하기는 어렵다는 것이다.
이미지 재유포 역시 마찬가지다.
탐지 기술이 아무리 발전해도 이미지를 처음부터 공유하지 않는 문화, 당사자의 동의를 존중하는 태도, 빠르게 대응할 수 있는 신고 체계와 플랫폼의 운영 정책이 함께 작동해야 한다.
이용자의 행동도 중요하다.
출처를 알 수 없는 사적인 사진이나 누군가에게 피해를 줄 가능성이 있는 이미지를 발견했다면 호기심 때문에 다시 공유하지 않는 것이 좋다. 확인되지 않은 콘텐츠를 다른 사람에게 전달하는 행동은 결과적으로 이미지가 더 넓게 퍼지는 데 영향을 줄 수 있기 때문이다.
특히 생성형 AI가 보편화된 환경에서는 실제 촬영 이미지뿐 아니라 합성된 이미지까지 함께 고려해야 한다. 진짜인지 가짜인지 불분명하다는 이유만으로 당사자가 받을 수 있는 피해가 사라지는 것은 아니다.
AI 탐지 기술이 앞으로 해결해야 할 과제
재유포 탐지 기술에는 개인정보 보호라는 또 다른 과제도 있다.
유해 콘텐츠를 찾겠다는 이유로 이용자가 올리는 모든 이미지를 무제한으로 수집하거나 장기간 저장하는 방식이라면 새로운 개인정보 문제가 생길 수 있다.
따라서 어떤 정보를 비교하는지, 데이터가 얼마나 오래 보관되는지, 누가 접근할 수 있는지 등도 함께 고려해야 한다.
또한 AI가 특정 이미지를 잘못 분류했을 때 이용자가 이의를 제기하고 사람이 다시 검토할 수 있는 절차도 중요하다.
결국 디지털 안전을 위한 기술은 탐지 정확도 하나만으로 평가하기 어렵다. 피해 확산을 줄이면서도 일반 이용자의 개인정보와 정상적인 콘텐츠를 보호할 수 있는 균형이 필요하다.
마무리
온라인 이미지의 재유포 문제에서 AI가 할 수 있는 중요한 역할 중 하나는 방대한 콘텐츠 가운데 기존 자료와 동일하거나 유사한 이미지를 빠르게 찾아내는 것이다.
파일 해시, 지각 해시, 이미지 특징 비교와 같은 기술은 서로 방식은 다르지만 반복해서 등장하는 콘텐츠를 확인하는 데 활용될 수 있다.
하지만 AI가 유사한 이미지를 발견했다고 해서 모든 문제가 자동으로 해결되는 것은 아니다. 실제 대응에는 사람의 검토, 플랫폼의 신고 체계, 개인정보 보호와 같은 요소가 함께 필요하다.
딥페이크와 불법촬영 문제를 차례로 살펴보면서 결국 하나의 공통점이 보인다. AI 시대의 디지털 안전은 기술만의 문제가 아니라 기술을 어떤 규칙과 책임 아래 사용하는가의 문제이기도 하다.
다음 글에서는 이미지 자체에서 조금 벗어나 AI 시대의 디지털 스토킹과 위치·행동 정보가 어떻게 연결될 수 있는지 살펴본다.
FAQ
Q. 사진의 파일 이름을 바꾸면 재유포 탐지를 피할 수 있나요?
파일 이름만 변경해도 이미지 자체의 내용은 그대로입니다. 이미지의 특징이나 디지털 지문을 비교하는 시스템이라면 파일 이름이 달라도 동일하거나 유사한 이미지로 판단할 수 있습니다.
Q. 지각 해시는 AI와 같은 기술인가요?
완전히 같은 개념은 아닙니다. 지각 해시는 이미지가 조금 변경돼도 시각적인 유사성을 비교할 수 있도록 특징값을 만드는 기술입니다. 실제 콘텐츠 탐지 시스템에서는 이러한 기술과 이미지 인식, 자동 분류 등 여러 방법이 함께 활용될 수 있습니다.
Q. AI가 인터넷에 올라온 모든 재유포 이미지를 찾을 수 있나요?
그렇지 않습니다. 플랫폼의 시스템과 접근 가능한 데이터 범위가 다르고 이미지가 크게 변형되면 탐지가 어려울 수도 있습니다. 따라서 자동 탐지는 신고 체계와 사람의 검토를 보조하는 수단으로 보는 것이 적절합니다.
해시태그:
#인공지능 #AI #AI와젠더 #젠더와AI #디지털안전 #이미지재유포 #AI탐지 #이미지인식 #이미지인식AI #지각해시 #생성형AI #딥페이크 #디지털성범죄 #AI윤리 #온라인안전 #개인정보보호 #디지털리터러
