[작성자:] admin

인터넷에 공개한 사진은 AI가 마음대로 써도 될까: 얼굴 합성과 동의의 문제

SNS에 올린 프로필 사진이나 여행 사진은 다른 사람이 볼 수 있도록 공개한 이미지다. 그렇다면 공개된 사진을 누군가 저장해 AI로 변형하거나 새로운 합성 이미지를 만드는 것도 허용된 것일까?   이 질문은 생성형 AI가 일상화되면서 중요해지고 있다. 온라인에서 사진을 ‘볼 수 있는 상태’와 그 사진을 다른 목적으로 ‘사용하는 것’은 같은 의미가 아니기 때문이다.   지난 글에서는 생성형
더 읽기

생성형 AI는 온라인 괴롭힘을 어떻게 바꿀까: 젠더와 디지털 안전의 새로운 과제

온라인 괴롭힘은 생성형 AI가 등장하기 전부터 존재했다. 악성 댓글이나 허위 정보, 원하지 않는 메시지를 반복해서 보내는 행동처럼 디지털 공간에서도 다른 사람에게 피해를 주는 일은 계속 문제가 되어 왔다.   그런데 생성형 AI가 빠르게 보급되면서 이전과는 조금 다른 상황을 생각해야 할 필요가 생겼다. 이제는 전문적인 편집 능력이 없어도 글이나 이미지, 음성처럼 보이는 콘텐츠를 비교적 쉽게 만들어
더 읽기

사진 한 장에는 어떤 정보가 남을까: AI 시대에 알아둘 메타데이터와 위치 정보

스마트폰으로 사진을 찍으면 화면에는 한 장의 이미지만 보인다. 하지만 사진 파일에는 눈으로 보는 장면 외에도 촬영과 관련된 여러 정보가 함께 저장될 수 있다. 언제 촬영했는지, 어떤 기기를 사용했는지와 같은 정보가 대표적이다.   특히 위치 기능을 사용하는 환경에서는 촬영 장소와 관련된 정보가 사진 파일에 기록되는 경우도 있다. 평소에는 편리한 기능이지만 사진을 다른 사람과 공유하거나 온라인에 공개할
더 읽기

AI 시대의 디지털 스토킹은 어떻게 달라질까: 위치 정보와 온라인 흔적의 문제

스마트폰을 사용하다 보면 생각보다 많은 디지털 흔적을 남기게 된다. 사진을 올리고, 장소를 검색하고, SNS에 일상을 기록한다. 각각의 정보만 따로 보면 별것 아닌 것처럼 느껴질 수 있지만 여러 정보가 모이면 한 사람의 생활 패턴을 짐작할 수 있는 단서가 될 수도 있다.   여기에 AI의 정보 분석 능력이 더해지면서 새로운 질문이 생긴다. 공개된 온라인 정보를 빠르게 정리하고
더 읽기

온라인에 퍼진 이미지를 AI는 어떻게 다시 찾아낼까: 재유포 탐지 기술의 원리

인터넷에 올라온 사진은 삭제 버튼을 누르면 완전히 사라질까. 게시물을 처음 올린 공간에서는 삭제할 수 있지만, 누군가 이미 파일을 저장하거나 다른 플랫폼으로 옮겼다면 이야기가 달라진다. 같은 이미지가 이름과 크기를 바꾼 채 다시 등장할 수도 있기 때문이다. 특히 동의 없이 공개된 사적인 이미지나 합성 이미지라면 반복적인 재유포 자체가 또 다른 피해로 이어질 수 있다. 지난 글에서는 불법촬영물
더 읽기

불법촬영물 탐지에 AI는 어떻게 활용될까: 이미지 인식 기술과 디지털 안전

불법촬영 문제와 인공지능은 얼핏 보면 서로 다른 분야처럼 보인다. 불법촬영 자체는 AI가 등장하기 전부터 존재했던 문제이기 때문이다. 하지만 촬영물이 온라인 공간으로 유포되고 복제되는 과정에서는 AI 기술과 새로운 접점이 생기고 있다.   수많은 이미지와 영상이 매일 온라인에 올라오는 환경에서 사람이 모든 콘텐츠를 일일이 확인하는 데는 한계가 있다. 이 때문에 문제가 되는 콘텐츠를 발견하거나 이미 확인된 이미지의
더 읽기

AI 딥페이크는 왜 젠더 문제가 될까: 생성형 AI 시대에 달라진 디지털 이미지

딥페이크라는 단어는 이제 낯설지 않다. 인공지능으로 얼굴이나 목소리, 영상 등을 실제처럼 합성하는 기술이 빠르게 발전하면서 누구나 생성형 AI의 결과물을 접할 수 있는 시대가 됐다. 영화나 교육, 콘텐츠 제작처럼 유용하게 활용되는 경우도 있지만, 당사자의 동의 없이 특정인의 모습을 합성하는 문제 역시 함께 커지고 있다.   특히 딥페이크를 젠더 관점에서 살펴볼 필요가 있는 이유는 기술 자체보다 그것이
더 읽기

AI의 젠더 편향을 줄일 수 있을까? 더 공정한 인공지능을 만드는 방법

인공지능의 젠더 편향을 이야기하면 흔히 학습 데이터가 원인이라는 설명부터 떠올린다. 실제로 데이터는 중요한 요소다. 하지만 데이터를 한 번 정리한다고 해서 모든 문제가 해결되는 것은 아니다. AI가 만들어지는 과정에는 데이터 수집과 학습, 모델 평가, 서비스 설계 등 여러 단계가 존재한다. 서비스를 출시한 이후에는 사용자의 질문과 AI가 만들어 내는 결과도 계속해서 새로운 변수가 된다. 따라서 AI의 젠더
더 읽기

AI의 젠더 편향은 어떻게 측정할까? 인공지능을 테스트하는 방법

인공지능의 젠더 편향에 관한 이야기를 듣다 보면 한 가지 의문이 생긴다. AI가 정말 편향된 결과를 만드는지 어떻게 확인할 수 있을까? AI가 생성한 문장 하나에서 특정 성별이 등장했다고 해서 곧바로 젠더 편향이라고 판단하기는 어렵다. 이미지 생성 AI 역시 한 장의 결과만 보고 전체적인 특성을 설명하기 어렵다. 생성형 AI는 같은 질문에도 결과가 달라질 수 있기 때문이다. 그래서
더 읽기

생성형 AI가 만든 이야기에는 젠더 고정관념이 나타날까?

생성형 AI에게 “회사를 이끄는 리더가 등장하는 짧은 이야기를 써줘”라고 요청하면 어떤 인물이 만들어질까. 성별을 지정하지 않았다면 AI는 이름부터 성격, 직업, 행동까지 여러 요소를 스스로 채워야 한다. 이번에는 “아이를 돌보는 사람이 등장하는 이야기를 써줘”라고 요청해 볼 수 있다. 여기에서도 성별에 관한 조건은 없다. 그런데 이런 요청을 여러 번 반복했을 때 특정 역할에 비슷한 성별이 자주 등장한다면
더 읽기
로드 중. 기다려주세요...
맨 위로 이동