동영상이나 쇼핑 콘텐츠를 보다 보면 내가 관심을 가질 만한 콘텐츠가 연이어 추천되는 경험을 하게 된다. 몇 번 검색하거나 특정 게시물을 오래 봤을 뿐인데 비슷한 주제가 계속 등장하기도 한다.
이때 추천 알고리즘은 사용자의 성별을 알고 있기 때문에 이런 결과를 보여주는 것일까?
실제로 추천 시스템이 작동하는 방법은 서비스마다 다르다. 사용자가 직접 제공한 정보가 활용될 수도 있고, 클릭이나 시청 기록처럼 서비스를 이용하면서 만들어지는 행동 데이터가 추천에 영향을 줄 수도 있다.
젠더 관점에서 흥미로운 지점은 여기에 있다. AI가 성별을 직접 사용하지 않더라도 이용자의 행동에서 발견한 패턴을 통해 특정한 관심사를 연결할 수 있기 때문이다.
추천 AI는 관심사를 어떻게 파악할까
추천 알고리즘의 기본적인 목적은 수많은 콘텐츠 가운데 사용자가 관심을 가질 가능성이 높은 것을 찾는 것이다.
이를 위해 클릭한 콘텐츠, 검색 기록, 시청 시간, 구매나 저장 같은 다양한 신호가 활용될 수 있다. 실제로 어떤 정보가 사용되는지는 각 서비스의 설계와 정책에 따라 다르다.
예를 들어 사용자가 요리 관련 콘텐츠를 자주 본다면 시스템은 비슷한 요리 콘텐츠를 추천할 수 있다. 특정 음악을 반복해서 듣는다면 비슷한 음악이나 아티스트를 제안할 수도 있다.
이 과정에서 AI가 반드시 “이 사람은 이런 성별이므로 이 콘텐츠를 좋아할 것이다”라고 판단할 필요는 없다.
대신 비슷한 행동을 보인 사용자들이 어떤 콘텐츠를 선택했는지 분석하고 그 관계를 추천에 활용할 수 있다.
관심사와 성별이 연결될 때 생기는 문제
문제는 데이터 속 관심사가 사회에 존재하는 성별 고정관념과 연결되어 있을 때 나타날 수 있다.
예를 들어 특정 분야의 콘텐츠를 한 성별의 이용자가 많이 소비해 왔다고 가정해 보자. 추천 시스템이 이런 패턴을 강하게 반영한다면 비슷한 이용 행동을 보이는 사람에게도 특정 종류의 콘텐츠가 반복적으로 노출될 수 있다.
처음에는 작은 차이였더라도 추천과 선택이 반복되면서 차이가 커질 가능성도 생각해 볼 수 있다.
사용자는 추천받은 콘텐츠 가운데 하나를 선택하고, 그 선택은 다시 새로운 행동 데이터가 된다. 시스템은 그 데이터를 다음 추천에 활용할 수 있다.
즉, ‘추천 → 선택 → 새로운 데이터 → 다음 추천’이 이어지는 구조가 만들어지는 것이다.
이러한 구조에서는 기존의 관심사 패턴이 계속 강화되지 않는지 살펴보는 것이 중요하다.
성별을 입력하지 않아도 패턴은 만들어질 수 있다
추천 AI와 젠더를 이해할 때 주목할 점은 성별 정보의 유무만으로 편향 여부를 판단하기 어렵다는 것이다.
사용자가 가입할 때 성별을 입력하지 않았더라도 행동 데이터에는 다양한 특징이 포함된다.
어떤 영상을 시청했는지, 어떤 검색어를 입력했는지, 어떤 콘텐츠를 건너뛰었는지 같은 행동이 쌓이면서 시스템은 사용자의 관심사를 추정할 수 있다.
이러한 정보의 조합이 특정 집단에서 자주 나타나는 행동 패턴과 연결될 가능성도 있다.
앞선 AI 채용 사례에서 살펴본 것처럼 민감한 정보를 직접 사용하지 않는 것과 그 정보와 관련된 패턴이 결과에 전혀 영향을 주지 않는 것은 서로 다른 문제다.
따라서 추천 알고리즘의 젠더 편향을 살펴볼 때도 “성별 정보를 수집하는가?”라는 질문만으로는 충분하지 않다.
추천 결과가 취향 그 자체는 아니다
추천 시스템을 오래 사용하다 보면 화면에 나타나는 콘텐츠가 자신의 취향 전체를 보여준다고 생각하기 쉽다.
하지만 추천 결과는 사용자의 관심사와 알고리즘의 선택이 함께 만들어 낸 결과다.
사람에게는 아직 검색하지 않은 관심사도 있고 우연히 접한 뒤 새롭게 좋아하게 되는 분야도 있다. 반면 추천 시스템은 관찰할 수 있는 행동 데이터를 중심으로 다음 콘텐츠를 결정해야 한다.
따라서 추천 목록은 사용자를 완벽하게 설명하는 자료라기보다 과거 행동을 바탕으로 만들어진 하나의 예측이라고 보는 편이 적절하다.
사용자 역시 추천 화면에만 의존하지 않고 직접 새로운 주제를 검색하거나 다양한 콘텐츠를 찾아보면서 추천의 범위를 넓힐 수 있다.
AI 추천과 젠더를 함께 살펴봐야 하는 이유
추천 알고리즘은 우리가 인터넷에서 무엇을 볼지 결정하는 유일한 존재는 아니다. 하지만 많은 콘텐츠 가운데 일부를 먼저 보여준다는 점에서 온라인 경험에 상당한 영향을 줄 수 있다.
그렇기 때문에 AI 추천과 젠더의 관계를 살펴보는 것은 단순히 광고나 동영상 추천의 정확성을 평가하는 문제를 넘어선다.
어떤 관심사가 어떤 사람과 연결되어 왔는지, 기존 데이터의 패턴이 새로운 추천에서 어떻게 반복될 수 있는지를 생각해 보는 계기가 된다.
AI는 사람의 취향을 처음부터 알고 있는 것이 아니다. 사용자가 남긴 행동과 다른 데이터에서 발견한 관계를 바탕으로 다음 행동을 예측한다.
따라서 추천 결과에서 성별 고정관념과 비슷한 패턴이 나타난다면 AI가 성별에 대한 가치관을 가졌다고 단정하기보다 데이터와 추천 구조가 어떻게 연결되어 있는지 살펴보는 것이 중요하다.
결국 추천 알고리즘을 이해한다는 것은 AI가 우리를 얼마나 정확하게 ‘아는지’를 확인하는 일이 아니라, 우리가 남긴 데이터가 어떻게 다음 화면으로 되돌아오는지를 이해하는 과정에 가깝다.
FAQ
추천 알고리즘은 사용자의 성별을 알고 있나요?
서비스마다 다르다. 사용자가 직접 제공한 정보가 활용되는 경우도 있고 행동 데이터를 중심으로 추천하는 시스템도 있다. 따라서 특정 추천 결과만 보고 AI가 사용자의 성별을 알고 있다고 단정할 수는 없다.
성별 정보를 사용하지 않으면 젠더 편향도 없어지나요?
반드시 그렇지는 않다. 이용 행동이나 관심사 등 다른 정보가 사회적으로 형성된 성별 패턴과 간접적으로 연결될 가능성이 있기 때문이다. 실제 추천 결과와 데이터의 관계를 함께 살펴볼 필요가 있다.
추천 알고리즘이 보여주는 콘텐츠가 실제 내 취향인가요?
추천 결과는 취향의 일부를 반영할 수 있지만 사용자의 관심사 전체와 같다고 보기는 어렵다. 시스템이 관찰한 과거 행동을 기반으로 다음에 관심을 가질 가능성이 높은 콘텐츠를 예측한 결과이기 때문이다.
#인공지능 #AI #젠더와AI #AI젠더 #젠더편향 #AI편향 #추천알고리즘 #AI추천 #추천시스템 #알고리즘 #알고리즘편향 #성별고정관념 #개인화추천 #AI학습데이터 #AI윤리 #인공지능윤리 #AI와사
