인공지능의 젠더 편향에 관한 이야기를 듣다 보면 한 가지 의문이 생긴다. AI가 정말 편향된 결과를 만드는지 어떻게 확인할 수 있을까?
AI가 생성한 문장 하나에서 특정 성별이 등장했다고 해서 곧바로 젠더 편향이라고 판단하기는 어렵다. 이미지 생성 AI 역시 한 장의 결과만 보고 전체적인 특성을 설명하기 어렵다. 생성형 AI는 같은 질문에도 결과가 달라질 수 있기 때문이다.
그래서 AI의 젠더 편향을 살펴볼 때는 개인적인 인상만으로 판단하기보다 일정한 조건을 만들고 결과를 비교하는 과정이 필요하다.
한 번의 AI 답변으로 판단하기 어려운 이유
생성형 AI를 사용하다 보면 예상하지 못한 답변이 나올 때가 있다.
예를 들어 “회사의 대표가 회의를 진행했다”라는 문장을 이용해 이야기를 만들어 달라고 했는데 AI가 대표를 특정 성별로 설정했다고 생각해 보자.
이 결과만으로 해당 AI가 항상 같은 성별을 대표와 연결한다고 말할 수 있을까?
그렇게 판단하기는 어렵다. 같은 프롬프트를 다시 입력하면 다른 인물이 등장할 수도 있고 단어 하나를 변경했을 때 결과가 크게 달라질 수도 있다.
AI 모델의 종류와 버전, 서비스의 설정도 결과에 영향을 줄 수 있다.
따라서 젠더 편향을 관찰할 때 중요한 것은 눈에 띄는 사례 하나를 찾는 것이 아니라 비슷한 조건에서 일정한 경향이 반복되는지를 확인하는 것이다.
조건을 하나씩 바꾸면서 비교하기
일반 사용자도 간단한 방식으로 AI의 젠더 표현을 관찰해 볼 수 있다.
예를 들어 다음과 같은 문장을 생각할 수 있다.
“한 명의 엔지니어가 새로운 프로젝트를 시작하는 이야기를 작성해 줘.”
여기에는 등장인물의 성별이 지정되어 있지 않다. 같은 요청을 여러 번 사용하면서 AI가 인물을 어떻게 설정하는지 살펴볼 수 있다.
그다음에는 엔지니어를 간호사, 교사, 경영자, 연구원 등 다른 직업으로 변경한다. 나머지 문장 구조는 최대한 비슷하게 유지한다.
이렇게 하면 직업이라는 조건이 달라졌을 때 등장인물의 표현도 달라지는지 비교하기 쉬워진다.
핵심은 한꺼번에 너무 많은 조건을 바꾸지 않는 것이다. 직업과 나이, 장소, 성격을 동시에 변경하면 어떤 요소가 결과에 영향을 주었는지 구분하기 어려워진다.
여러 결과를 기록해야 패턴이 보인다
AI 테스트에서 기록은 생각보다 중요하다.
몇 번의 결과를 기억에 의존해 비교하면 유난히 인상적이었던 답변만 떠올릴 수 있다. 대신 간단한 표를 만들어 프롬프트와 결과를 기록하면 반복되는 특징을 살펴보기 쉬워진다.
예를 들어 직업, 등장한 성별 표현, 인물의 성격 묘사, 생성 횟수 등을 기록할 수 있다.
이미지 생성 AI도 비슷하다. 같은 직업을 여러 차례 생성하고 등장인물의 특징을 비교하면 된다.
다만 작은 개인 실험의 결과를 모든 AI 시스템에 일반화해서는 안 된다. 표본이 적을 수 있고 서비스가 업데이트되면서 결과가 바뀔 수도 있기 때문이다.
이러한 테스트의 목적은 특정 AI에 최종적인 판정을 내리는 것이 아니라 AI의 결과를 비판적으로 관찰하는 방법을 익히는 데 있다.
편향과 현실의 차이를 어떻게 볼까
AI 젠더 편향을 평가할 때 가장 어려운 질문 가운데 하나는 무엇을 기준으로 공정성을 판단할 것인가이다.
예를 들어 현실에서 특정 직업의 성별 분포가 균등하지 않다면 AI는 현실의 비율을 그대로 반영해야 할까? 아니면 다양한 인물을 균형 있게 보여줘야 할까?
상황에 따라 답은 달라질 수 있다.
역사적인 사실을 설명하는 AI와 어린이를 위한 미래 직업 이미지를 만드는 AI는 목적이 다르다. 과거의 특정 시기를 재현하는 콘텐츠에서는 당시의 사회적 배경이 중요하지만 일반적인 직업 소개에서는 불필요한 고정관념을 반복하지 않는 것이 중요할 수 있다.
그래서 AI 공정성은 단순히 모든 결과를 동일한 비율로 만드는 문제라고 보기 어렵다.
데이터의 특성과 AI가 사용되는 목적, 결과가 사람에게 미칠 수 있는 영향을 함께 살펴봐야 한다.
AI 편향 테스트가 중요한 이유
지금까지 이 시리즈에서는 학습 데이터부터 음성 비서, 이미지 생성, 번역, 직업 표현, 채용, 추천 알고리즘, 검색과 생성형 AI의 이야기까지 다양한 사례를 살펴봤다.
각 사례의 모습은 다르지만 공통점이 있다. AI가 사회와 완전히 분리된 상태에서 작동하지 않는다는 것이다.
사람이 만들어 온 데이터가 학습에 사용되고 사람이 AI의 목적과 사용 방법을 결정한다. 생성된 결과 역시 다시 사람이 선택하고 활용한다.
그렇기 때문에 AI의 젠더 편향을 이해하려면 “AI는 편향되어 있다” 또는 “AI는 객관적이다”라는 두 가지 결론 가운데 하나를 선택하는 것보다 구체적인 결과를 비교하고 그 원인을 살펴보는 과정이 중요하다.
사용자에게도 이러한 관찰은 의미가 있다.
AI가 만들어 준 첫 번째 답변을 정답으로 받아들이지 않고 질문을 조금씩 바꿔 보거나 여러 결과를 비교하면 AI가 가진 특성을 더 잘 이해할 수 있기 때문이다.
결국 AI의 젠더 편향을 측정한다는 것은 단순히 오류를 찾는 일이 아니다. 어떤 데이터와 조건에서 어떤 결과가 반복되는지 살펴보고, 그 결과가 사용 목적에 적절한지를 판단하는 과정에 가깝다.
다음 마지막 글에서는 지금까지 살펴본 내용을 바탕으로 AI의 젠더 편향을 줄이기 위해 개발자와 서비스 제공자, 그리고 일반 사용자가 각각 어떤 역할을 할 수 있는지 정리해 본다.
FAQ
AI 답변 하나에서 성별 고정관념이 발견되면 편향된 AI인가요?
한 번의 결과만으로 전체 모델의 특성을 단정하기는 어렵다. 같은 조건으로 여러 번 테스트하고 프롬프트의 일부를 변경하면서 특정한 경향이 반복되는지 살펴보는 것이 더 적절하다.
일반 사용자도 AI 젠더 편향을 테스트할 수 있나요?
가능하다. 성별을 지정하지 않은 동일한 문장을 여러 번 입력하거나 직업처럼 하나의 조건만 변경해 결과를 비교할 수 있다. 다만 개인적인 소규모 테스트 결과를 전체 AI 시스템의 특성으로 일반화하지 않는 것이 중요하다.
AI가 남성과 여성을 똑같은 비율로 보여주면 공정한 것인가요?
반드시 그렇지는 않다. AI가 사용되는 목적과 맥락에 따라 적절한 기준이 달라질 수 있다. 단순한 숫자의 균형뿐 아니라 데이터의 특성, 표현의 맥락, 결과가 실제로 어떻게 사용되는지도 함께 살펴봐야 한다.
