인공지능에게 사람의 성별은 어떤 의미일까. 사람은 이름이나 말투, 옷차림 같은 여러 단서를 접하면서 상대방에 대해 다양한 정보를 추측한다. 하지만 AI가 정보를 처리하는 과정은 사람의 직관과는 상당히 다르다.
AI는 처음부터 ‘남성은 이렇고 여성은 저렇다’는 식으로 세상을 이해하고 태어나는 존재가 아니다. 학습 과정에서 많은 데이터를 처리하면서 그 안에 반복적으로 나타나는 통계적인 관계와 패턴을 학습한다.
이 차이를 이해하는 것은 AI와 젠더 문제를 살펴볼 때 특히 중요하다. AI가 특정 성별과 직업, 단어, 이미지 등을 연결하는 결과를 보였다고 해서 AI 자체에 사람과 같은 신념이나 가치관이 있다고 해석하기는 어렵기 때문이다.
그렇다면 인공지능은 데이터에서 젠더와 관련된 정보를 실제로 어떻게 배우는 것일까.
AI가 배우는 것은 사람의 성별 자체보다 데이터의 패턴이다
먼저 AI의 ‘학습’이라는 표현부터 살펴볼 필요가 있다.
머신러닝 시스템은 주어진 데이터에서 반복되는 특징과 관계를 찾아 이후의 입력을 분류하거나 예측하는 데 활용한다. 어떤 목적으로 만들어진 AI인지에 따라 사용하는 데이터와 학습 방법도 달라진다.
예를 들어 텍스트를 다루는 AI라면 수많은 문장에서 어떤 단어들이 서로 어떤 맥락에서 등장하는지를 학습할 수 있다.
이미지를 다루는 시스템이라면 사진에 나타나는 형태, 색상, 질감 등 다양한 시각적 특징 사이의 관계를 학습할 수 있다. 음성을 처리하는 AI 역시 소리의 여러 특성을 데이터로 처리한다.
여기서 중요한 부분이 있다.
AI가 데이터에서 발견한 상관관계가 반드시 현실 세계의 보편적인 규칙을 의미하지는 않는다는 점이다.
가령 학습에 사용된 자료에서 특정 직업을 설명하는 문장과 특정 성별을 나타내는 표현이 유난히 자주 함께 등장했다면, 모델은 둘 사이의 통계적 연관성을 학습할 가능성이 있다.
그러나 그것은 그 직업이 본질적으로 특정 성별에 적합하다는 뜻이 아니다. 데이터에 그러한 패턴이 많이 존재했다는 의미에 가깝다.
이 구분을 놓치면 AI의 결과를 실제 사회의 객관적인 사실로 오해하기 쉽다.
데이터에 들어 있는 사회의 모습도 함께 학습될 수 있다
AI 학습 데이터는 진공 상태에서 만들어지지 않는다.
책, 기사, 웹 문서, 이미지처럼 사람이 오랜 시간 생산해 온 자료에는 당시의 사회와 문화가 반영되어 있다. 시대에 따라 직업의 성별 구성이나 가족 역할에 대한 표현이 달랐고, 언어에서 특정 성별을 묘사하는 방식에도 차이가 있었다.
따라서 이런 자료를 학습하는 AI에는 언어와 지식뿐 아니라 데이터에 존재하는 사회적 패턴까지 반영될 가능성이 있다.
간단한 예를 생각해보자.
어떤 가상의 데이터에 ‘간호사’와 여성을 나타내는 표현이 반복적으로 함께 등장하고, ‘기술자’와 남성을 나타내는 표현이 훨씬 많이 함께 등장한다고 가정할 수 있다.
AI는 주어진 자료에서 이러한 관계를 찾아낼 수 있다.
문제는 이 패턴을 새로운 문장이나 이미지를 생성하는 상황에서도 그대로 적용할 가능성이 있다는 것이다. 이 경우 과거 데이터에 많이 나타났던 구성이 새로운 콘텐츠를 통해 다시 반복될 수 있다.
이것이 AI의 젠더 문제를 이야기할 때 학습 데이터의 구성을 중요하게 살펴보는 이유 중 하나다.
번역 AI를 생각하면 젠더 학습을 이해하기 쉽다
일상에서 이 문제를 비교적 쉽게 생각해볼 수 있는 사례가 자동 번역이다.
언어마다 성별을 표현하는 방식이 동일하지 않다. 어떤 언어에서는 문장만 보고 화자의 성별을 알 수 없는 경우가 많지만, 번역 대상 언어에서는 대명사나 단어의 형태 때문에 성별을 선택해야 하는 상황이 생길 수 있다.
예를 들어 원문에는 단순히 ‘그 사람은 의사다’ 정도의 정보밖에 없는데, 다른 언어로 옮기는 과정에서는 문법적 구조 때문에 추가적인 선택이 필요할 수 있다.
이때 번역 시스템이 원문에 없는 성별을 특정 방향으로 추정한다면 어디에서 그 판단이 나왔는지를 생각해볼 필요가 있다.
주변 문맥이 단서가 될 수도 있고, 학습 데이터에서 나타난 단어 사이의 통계적인 관계가 영향을 줄 수도 있다.
실제로 자동 번역을 이용할 때 이런 부분을 관찰해보는 방법도 있다. 사람의 직업만 바꾸고 나머지 문장 구조를 최대한 동일하게 만든 뒤 번역 결과에서 대명사나 성별 표현이 달라지는지를 비교해보는 것이다.
다만 한두 번의 결과만으로 특정 AI 전체가 편향되어 있다고 결론 내리는 것은 조심해야 한다. 모델의 버전, 입력 문장, 주변 문맥 등에 따라 결과가 달라질 수 있기 때문이다.
중요한 것은 원문에 존재하지 않는 정보를 AI가 어떤 근거로 보충했는가를 살펴보는 관점이다.
이미지 AI에서 젠더는 더욱 복잡해진다
이미지를 처리하는 AI에서는 문제가 조금 더 복잡하다.
사진에는 헤어스타일, 옷, 얼굴 특징, 액세서리처럼 다양한 시각 정보가 동시에 존재한다. AI는 목적에 따라 이러한 특징에서 패턴을 찾을 수 있지만, 특정 외형을 곧바로 성별과 동일시하면 오류가 발생할 수 있다.
머리가 짧다고 반드시 남성인 것도 아니며, 특정 색상의 옷을 입었다고 성별이 결정되는 것도 아니다. 문화와 시대가 바뀌면 외모를 해석하는 방식 역시 달라질 수 있다.
특히 사진만으로 개인의 성별 정체성을 정확하게 알아낼 수 있다고 전제하는 것 자체가 문제가 될 수 있다. 이미지에 나타난 외형적 특징과 한 사람이 자신을 어떻게 정의하는지는 서로 다른 정보이기 때문이다.
따라서 AI를 설계할 때는 단순히 “얼마나 정확하게 성별을 맞히는가”만 생각해서는 부족하다.
서비스에 따라서는 애초에 성별을 추정해야 할 필요가 있는지부터 검토할 수 있다. 사용자에게 필요한 기능과 관계없는 정보라면 굳이 AI가 추측하도록 만들지 않는 것도 하나의 설계 방식이다.
젠더 편향은 모델만의 문제가 아니다
AI 결과에서 젠더와 관련된 고정관념이 발견되면 흔히 ‘AI가 편견을 가졌다’고 표현한다.
일상적인 설명으로는 이해하기 쉬운 말이지만 실제 과정을 분석하려면 조금 더 세분해서 볼 필요가 있다.
결과에는 학습 데이터뿐 아니라 데이터 수집 방법, 모델의 학습 방식, 개발 과정에서의 평가 기준, 사용자의 입력 문장, 서비스가 결과를 보여주는 방법 등 여러 요소가 관여할 수 있기 때문이다.
예를 들어 데이터 자체가 특정 집단에 지나치게 치우쳐 있다면 학습 단계에서 문제가 생길 수 있다. 데이터가 비교적 다양하더라도 서비스가 결과를 분류하는 기준을 지나치게 단순하게 정한다면 다른 문제가 나타날 수 있다.
사용자가 입력한 프롬프트 역시 결과에 영향을 미친다.
그래서 AI와 젠더를 제대로 이해하려면 결과 화면 하나만 보는 것보다 데이터 → 학습 → 입력 → 출력 → 서비스 설계라는 전체 과정을 함께 살펴보는 것이 유용하다.
AI가 성별을 ‘안다’는 표현을 조심해야 하는 이유
생성형 AI와 대화를 하다 보면 사람처럼 자연스럽게 답하기 때문에 AI가 성별의 사회적 의미까지 사람과 똑같이 이해한다고 느끼기 쉽다.
하지만 자연스러운 문장을 생성하는 능력과 인간처럼 개념을 경험하고 이해하는 것은 같은 의미가 아니다.
AI는 학습한 데이터와 모델의 구조를 바탕으로 입력에 적합한 결과를 만들어낸다. 따라서 우리가 AI의 결과를 해석할 때도 “AI는 여성을 이렇게 생각한다”처럼 의인화하기보다 “이 조건에서 모델이 이러한 결과를 생성했다”고 표현하는 것이 현상을 분석하는 데 더 정확하다.
이 작은 표현의 차이가 중요한 이유가 있다.
AI 자체의 성격이나 의도를 논하는 데 집중하면 정작 확인해야 할 학습 데이터와 시스템 설계의 문제를 놓칠 수 있기 때문이다.
AI와 젠더를 이해하는 첫걸음은 데이터에 있다
인공지능과 젠더의 관계는 단순히 ‘AI가 성별을 구분할 수 있는가’라는 질문으로 끝나지 않는다.
AI가 어떤 데이터를 학습했는지, 그 데이터에 어떤 사회적 패턴이 포함되어 있는지, 그리고 시스템이 그 패턴을 실제 결과에 어떻게 반영하는지를 함께 살펴봐야 한다.
특히 기억할 점은 데이터에서 자주 나타나는 패턴과 사회적으로 바람직하거나 보편적인 사실은 서로 다를 수 있다는 것이다.
AI가 특정 직업과 특정 성별을 자주 연결한다고 해도 그것이 직업과 성별 사이의 본질적인 관계를 증명하는 것은 아니다. 학습 자료의 구성이나 역사적·사회적 배경이 반영된 결과일 가능성도 함께 검토해야 한다.
이 관점을 이해하면 생성형 AI에서 나타나는 젠더 관련 현상도 조금 더 구체적으로 분석할 수 있다.
다음 글에서는 여기서 한 단계 더 들어가 AI의 젠더 편향이 어떤 과정에서 발생할 수 있는지, 그리고 학습 데이터가 결과에 어떤 영향을 줄 수 있는지를 살펴본다.
FAQ
AI는 사람의 성별을 스스로 이해하나요?
사람이 성별을 이해하는 것과 AI가 데이터를 처리하는 것은 구분할 필요가 있습니다. AI는 학습 데이터에서 단어, 이미지, 음성 등의 특징과 관계를 학습하고 주어진 목적에 따라 결과를 생성하거나 분류합니다. 따라서 AI가 사람처럼 성별을 경험하고 이해한다고 표현하는 것은 정확하지 않을 수 있습니다.
AI가 성별을 잘못 추측하는 이유는 무엇인가요?
학습 데이터의 구성, 입력 정보의 부족, 모델의 설계 및 사용 맥락 등 다양한 원인이 있을 수 있습니다. 특히 이름이나 외모처럼 성별과 완전히 일치하지 않는 특징만으로 추정하면 오류가 생길 수 있습니다.
AI 서비스는 반드시 사용자의 성별을 알아야 하나요?
그렇지 않습니다. 서비스의 목적에 따라 성별 정보가 필요하지 않은 경우도 많습니다. 따라서 AI가 성별을 얼마나 정확하게 추측하는지를 고민하기 전에 해당 기능을 제공하기 위해 성별을 추정할 필요가 있는지 검토하는 것도 중요합니다.
