인공지능에게 “유능한 리더에 대한 이야기를 써줘”라고 요청하면 어떤 인물이 등장할까. 반대로 간호사나 유치원 교사, 엔지니어가 등장하는 짧은 이야기를 요청하면 AI는 각 인물을 어떻게 묘사할까.
사용자가 성별을 지정하지 않았는데도 특정 직업이나 역할에서 비슷한 성별 표현이 반복된다면 흥미로운 질문이 생긴다. AI는 직업과 성별 사이의 관계를 어떻게 결정하는 것일까.
이 문제를 이해하려면 인공지능이 직업에 대한 가치관을 스스로 만든다고 생각하기보다 AI가 학습한 언어 자료에 어떤 관계가 반복되어 있었는지를 살펴보는 것이 중요하다.
AI는 직업의 의미를 어떻게 학습할까
생성형 AI는 수많은 텍스트에서 단어와 문장이 사용되는 패턴을 학습한다.
예를 들어 ‘의사’라는 단어는 병원, 환자, 진료, 의료진 같은 표현과 함께 등장할 가능성이 높다. ‘개발자’라면 프로그램, 소프트웨어, 코드와 같은 단어가 주변에서 자주 발견될 수 있다.
사람을 지칭하는 표현도 마찬가지다.
특정 직업을 설명하는 글에서 남성이나 여성을 나타내는 표현이 한쪽에 치우쳐 반복됐다면 AI가 직업과 성별 사이의 언어적 관계를 학습할 가능성이 있다.
여기서 중요한 점은 AI가 직업에 적합한 성별을 판단했다는 뜻이 아니라는 것이다. 데이터 속에서 자주 나타난 관계가 생성 결과에 영향을 줄 수 있다는 의미에 가깝다.
현실의 직업 변화와 데이터에는 시간차가 있다
AI와 젠더를 이해할 때 생각해 볼 부분이 하나 더 있다. 바로 데이터가 만들어진 시점이다.
직업에 대한 사회적 이미지는 계속 변화한다. 과거에는 특정 성별이 많이 종사했던 분야라도 시간이 지나면서 구성이 달라질 수 있다. 새로운 기술이 등장하면서 이전에는 존재하지 않았던 직업도 생긴다.
하지만 인터넷에는 현재의 자료만 있는 것이 아니다.
오래된 기사와 책, 게시물, 광고, 사진 설명 등 다양한 시기에 만들어진 정보가 함께 존재한다. AI가 이런 자료에서 패턴을 학습한다면 과거에 널리 사용됐던 직업과 성별의 연결 방식도 데이터에 남아 있을 수 있다.
따라서 AI가 보여주는 직업 이미지를 현재 사회의 정확한 모습이라고 받아들이는 것은 주의할 필요가 있다.
AI의 결과는 현재 현실을 조사해 만든 통계가 아니라 학습된 데이터와 사용자의 요청을 바탕으로 생성된 결과이기 때문이다.
같은 직업도 질문에 따라 묘사가 달라진다
생성형 AI를 이용하면 이러한 특징을 비교적 간단하게 관찰할 수 있다.
예를 들어 “엔지니어가 주인공인 짧은 이야기를 작성해 줘”라고 요청한 뒤 등장인물을 확인해 볼 수 있다.
다음에는 “성별을 특정하지 말고 엔지니어가 주인공인 이야기를 작성해 줘”처럼 조건을 추가할 수 있다. 또는 서로 다른 배경을 가진 여러 엔지니어가 등장하도록 요청하는 방법도 있다.
이렇게 프롬프트를 조금씩 변경하면 AI의 결과가 고정되어 있는 것이 아니라 사용자가 제공하는 문맥과 조건에 따라 달라질 수 있다는 사실을 확인할 수 있다.
다만 한두 번의 결과만으로 특정 AI가 항상 같은 편향을 보인다고 결론 내리는 것은 적절하지 않다. 생성형 AI의 출력에는 변동성이 있고 모델이 업데이트되면서 결과가 달라질 수도 있기 때문이다.
AI가 만든 직업 소개를 사용할 때 확인할 점
AI는 이제 글쓰기와 교육 자료, 직업 소개 콘텐츠 등 다양한 분야에서 활용되고 있다.
예를 들어 어린이를 위한 직업 소개 자료를 AI로 작성한다고 생각해 보자. 과학자는 항상 남성으로, 돌봄과 관련된 직업은 항상 여성으로 묘사된다면 작성자가 의도하지 않은 고정관념이 콘텐츠에 포함될 수 있다.
그래서 AI로 사람이나 직업을 묘사하는 글을 만들 때는 결과를 한 번 확인하는 습관이 중요하다.
특정 직업과 성별이 불필요하게 연결되어 있지는 않은지, 사용자가 요청하지 않은 성별 특성이 추가되지는 않았는지 살펴볼 수 있다.
이는 모든 직업의 성별 표현을 인위적으로 동일하게 만들어야 한다는 의미는 아니다. 핵심은 콘텐츠의 목적과 관계없는 고정관념이 자동으로 들어가지 않았는지 확인하는 것이다.
AI의 직업 표현은 사회를 비추는 또 하나의 창
AI가 직업을 묘사하는 방식을 살펴보다 보면 결국 데이터가 만들어진 사회로 시선이 돌아간다.
우리는 오랫동안 소설, 뉴스, 영화, 광고와 일상적인 대화에서 수많은 직업을 특정한 모습으로 표현해 왔다. 이러한 기록이 디지털 데이터로 축적되고 다시 AI의 학습에 활용되면서 과거의 표현 방식이 새로운 기술에서도 나타날 수 있다.
동시에 사회의 직업과 성 역할은 계속 변화하고 있다. AI가 생성한 결과와 실제 사회 사이에 차이가 생길 수 있는 이유다.
따라서 AI의 직업 표현을 무조건 현실의 모습이라고 받아들이기보다 어떤 데이터와 언어적 패턴이 결과에 영향을 주었는지 생각해 보는 것이 중요하다.
인공지능이 직업과 성별을 어떻게 연결하는지 살펴보는 일은 결국 우리가 직업을 어떤 이미지와 언어로 기록해 왔는지를 돌아보는 일이기도 하다.
FAQ
AI는 특정 직업을 남성 또는 여성의 직업이라고 판단하나요?
사람처럼 직업에 적합한 성별을 판단한다고 보기는 어렵다. AI는 학습 데이터에 나타난 단어와 문맥의 관계를 학습하며, 직업과 특정 성별 표현이 반복적으로 연결된 데이터가 결과에 영향을 줄 수 있다.
AI가 묘사한 직업의 모습은 실제 사회를 반영하나요?
일부 현실의 특징이 반영될 수 있지만 현재 사회의 정확한 통계라고 볼 수는 없다. AI는 다양한 시기에 만들어진 데이터를 학습할 수 있고 생성 결과에는 모델과 프롬프트 등 여러 요소가 영향을 준다.
직업 관련 AI 콘텐츠를 만들 때 무엇을 확인해야 하나요?
사용자가 지정하지 않은 성별이 불필요하게 추가됐는지, 특정 직업에 반복적인 성별 고정관념이 적용되지는 않았는지 확인하는 것이 좋다. 특히 교육이나 직업 소개 콘텐츠에서는 등장인물의 묘사가 글의 목적과 적절하게 연결되는지 검토할 필요가 있다.
#인공지능 #AI #생성형AI #젠더와AI #AI젠더 #젠더편향 #AI편향 #직업과젠더 #직업고정관념 #성별고정관념 #AI학습 #AI학습데이터 #AI윤리 #인공지능윤리 #AI와사회 #디지털문화
