생성형 AI에게 “회사를 이끄는 리더가 등장하는 짧은 이야기를 써줘”라고 요청하면 어떤 인물이 만들어질까. 성별을 지정하지 않았다면 AI는 이름부터 성격, 직업, 행동까지 여러 요소를 스스로 채워야 한다.
이번에는 “아이를 돌보는 사람이 등장하는 이야기를 써줘”라고 요청해 볼 수 있다. 여기에서도 성별에 관한 조건은 없다. 그런데 이런 요청을 여러 번 반복했을 때 특정 역할에 비슷한 성별이 자주 등장한다면 왜 그런 결과가 나타나는지 궁금해진다.
생성형 AI와 젠더의 관계를 이해하는 데 이야기 생성은 좋은 사례다. AI가 단순히 단어 하나를 선택하는 것을 넘어 등장인물의 성격과 직업, 가족 관계까지 만들어 내기 때문이다.
AI는 이야기 속 등장인물을 어떻게 만들까
생성형 AI는 사용자가 입력한 문장과 학습한 언어 패턴을 바탕으로 다음에 이어질 내용을 생성한다.
사람처럼 새로운 등장인물을 머릿속에서 상상한 뒤 글을 쓰는 방식과는 차이가 있다. 학습 과정에서 접한 다양한 문장에서 단어와 표현이 어떤 맥락에서 함께 사용되는지 학습하고 이를 활용한다.
이 때문에 사용자가 등장인물의 성별을 정하지 않아도 AI는 이야기를 자연스럽게 이어가기 위해 이름이나 대명사 같은 정보를 선택할 수 있다.
문제는 이러한 선택이 완전히 빈 공간에서 이루어지는 것이 아니라는 점이다.
소설과 기사, 설명문 등 사람이 만들어 온 텍스트에는 특정 역할과 성별을 연결했던 오랜 표현 방식이 존재한다. AI가 이런 언어 자료의 패턴을 학습했다면 새로운 이야기를 생성할 때도 그 흔적이 나타날 가능성이 있다.
성격을 묘사할 때도 젠더가 나타날 수 있다
젠더 고정관념은 직업에서만 나타나는 것이 아니다.
‘강한 리더’, ‘다정한 보호자’, ‘뛰어난 과학자’, ‘세심한 조력자’처럼 사람의 성격이나 역할을 설명하는 표현에서도 성별 이미지가 만들어질 수 있다.
AI에게 이런 인물이 등장하는 이야기를 여러 번 요청하면 등장인물의 성별뿐 아니라 말투와 행동, 가족 내 역할 등을 비교해 볼 수 있다.
예를 들어 리더 역할에는 결단력이나 경쟁을 강조하고 돌봄 역할에는 친절함이나 감정적인 특성을 반복해서 연결하는지 살펴보는 것이다.
다만 한 번 생성된 이야기만으로 AI가 특정 고정관념을 가지고 있다고 단정하기는 어렵다. 생성형 AI는 같은 프롬프트에도 서로 다른 결과를 만들 수 있기 때문이다.
여러 결과에서 반복되는 특징을 관찰하는 편이 더 의미가 있다.
프롬프트가 등장인물에 미치는 영향
AI가 만들어 내는 이야기에는 학습 데이터뿐 아니라 사용자의 프롬프트도 큰 영향을 준다.
“성공한 CEO 이야기를 써줘”라는 요청과 “서로 다른 배경을 가진 사람들이 회사를 운영하는 이야기를 써줘”라는 요청에는 이미 다른 조건이 포함되어 있다.
사용자가 조건을 거의 제공하지 않으면 AI는 학습한 패턴을 이용해 빈 부분을 채워야 한다. 반대로 인물의 역할과 상황을 구체적으로 제시하면 결과의 범위를 어느 정도 조정할 수 있다.
직접 비교해 보는 방법도 있다.
동일한 프롬프트를 여러 차례 사용한 뒤 등장인물의 성별, 직업, 성격을 기록해 보고 이후에는 성별을 특정하지 말라는 조건이나 다양한 인물이 등장하도록 조건을 추가해 결과가 어떻게 달라지는지 살펴볼 수 있다.
이런 과정은 AI의 정답을 찾기 위한 것이라기보다 프롬프트와 생성 결과의 관계를 이해하는 데 의미가 있다.
AI가 만든 콘텐츠를 그대로 사용해도 될까
생성형 AI는 블로그 글의 초안이나 광고 문구, 시나리오 아이디어, 교육 자료 등 다양한 콘텐츠 제작에 활용되고 있다.
이때 AI가 만들어 준 등장인물과 표현을 검토하지 않고 그대로 사용하면 작성자가 의도하지 않은 고정관념까지 콘텐츠에 포함될 수 있다.
예를 들어 성별과 관계없는 직업인데 특정 성별만 반복해서 등장하거나, 가족 내 역할을 지나치게 한쪽 성별과 연결하는 표현이 만들어질 수 있다.
그래서 AI 콘텐츠를 사용할 때는 사실관계만 확인하는 것으로 끝내지 않고 등장인물이 어떤 방식으로 묘사됐는지도 살펴볼 필요가 있다.
모든 콘텐츠에 인위적으로 같은 비율의 인물을 등장시켜야 한다는 뜻은 아니다. 이야기의 목적과 관계없는 성별 고정관념이 자동으로 들어가지는 않았는지 확인하는 것이 핵심이다.
AI 이야기는 우리가 기록한 문화를 다시 보여준다
생성형 AI가 만든 이야기를 살펴보면 기술과 문화가 서로 분리된 영역이 아니라는 사실을 확인할 수 있다.
AI가 학습하는 텍스트의 상당 부분은 사람이 만든 언어적 기록이다. 그 안에는 특정 시대의 사회적 배경과 직업관, 가족관, 사람을 묘사하는 방식도 담겨 있을 수 있다.
따라서 AI가 만들어 낸 이야기에서 젠더 고정관념과 비슷한 모습이 발견된다면 알고리즘만 바라보는 것보다 데이터에 어떤 문화적 패턴이 축적되어 있었는지도 함께 생각할 필요가 있다.
동시에 사용자는 AI가 제시한 첫 번째 결과를 그대로 받아들일 필요가 없다. 등장인물의 설정을 바꾸거나 프롬프트를 구체화하고 결과를 직접 편집할 수 있다.
생성형 AI 시대에는 콘텐츠를 만드는 과정에서 사람과 AI의 역할이 점점 가까워지고 있다. 그래서 AI가 무엇을 생성했는지만큼 그것을 사람이 어떻게 검토하고 선택하는지도 중요해진다.
AI와 젠더를 살펴보는 일 역시 결국 AI가 사람을 어떻게 바라보는가라는 질문에서 끝나지 않는다. 우리가 사람과 사회를 어떤 언어로 기록해 왔으며 그 기록이 새로운 AI 콘텐츠에서 어떻게 다시 나타나는지를 살펴보는 과정이라고 할 수 있다.
FAQ
생성형 AI는 이야기 속 인물의 성별을 스스로 결정하나요?
사용자가 성별을 지정하지 않아도 AI가 이야기를 자연스럽게 생성하는 과정에서 이름이나 대명사 등을 선택할 수 있다. 이러한 결과에는 프롬프트와 학습된 언어 패턴 등 여러 요소가 영향을 미칠 수 있다.
AI가 만든 이야기 하나로 젠더 편향을 판단할 수 있나요?
한 번의 결과만으로 판단하기는 어렵다. 생성형 AI는 같은 요청에도 다른 결과를 만들 수 있으므로 동일하거나 유사한 조건으로 여러 결과를 비교하는 방법이 더 적절하다.
AI로 글을 작성할 때 젠더 표현은 어떻게 확인해야 하나요?
성별을 지정하지 않은 등장인물에게 불필요한 성별 특성이 추가되지는 않았는지, 특정 직업이나 성격이 한 성별과 반복적으로 연결되지는 않는지 살펴보는 것이 좋다. 필요한 경우 프롬프트를 수정하고 최종 글은 사람이 직접 검토해야 한다.
#인공지능 #AI #생성형AI #젠더와AI #AI젠더 #젠더편향 #AI편향 #젠더고정관념 #성별고정관념 #AI글쓰기 #AI스토리텔링 #생성형AI글쓰기 #AI콘텐츠 #AI학습데이터 #프롬프트 #AI윤리 #인공지능윤리 #AI와사
