[카테고리:] Ai&젠더뉴스

AI 검색과 자동완성은 젠더를 어떻게 보여줄까? 검색어 속 성별 편향

검색창에 몇 글자를 입력했을 뿐인데 내가 찾으려던 문장이 자동으로 나타날 때가 있다. 검색어 자동완성은 이제 너무 익숙한 기능이라 어떤 원리로 문장이 제시되는지 생각하지 않고 사용하는 경우가 많다. 최근에는 검색 서비스에 인공지능 기술이 폭넓게 활용되고 생성형 AI가 검색 결과를 요약하거나 질문에 직접 답하는 방식도 등장했다. 덕분에 정보를 찾는 과정은 더욱 편리해졌지만 새로운 질문도 생긴다. 사람과 직업,
더 읽기

추천 알고리즘은 성별을 어떻게 추측할까? AI 추천과 젠더의 관계

동영상이나 쇼핑 콘텐츠를 보다 보면 내가 관심을 가질 만한 콘텐츠가 연이어 추천되는 경험을 하게 된다. 몇 번 검색하거나 특정 게시물을 오래 봤을 뿐인데 비슷한 주제가 계속 등장하기도 한다. 이때 추천 알고리즘은 사용자의 성별을 알고 있기 때문에 이런 결과를 보여주는 것일까? 실제로 추천 시스템이 작동하는 방법은 서비스마다 다르다. 사용자가 직접 제공한 정보가 활용될 수도 있고, 클릭이나
더 읽기

AI 채용은 성별을 보지 않으면 공정할까? 알고리즘과 젠더 편향

기업이 많은 지원자의 이력서를 검토해야 한다면 상당한 시간과 노력이 필요하다. 이런 과정을 돕기 위해 이력서 분류, 지원자 정보 정리, 직무 적합성 분석 등에 인공지능과 자동화 기술을 활용하려는 시도가 이어져 왔다. 여기서 한 가지 흥미로운 질문이 생긴다. AI에게 지원자의 성별 정보를 알려주지 않으면 채용 과정에서 젠더 편향도 자연스럽게 사라질까? 처음에는 그렇게 생각하기 쉽다. 그러나 AI의 공정성
더 읽기

AI는 직업에 성별을 연결할까? 인공지능이 학습한 직업과 젠더

인공지능에게 “유능한 리더에 대한 이야기를 써줘”라고 요청하면 어떤 인물이 등장할까. 반대로 간호사나 유치원 교사, 엔지니어가 등장하는 짧은 이야기를 요청하면 AI는 각 인물을 어떻게 묘사할까. 사용자가 성별을 지정하지 않았는데도 특정 직업이나 역할에서 비슷한 성별 표현이 반복된다면 흥미로운 질문이 생긴다. AI는 직업과 성별 사이의 관계를 어떻게 결정하는 것일까. 이 문제를 이해하려면 인공지능이 직업에 대한 가치관을 스스로 만든다고
더 읽기

AI가 그린 사람은 왜 비슷할까? 이미지 생성 AI와 젠더 표현

AI가 그린 사람은 왜 비슷할까? 이미지 생성 AI와 젠더 표현 생성형 AI에게 ‘과학자’, ‘회사원’, ‘간호사’처럼 직업을 입력하고 사람을 그려 달라고 하면 어떤 이미지가 나올까. 성별을 따로 지정하지 않았는데도 특정한 모습의 인물이 반복해서 등장하는 경우가 있다. 이런 결과를 보면 AI가 직업마다 어울리는 성별을 스스로 판단한다고 생각하기 쉽다. 하지만 이미지 생성 AI가 사람처럼 직업이나 성별에 대한 가치관을
더 읽기

음성 비서의 목소리에는 왜 성별 이미지가 생길까

음성 비서의 목소리에는 왜 성별 이미지가 생길음성 비서의 목소리에는 왜 성별 이미지가 생길까 스마트폰의 음성 비서나 자동차 내비게이션의 안내를 듣다 보면 자연스럽게 그 목소리를 ‘여성 목소리’ 또는 ‘남성 목소리’라고 표현하게 된다. 화면에 사람이 등장하지 않아도 우리는 목소리만으로 화자의 이미지를 어느 정도 떠올린다. 그런데 여기에는 재미있는 점이 있다. 음성 비서의 실제 정체는 사람이 아니다. 인공지능이나 소프트웨어에는
더 읽기

AI의 젠더 편향은 어디에서 시작될까: 학습 데이터의 영향을 이해하기

생성형 AI에게 여러 직업에 종사하는 사람의 모습을 만들어 달라고 요청한다고 생각해보자. 별도로 성별을 지정하지 않았는데도 어떤 직업에서는 남성의 모습이, 다른 직업에서는 여성의 모습이 반복해서 등장한다면 흥미로운 질문이 생긴다. AI는 왜 성별을 지정하지 않은 요청에서도 특정한 선택을 하는 것처럼 보일까? 이 현상을 이해할 때 자주 등장하는 개념이 AI의 젠더 편향(gender bias)이다. 단순하게 말하면 성별과 직접적인 관련이
더 읽기
로드 중. 기다려주세요...
맨 위로 이동