기업이 많은 지원자의 이력서를 검토해야 한다면 상당한 시간과 노력이 필요하다. 이런 과정을 돕기 위해 이력서 분류, 지원자 정보 정리, 직무 적합성 분석 등에 인공지능과 자동화 기술을 활용하려는 시도가 이어져 왔다.
여기서 한 가지 흥미로운 질문이 생긴다. AI에게 지원자의 성별 정보를 알려주지 않으면 채용 과정에서 젠더 편향도 자연스럽게 사라질까?
처음에는 그렇게 생각하기 쉽다. 그러나 AI의 공정성 문제는 단순히 ‘성별’이라는 항목 하나를 삭제하는 것보다 복잡하다. AI가 어떤 데이터를 학습하고 무엇을 기준으로 결과를 만드는지가 함께 영향을 미치기 때문이다.
AI 채용 알고리즘은 무엇을 보고 판단할까
채용 과정에 사용되는 모든 AI가 같은 방식으로 작동하는 것은 아니다. 서비스의 목적과 설계에 따라 활용하는 정보와 결과도 달라진다.
예를 들어 어떤 시스템은 지원자의 경력이나 기술을 정리하는 역할만 할 수 있고, 다른 시스템은 직무와 관련된 정보를 기준으로 지원자를 분류하는 데 활용될 수 있다.
이 과정에서 중요한 것은 AI가 사용하는 기준이다.
과거 데이터를 이용해 일정한 패턴을 찾도록 설계했다면 그 데이터에는 이전 채용 과정의 특징도 포함될 수 있다. 과거에 어떤 사람이 많이 지원했고 어떤 사람이 선택됐는지 등의 기록이 완전히 중립적인 자료라고 단정하기는 어렵다.
AI는 데이터에 존재하는 패턴을 활용하기 때문에 과거의 결과를 학습하는 것과 미래에 바람직한 기준을 만드는 것은 서로 다른 문제다.
성별 정보를 지우는 것만으로 충분하지 않은 이유
지원서에서 성별 항목을 삭제했다고 가정해 보자. 그렇다면 AI는 성별을 직접적인 기준으로 사용할 수 없게 된다.
하지만 데이터에는 다양한 정보가 서로 연결되어 있을 수 있다.
학력, 경력, 활동 이력, 근무 형태처럼 겉으로는 성별과 관계없어 보이는 정보도 특정한 사회적 환경에서는 다른 특성과 일정한 상관관계를 가질 가능성이 있다.
머신러닝에서는 이렇게 직접 제공하지 않은 정보를 다른 변수들이 간접적으로 반영하는 문제를 생각해야 한다. 흔히 이러한 변수를 ‘프록시 변수’라는 개념으로 설명하기도 한다.
따라서 AI 공정성을 평가하려면 민감한 항목을 입력 데이터에서 제외했는지만 볼 것이 아니라 실제 결과에서 특정 집단에 지속적인 차이가 나타나는지도 살펴볼 필요가 있다.
과거의 성공 패턴이 항상 좋은 기준은 아니다
AI와 채용을 생각할 때 특히 주목할 부분은 ‘과거에 성공했던 사람과 비슷한 지원자를 찾는다’는 접근 방식이다.
과거의 우수한 직원들에게 공통적인 특징을 찾는 것은 언뜻 합리적으로 들린다. 하지만 과거 조직의 인적 구성이 한쪽으로 치우쳐 있었다면 이야기가 달라질 수 있다.
AI는 왜 그런 구성이 만들어졌는지 사회적 배경까지 자동으로 이해하는 것이 아니다. 데이터에서 반복적으로 나타나는 특징을 유용한 신호로 인식할 가능성이 있다.
이 때문에 데이터의 대표성이 중요하다.
특정 시대와 특정 조직에서 만들어진 기록이 모든 지원자와 미래의 업무 환경을 대표한다고 볼 수 있는지 검토해야 한다. 오래된 데이터라면 현재의 직무 환경과 맞는지도 확인할 필요가 있다.
결국 많은 데이터가 있다는 사실만으로 데이터의 품질까지 보장되는 것은 아니다.
사람의 판단과 AI의 판단은 어떻게 다를까
AI 채용에 대한 논의에서는 종종 ‘사람과 AI 중 누가 더 공정한가’라는 질문이 등장한다.
하지만 둘을 단순하게 대립시키는 것만으로 문제를 이해하기는 어렵다.
사람의 판단에도 고정관념이나 주관적인 요소가 개입할 수 있다. 반면 알고리즘이라고 해서 자동으로 중립적인 것도 아니다. 사람이 데이터와 평가 기준을 선택하고 시스템의 목적을 설계하기 때문이다.
AI를 활용했을 때 얻을 수 있는 장점 중 하나는 동일한 기준을 반복적으로 적용하기 쉽다는 것이다. 동시에 잘못된 기준이 포함되어 있다면 그 기준 역시 많은 사람에게 일관되게 적용될 수 있다는 문제가 생긴다.
그래서 중요한 것은 사람의 판단을 AI로 완전히 교체하는 것보다 AI가 어떤 역할을 맡고 결과를 사람이 어떻게 검토할 것인지 명확하게 정하는 것이다.
공정한 AI를 위해 결과를 살펴봐야 하는 이유
AI의 젠더 편향을 줄이기 위해서는 학습 데이터뿐 아니라 실제 시스템이 만들어 내는 결과를 지속적으로 살펴보는 과정이 중요하다.
특정 집단이 반복적으로 불리한 결과를 받지는 않는지, 모델이 업무와 직접 관련되지 않은 특징을 지나치게 중요하게 사용하지는 않는지 등을 점검할 수 있다.
또한 AI가 추천이나 분류를 담당하더라도 최종적인 채용 결정에는 조직의 책임이 남는다. ‘AI가 선택했다’는 이유만으로 결과에 대한 책임까지 알고리즘에 넘길 수는 없다.
이 점은 채용을 넘어 교육, 콘텐츠 추천 등 사람에 관한 결정을 보조하는 다양한 AI 시스템에도 적용할 수 있다.
AI가 성별이라는 단어를 보지 않는 것과 AI의 결과에서 젠더 편향이 나타나지 않는 것은 같은 의미가 아니다. 데이터가 어떻게 만들어졌고 어떤 기준으로 분석되며 최종 결과가 어떻게 사용되는지까지 살펴봐야 한다.
결국 AI의 공정성을 이해하는 핵심은 알고리즘을 무조건 객관적인 심판으로 바라보지 않는 데 있다. AI 역시 사람이 만든 데이터와 기준 위에서 작동한다. 그렇기 때문에 기술의 성능뿐 아니라 데이터와 결과를 함께 검토하는 과정이 중요하다.
FAQ
AI가 지원자의 성별을 모르면 젠더 편향이 없어지나요?
반드시 그렇다고 볼 수는 없다. 성별을 직접 입력하지 않더라도 다른 정보가 특정 집단의 특징과 간접적으로 연결되어 있을 수 있다. 따라서 입력 항목뿐 아니라 실제 결과에서 차이가 발생하는지도 함께 확인해야 한다.
AI 채용은 사람이 직접 평가하는 것보다 공정한가요?
AI와 사람 가운데 어느 한쪽이 항상 더 공정하다고 일반화하기 어렵다. 사람에게도 편향이 있을 수 있고 AI 역시 데이터와 설계 기준의 영향을 받는다. 어떤 기준을 사용하고 결과를 어떻게 검증하는지가 중요하다.
AI 채용에서 학습 데이터가 중요한 이유는 무엇인가요?
AI는 데이터에서 반복되는 관계와 특징을 학습한다. 과거 데이터에 특정한 불균형이나 시대적 특징이 포함되어 있다면 그것이 모델의 결과에도 영향을 줄 가능성이 있기 때문에 데이터의 대표성과 품질을 살펴봐야 한다.
#인공지능 #AI #젠더와AI #AI젠더 #젠더편향 #AI편향 #AI채용 #채용AI #채용알고리즘 #알고리즘편향 #인공지능채용 #AI공정성 #학습데이터 #머신러닝 #AI윤리 #인공지능윤리 #AI와사
