“여성은 남성보다 열등”…‘성차별’을 배운 AI

[이데일리 정다슬 기자] 아마존이 개발한 인공지능(AI) 채용 시스템이 여성 지원자를 차별하는 것으로 드러나 결국 폐기처분됐다.

로이터 통신은 10일(현지시간) 아마존이 2014년부터 지원자의 이력서를 검토해 인재를 가려낼 수 있는 기술을 개발했다. 이후 연구자들은 이 시스템을 채용 완료된 직원의 이력서에 적용해 실제 결과와 일치하는지 확인하는 실험을 했다. 그러나 그 결과 이 시스템이 여성 지원자를 차별하는 문제를 안고 있다고 평가했다.

시스템은 지난 10년간 아마존에 제출된 이력서 패턴을 바탕으로 지원자를 검토하도록 설계됐는데 프로그램 개발자 대다수가 남자였던 산업적 특성에 따라 시스템 스스로 ‘남성 지원자가 더 적합하다’고 학습했기 때문이다. 그 결과 이력서에 ‘여성 체스 동아리’처럼 ‘여성’이란 단어가 포함된 문구가 있으면 이력서를 배제하고 여자 대학을 졸업한 지원자는 감점했다. 반면 해당 AI는 ‘실행하다’ ‘포착하다’ 등 남성 기술자들의 이력서에 자주 쓰이는 동사를 유리하게 인식하는 것으로도 알려졌다.

아마존은 프로그램을 수정해 성차별적인 요소를 없애고자 했지만 시스템이 다른 방식으로 또 다른 지원자를 차별하지 않는지 확신할 수 없었고 결국 임원진의 결정에 따라 개발팀은 작년 초 해산됐다. 익명의 제보자는 시스템이 자격 부족 지원자를 추천하는 등 성차별 만이 유일한 문제점은 아니었다고 덧붙였다.

아마존은 AI 채용 시스템 문제와 관련해 직접적인 입장은 내놓지 않다. 다만 아마존은 “회사가 직장 내 다양성과 평등을 실현하기 위해 노력하고 있다”고 밝혔다.