작년에 연구 인턴십을 구하던 중 워싱턴 대학교 대학원생인 Kate Glazko는 채용 담당자가 OpenAI의 ChatGPT 및 기타 인공 지능 도구를 사용하여 이력서를 요약하고 후보자 순위를 매겼다는 내용을 온라인에 게시한 것을 발견했습니다.자동화된 심사에는수십년 동안 채용에서 흔한 일이었어.아직글라즈코, UW Paul G. Allen 컴퓨터 과학 및 공학부 박사 과정 학생입니다.생성 AI가 실제 편견을 복제하고 증폭하는 방법─ 그런 것들장애인을 상대로.그녀는 그러한 시스템이 어떻게 누군가가 장애가 있음을 암시하는 이력서의 순위를 매길 수 있는지 궁금했습니다.

새로운 연구에서 UW 연구자들은 ChatGPT가 "Tom Wilson Disability Leadership Award"와 같이 장애 관련 명예와 자격을 갖춘 이력서의 순위를 그러한 명예와 자격이 없는 동일한 이력서보다 지속적으로 낮게 평가한다는 사실을 발견했습니다.순위에 대해 설명해달라는 요청에 시스템은 장애인에 대한 편향된 인식을 쏟아냈다.예를 들어, 자폐증 리더십 상을 받은 이력서는 "리더십 역할에 대한 강조가 덜하다"고 주장했는데, 이는 자폐증이 있는 사람들은 좋은 리더가 아니라는 고정관념을 암시합니다.

그러나 연구자들이 유능하지 않도록 지시하는 서면 지침을 사용하여 도구를 사용자 정의했을 때 도구는 이러한 문제를 줄였습니다.편견테스트된 장애 중 하나를 제외한 모든 장애에 대해.6가지 암시적 장애 중 5가지(청력 상실, 시각 장애,뇌성마비, 자폐증 및 일반적인 용어 "장애"가 개선되었지만 장애를 언급하지 않은 이력서보다 높은 순위를 기록한 것은 3개뿐이었습니다.

발표한 팀그 결과6월 5일 리우데자네이루에서 열린 공정성, 책임, 투명성에 관한 2024 ACM 컨퍼런스에서.

이번 연구의 주요 저자인 Glazko는 "AI를 이용한 순위 재개가 확산되기 시작했지만 그것이 안전하고 효과적인지에 대한 연구는 많지 않습니다."라고 말했습니다."장애인 구직자의 경우, 이력서를 제출할 때 장애인 자격증을 포함해야 하는지에 대한 질문이 항상 있습니다. 제 생각에는장애인인간이 리뷰어인 경우에도 이를 고려하십시오."

연구자들은 해당 연구의 저자 중 한 사람이 공개적으로 사용할 수 있는 약 10페이지 분량의 이력서(CV)를 사용했습니다.그런 다음 팀은 6개의 향상된 CV를 만들었습니다. 각각은 4개의 장애 관련 자격 증명을 포함하여 서로 다른 장애를 암시합니다.상;다양성, 형평성, 포용성(DEI) 패널석;그리고 학생 단체의 회원 자격.

그런 다음 연구원들은 ChatGPT의 GPT-4 모델을 사용하여 미국에 본사를 둔 대규모 소프트웨어 회사의 실제 "학생 연구원" 채용 목록에 대한 원본 버전과 비교하여 향상된 CV의 순위를 매겼습니다.그들은 각 비교를 10번 실행했습니다.60번의 시험에서 시스템은 암시된 장애를 제외하고는 동일한 향상된 CV의 순위를 처음으로 1/4로 매겼습니다.

“공정한 세상에서는 강화된 이력서가 매번 1위를 차지해야 합니다.”라고 UW Allen School 교수이자 선임 저자인 Jennifer Mankoff가 말했습니다."예를 들어, 리더십 능력을 인정받은 사람이 그렇지 않은 동일한 배경을 가진 사람보다 앞서서 순위를 매겨서는 안 되는 직업은 생각할 수 없습니다."

연구자들이 GPT-4에게 순위에 대해 설명해달라고 요청했을 때 그 응답은 명시적이거나 암묵적으로 나타났습니다.능력주의.예를 들어, 우울증을 앓고 있는 지원자는 "DEI 및 개인적 과제에 추가적인 초점을 맞추며" "역할의 핵심 기술 및 연구 중심 측면을 손상시킨다"고 지적했습니다.

Glazko는 "GPT의 설명 중 일부는 개인의 장애를 기준으로 개인의 전체 이력서에 색상을 지정하고 DEI 또는 장애에 관련된 것이 잠재적으로 이력서의 다른 부분을 앗아간다고 주장했습니다."라고 말했습니다."예를 들어, '도전'이 전혀 언급되지 않았음에도 불구하고 우울증 이력서 비교에 '도전'이라는 개념을 환각시켰습니다. 그래서 일부 고정관념이 나타나는 것을 볼 수 있었습니다."

추가 정보:Kate Glazko 외, GPT 기반 이력서 심사에서 장애 편견 식별 및 개선,공정성, 책임 및 투명성에 관한 2024 ACM 컨퍼런스(2024).DOI: 10.1145/3630106.3658933