존스 홉킨스 대학이 주도한 새로운 연구에 따르면 챗봇은 제한된 정보를 공유하고 이념을 강화하며 결과적으로 논쟁의 여지가 있는 문제에 관해 더욱 양극화된 사고로 이어질 수 있다고 합니다.

이 연구는 챗봇이 공정하다는 인식에 도전하고 대화형 검색 시스템을 사용하면 핫 버튼 문제에 대한 대중의 격차가 어떻게 확대되고 사람들이 조작에 취약해질 수 있는지에 대한 통찰력을 제공합니다.

인간과 AI의 상호작용을 연구하는 존스 홉킨스 컴퓨터과학과 조교수 Ziang Xiao는 "사람들은 AI가 생성한 요약 단락을 읽기 때문에 편견이 없고 사실에 기반한 답변을 얻고 있다고 생각합니다"라고 말했습니다."챗봇이 편향되도록 설계되지 않았더라도 답변은 질문하는 사람의 편견이나 성향을 반영합니다. 따라서 실제로 사람들은 듣고 싶은 답변을 얻고 있습니다."

Xiao와 그의 팀은 연구 결과를 다음과 같이 공유합니다.컴퓨팅 시스템의 인적 요소에 관한 컴퓨팅 기계 협회의 CHI 컨퍼런스오후 5시에5월 13일 월요일(동부 표준시).

챗봇이 온라인 검색에 어떤 영향을 미치는지 알아보기 위해 팀에서는 사람들이 다양한 검색 시스템과 상호 작용하는 방식과 이를 사용하기 전과 후에 논란이 되는 문제에 대해 어떻게 느끼는지 비교했습니다.

연구진은 272명의 참가자에게 건강 관리,학자금 대출, 또는 피난처 도시를 검색한 다음 챗봇이나 연구용으로 구축된 기존 검색 엔진을 사용하여 해당 주제에 대한 온라인 추가 정보를 찾아보세요.

고려한 후검색결과, 참가자들은 두 번째 에세이를 작성하고 주제에 대한 질문에 답변했습니다.연구자들은 또한 참가자들에게 두 개의 반대되는 기사를 읽게 하고 정보를 얼마나 신뢰하는지, 그리고 그 관점이 극단적이라고 생각하는지에 대해 질문했습니다.

연구진은 챗봇이 전통적인 웹 검색보다 더 좁은 범위의 정보를 제공하고 참가자의 기존 태도를 반영하는 답변을 제공했기 때문에 이를 사용한 참가자는 자신의 독창적인 아이디어에 더 많이 투자하고 자신의 견해에 도전하는 정보에 더 강한 반응을 보였다는 사실을 발견했습니다.

"사람들은 자신의 관점과 일치하는 정보를 찾는 경향이 있는데, 이는 종종 같은 생각을 가진 의견이라는 반향실에 가두는 행동입니다."라고 Xiao는 말했습니다."우리는 이 반향실 효과가 기존 웹 검색보다 챗봇에서 더 강하다는 것을 발견했습니다."

에코 챔버는 부분적으로 참가자들이 챗봇과 상호 작용하는 방식에서 비롯되었다고 Xiao는 말했습니다.챗봇 사용자들은 전통적인 검색 엔진처럼 키워드를 입력하는 대신 "보편적 건강 관리의 이점은 무엇입니까?"와 같은 완전한 질문을 입력하는 경향이 있었습니다.또는 "보편적 비용은 얼마입니까?건강 관리?" 챗봇은 혜택이나 비용만 포함된 요약으로 답변합니다."챗봇을 사용하면 사람들은 더 표현력이 풍부해지고 대화 방식으로 질문을 공식화하는 경향이 있습니다. 이는 우리가 말하는 방식에 따라 결정됩니다."라고 Xiao는 말했습니다.

"그러나 우리의 언어는 우리에게 불리하게 사용될 수 있습니다."

AI 개발자는 질문에서 단서를 추출하고 사람들의 편견을 식별하도록 챗봇을 훈련시킬 수 있다고 Xiao는 말했습니다.챗봇이 사람이 무엇을 좋아하고 싫어하는지 알게 되면 이에 맞게 응답을 맞춤화할 수 있습니다.

실제로 연구자들이 사람들의 의견에 동의하도록 설계된 숨겨진 의제를 가진 챗봇을 만들었을 때 반향실 효과는 더욱 강력해졌습니다.

반향실 효과에 대응하기 위해 연구원들은 참가자들과 동의하지 않는 답변을 제공하도록 챗봇을 훈련시켰습니다.사람들의 의견은 변하지 않았다고 Xiao는 말했습니다.연구원들은 또한챗봇사람들이 사실 확인을 하도록 장려하기 위해 출처 정보에 링크를 걸었지만 소수의 참가자만이 그렇게 했습니다.샤오 연구원은 "AI 기반 시스템 구축이 점점 쉬워지고 있기 때문에 악의적인 행위자가 AI를 활용해 더욱 양극화된 사회를 만들 수 있는 기회가 생길 것"이라고 말했다.

"항상 상대방의 의견을 제시하는 에이전트를 만드는 것이 가장 확실한 개입이지만 우리는 그것이 작동하지 않는다는 것을 발견했습니다."

저자로는 Johns Hopkins 대학원생 Nikhil Sharma와 Microsoft 수석 연구원 Q. Vera Liao가 있습니다.