OpenAI는 인공 지능의 현실적인 음성 기능으로 인해 인간 상호 작용을 희생하면서 사람들이 봇과 유대감을 갖게 될 수 있다는 점을 우려하고 있습니다.

샌프란시스코에 본사를 둔 이 회사는 사람과 마찬가지로 AI와 채팅하는 것이 잘못된 신뢰를 초래할 수 있으며 GPT-4o 음성의 높은 품질이 그러한 효과를 악화시킬 수 있음을 나타내는 문헌을 인용했습니다.

OpenAI는 목요일 자사 AI ChatGPT-4o 버전에서 수행 중인 안전 작업에 대한 보고서에서 "의인화는 AI 모델과 같은 인간이 아닌 개체에 인간과 유사한 행동과 특성을 부여하는 것을 포함합니다"라고 밝혔습니다.

"이러한 위험은 모델과 더욱 인간과 유사한 상호 작용을 촉진하는 GPT-4o의 오디오 기능으로 인해 더욱 높아질 수 있습니다."

OpenAI는 테스터들이 함께한 마지막 날이라고 큰 소리로 애도하는 등 공유 유대를 암시하는 방식으로 AI와 대화하는 것을 발견했다고 말했습니다.

이러한 사례는 양성으로 보이지만 장기간에 걸쳐 어떻게 진화할 수 있는지 연구해야 한다고 말했습니다.

OpenAI는 AI와의 사교 활동이 사용자를 인간과의 관계에 덜 능숙하게 만들거나 덜 기울게 만들 수도 있다고 추측했습니다.

보고서는 “모델과의 확장된 상호작용은 사회적 규범에 영향을 미칠 수 있다”고 밝혔다.

"예를 들어, 우리 모델은 사용자가 언제든지 방해하고 '마이크를 잡을' 수 있도록 공손한 모델입니다. 이는 AI에서는 예상되지만,인간 상호 작용."

OpenAI에 따르면 AI가 대화하는 동안 세부 사항을 기억하고 작업을 처리하는 능력은 사람들이 기술에 과도하게 의존하게 만들 수도 있다고 합니다.

"ChatGPT의 음성 모드에 대한 잠재적인 의존성에 관해 OpenAI가 최근 공유한 우려는 많은 사람들이 이미 묻기 시작한 것을 나타냅니다. 이제 잠시 멈추고 이 기술이 인간 상호 작용과 관계에 어떤 영향을 미치는지 고려해야 할 때입니까?"AI 표절 방지 탐지 플랫폼 카피리크스(Copyleaks)의 공동 창업자이자 CEO인 알론 야민(Alon Yamin)은 이렇게 말했습니다.

그는 AI가 결코 실제 인간 상호작용을 대체해서는 안 된다고 말했습니다.

OpenAI는 자사 AI의 음성 기능이 어떻게 사람들을 감정적으로 애착하게 만드는지 추가 테스트할 것이라고 밝혔습니다.

ChatGPT-4o 음성 기능을 테스트하는 팀도 반복하라는 메시지를 표시할 수 있었습니다.허위 정보음모론을 만들어내면서 AI 모델이 설득력 있게 그렇게 하도록 지시받을 수 있다는 우려가 제기됩니다.

OpenAI는 지난 6월 최신 챗봇에서 자신의 목소리와 매우 유사한 것을 사용한 여배우 스칼렛 요한슨에게 사과해야 했으며 음성 복제 기술에 주목을 받았습니다.

OpenAI는 이를 부인했지만목소리그들이 사용했던 것은 Johansson의 것이었지만 CEO Sam Altman이 소셜 미디어에 "Her"라는 한 단어 메시지로 새 모델을 표시한 것은 그들의 주장에 도움이 되지 않았습니다.

요한슨은 이전에 Altman이 이 기술에 관해 자신이 가장 좋아하는 영화라고 말한 영화 "Her"에서 AI 캐릭터의 목소리를 맡았습니다.

2013년 영화에서는 호아킨 피닉스가 AI 비서 사만다와 사랑에 빠진 남자 역으로 출연했습니다.

© 2024 AFP