소프트웨어 디자이너는 전문적으로 테스트하고 있습니다.AI 기반 챗봇의학적 조언을 제공하고 상태를 진단할 수 있지만 정확성에 대한 의문이 많습니다. 

올 봄, 구글은 회사의 챗봇의 답변이 건강 관련 질문을 포함해 일반적인 검색 결과 위에 나타나기 시작한 'AI 개요' 기능을 공개했습니다.이론적으로는 좋은 생각처럼 들렸을 수도 있지만 소프트웨어에서 제공하는 건강 조언과 관련하여 문제가 있었습니다. 

봇이 온라인 상태가 된 첫 주에 한 사용자는 이렇게 말했습니다.Google AI가 잘못된 정보를 제공했습니다., 방울뱀에 물린 경우 어떻게 해야 하는지에 대한 치명적인 정보일 수 있습니다.또 다른 검색 결과 Google은 사람들에게 비타민과 미네랄을 위해 '하루에 최소한 하나의 작은 돌'을 섭취하도록 권장했습니다. 이 조언은 풍자적인 기사에서 가져온 것입니다.

Google은 이후 개요에 풍자 및 유머 사이트를 포함하는 것을 제한했으며 입소문이 난 검색 결과 중 일부를 삭제했다고 밝혔습니다. 

구글 대변인은 CBS 뉴스에 "대부분의 AI 개요는 웹에서 더 깊이 파고들 수 있는 링크와 함께 고품질 정보를 제공한다"고 말했다."건강 관련 질문에 대해 우리는 전문가의 조언을 구하는 것이 중요하다는 점을 사람들에게 상기시키는 면책 조항을 포함하여 항상 강력한 품질 및 안전 가드레일을 마련해 왔습니다. 우리는 정보가 올바른지 확인하기 위해 AI 개요를 표시하는 시기와 방법을 계속해서 개선해 왔습니다.품질이 좋고 믿을 수 있다."

CBS 뉴스 확인에서는 이러한 수정 사항이 모든 건강 관련 잘못된 정보를 막지는 못했다는 사실을 발견했습니다.6개월 미만의 유아에게 고형식을 소개하는 것에 대한 질문은 6월 말에도 여전히 팁을 반환했습니다.아기들은 적어도 6개월이 될 때까지 고형 음식을 먹기 시작해서는 안 된다고 규정하고 있습니다.미국 소아과 학회.에이 

디톡스나 해독제와 같은 의심스러운 웰니스 트렌드의 건강상의 이점에 대한 검색생우유를 마시다또한 사실이 아닌 주장도 포함되었습니다. 

이러한 기이함과 명백한 오류에도 불구하고 많은 의료계 리더들은 AI 챗봇과 이것이 업계를 어떻게 변화시킬 수 있는지에 대해 여전히 낙관적이라고 말합니다. 

Stanford Healthcare의 수석 데이터 과학자인 Nigam Shah 박사는 "사람들은 필요한 정보에 접근하게 될 것입니다."라고 말했습니다."단기적으로 나는 약간 비관적입니다. 우리는 우리 자신보다 조금 앞서가고 있다고 생각합니다. 그러나 장기적으로 이러한 기술이 우리에게 많은 이익을 가져다 줄 것이라고 생각합니다." 

챗봇을 옹호하는 다른 사람들은 의사가 항상 올바른 결과를 얻지는 못한다는 점을 재빠르게 지적합니다.추정치는 다양하지만,보건 복지부의 연구2022년부터 매년 응급실을 찾는 환자 중 최대 2%가 의료 서비스 제공자의 오진으로 인해 피해를 입을 수 있다는 사실이 밝혀졌습니다. 

Shah는 챗봇의 사용을 Google 초기 시절과 비교했습니다. 

"구글 검색이 등장했을 때 사람들은 자가 진단을 하면 모든 일이 터질까 봐 당황했습니다. 그런 일은 일어나지 않았습니다."라고 Shah는 말했습니다."같은 일입니다. 우리는 완전히 형성되지 않은 새로운 것들이 실수를 하고 그 중 몇몇은 나쁠 것이지만 대체로 다른 옵션이 없을 때 정보를 얻는 것은 그 단계를 거치게 될 것입니다.좋은 일이야." 

세계보건기구(WHO)는 AI 분야에 발을 담그는 회사 중 하나입니다.조직의 챗봇인 Sarah는 WHO 사이트와 신뢰할 수 있는 파트너로부터 정보를 가져와 답변에 사실 오류가 발생할 가능성을 줄입니다.심장 마비의 위험을 제한하는 방법에 대한 질문에 Sarah는 스트레스 관리, 숙면 및 건강한 생활 방식에 집중하는 방법에 대한 정보를 제공했습니다. 

설계 및 감독의 지속적인 발전을 통해 이러한 봇이 지속적으로 개선될 수 있습니다. 

그러나 현재 건강 조언을 위해 AI 챗봇을 사용하고 있다면 Google 버전과 함께 제공되는 경고에 유의하세요. "정보 품질은 다를 수 있습니다." 

안에:
• 건강
• Google
• 인공지능