대부분의 사람들은 온라인에서 잘못된 정보의 확산이 심각한 문제라는 데 동의합니다.그러나 이에 대해 무엇을 해야 할지에 대한 합의는 훨씬 적습니다.

제안된 많은 솔루션은 방법에 중점을 두고 있습니다.소셜 미디어 플랫폼방지하기 위해 사용자가 게시하는 콘텐츠를 조정할 수 있거나 조정해야 합니다.오보확산으로부터.

"그러나 이러한 접근 방식은 영리 기업의 손에 중요한 사회적 결정을 맡깁니다. 이는 사용자가 누구를 신뢰하는지 결정할 수 있는 능력을 제한합니다. 또한 플랫폼을 담당하는 것은 사용자가 다른 온라인 소스에서 접하는 잘못된 정보를 막는 데 아무런 도움이 되지 않습니다."라고 말합니다.Farnaz Jahanbakhsh SM '21, Ph.D.23년 현재 스탠포드 대학에서 박사후 연구원으로 재직 중이다.

그녀와 MIT 교수 David Karger는 대체 전략을 제안했습니다.그들은 개인이 잘못된 정보에 플래그를 지정하고 온라인 콘텐츠를 평가하기 위해 신뢰하는 다른 사람을 식별할 수 있는 웹 브라우저 확장 프로그램을 구축했습니다.

Trustnet 브라우저 확장이라고 불리는 분산형 접근 방식은 중앙 기관이 아닌 개별 사용자의 손에 무엇이 잘못된 정보인지 결정할 수 있는 권한을 부여합니다.중요한 점은 범용 브라우저 확장 프로그램이 소셜 미디어 사이트의 게시물, 뉴스 수집기의 기사, 스트리밍 플랫폼의 비디오를 포함하여 모든 웹사이트의 모든 콘텐츠에 대해 작동한다는 것입니다.

2주간의 연구를 통해 연구원들은 교육을 받지 않은 개인도 이 도구를 사용하여 잘못된 정보를 효과적으로 평가할 수 있다는 사실을 발견했습니다.참가자들은 콘텐츠를 평가하고 신뢰하는 다른 사람의 평가를 볼 수 있는 능력이 콘텐츠에 대해 비판적으로 생각하는 데 도움이 되었다고 말했습니다.

"오늘날의 세계에서는 악의적인 행위자가 정확하고 근거가 충분하며 신중하게 주장된 것처럼 보이는 잘못된 정보를 무제한으로 생성하는 것은 사소한 일입니다. 이 홍수로부터 우리를 보호할 수 있는 유일한 방법은 신뢰할 수 있는 출처에서 검증된 정보에 의존하는 것입니다.Trustnet은 미래가 어떤 모습일지에 대한 비전을 제시합니다."라고 Karger는 말합니다.

이 연구를 수행한 Jahanbakhsh는전기 공학MIT의 컴퓨터 과학(EECS) 대학원생과 EECS 교수이자 컴퓨터 과학 및 인공 지능 연구소(CSAIL) 회원인 Karger는 이번 주 인간 요인에 관한 ACM 회의에서 발표된 논문에서 그들의 연구 결과를 자세히 설명했습니다.컴퓨팅 시스템(치 2024).그만큼연구에서도 이용 가능합니다.arXiv사전 인쇄 서버.

잘못된 정보에 맞서 싸우기

이 새로운 논문은 그들의사전 작업온라인상의 잘못된 정보에 맞서 싸우는 것에 대해.연구원들은 Trustnet이라는 소셜 미디어 플랫폼을 구축했습니다. 이를 통해 사용자는 콘텐츠의 정확성을 평가하고 평가를 보고 싶은 신뢰할 수 있는 사용자를 지정할 수 있습니다.

그러나 현실 세계에서는 특히 다른 플랫폼에 이미 친구와 팔로워가 있는 경우 새로운 소셜 미디어 플랫폼으로 이주하는 사람은 거의 없습니다.반면에 소셜 미디어 회사에 사용자에게 콘텐츠 평가 기능을 제공하도록 요구하는 것은 입법이 필요할 수 있는 힘든 싸움이 될 것입니다.규정이 존재하더라도 웹상의 다른 곳에서 잘못된 정보를 차단하는 데 거의 도움이 되지 않습니다.

대신 연구원들은 플랫폼에 구애받지 않는 솔루션을 모색했고, 이로 인해 Trustnet 브라우저 확장을 구축하게 되었습니다.

확장 프로그램 사용자는 버튼을 클릭하여 콘텐츠를 평가하고, 콘텐츠에 정확성, 부정확성을 표시하거나 정확성에 의문을 제기하는 측면 패널을 엽니다.함께 제공되는 텍스트 상자에 세부 정보를 제공하거나 근거를 설명할 수 있습니다.

사용자는 평가 제공을 위해 신뢰하는 다른 사람을 식별할 수도 있습니다.그런 다음 사용자가 신뢰할 수 있는 소스의 평가가 포함된 웹사이트를 방문하면 측면 패널이 자동으로 팝업되어 이를 표시합니다.

또한 사용자는 신뢰할 수 있는 평가자 외에 다른 사람을 따르도록 선택할 수 있습니다.그들은 사례별로 팔로우하는 콘텐츠 평가를 보도록 선택할 수 있습니다.또한 측면 패널을 사용하여 콘텐츠 정확성에 대한 질문에 응답할 수도 있습니다.

"그러나 우리가 웹에서 접하는 대부분의 콘텐츠는 소셜 미디어 피드에 포함되거나 뉴스 웹사이트의 첫 페이지와 같은 수집기 페이지에 링크로 표시됩니다. 또한 이전 작업을 통해 우리가 알고 있는 사실은 사용자가 일반적으로 그렇지 않다는 것입니다.링크를 공유할 때 링크를 클릭하지도 마세요."라고 Jahanbakhsh는 말합니다.

이러한 문제를 해결하기 위해 연구원들은 사용자가 읽고 있는 페이지의 모든 링크를 확인하도록 Trustnet Extension을 설계했습니다.신뢰할 수 있는 소스가 링크된 페이지의 콘텐츠를 평가한 경우 확장 프로그램은 해당 링크 옆에 표시기를 배치하고 부정확하다고 간주되는 콘텐츠에 대한 링크 텍스트를 흐리게 합니다.

연구원들이 직면한 가장 큰 기술적 과제 중 하나는 링크가 일반적으로 여러 리디렉션을 거치기 때문에 링크 확인 기능을 활성화하는 것이었습니다.또한 다양한 사용자에게 적합한 디자인 결정을 내려야 하는 과제도 있었습니다.

다양한 평가

개인이 Trustnet Extension을 어떻게 활용하는지 알아보기 위해 그들은 32명의 개인에게 하루에 두 가지 콘텐츠를 평가하는 임무를 부여한 2주간의 연구를 수행했습니다.

연구원들은 주택 개조 요령이나 유명인 가십과 같이 훈련받지 않은 사용자가 평가하기로 선택한 콘텐츠가 뉴스 기사와 같이 전문가가 평가한 콘텐츠와 종종 다른 것을 보고 놀랐습니다.사용자들은 또한 의사가 의료 콘텐츠를 평가하도록 하거나 이민자가 외교 관련 콘텐츠를 평가하도록 하는 등 전문적인 사실 확인자가 아닌 사람들의 평가를 높이 평가할 것이라고 말했습니다.

Jahanbakhsh는 "이것은 사용자가 필요로 하는 것과 평가하는 데 중요하다고 생각하는 콘텐츠의 종류가 전달되는 내용과 정확하게 일치하지 않는다는 것을 보여준다고 생각합니다. 분산형 접근 방식은 확장성이 더 높기 때문에 더 많은 콘텐츠를 평가할 수 있습니다."라고 Jahanbakhsh는 말합니다.

그러나 연구원들은 사용자가 누구를 신뢰할지 선택하게 하면 사용자가 자신의 거품에 갇히게 되어 자신의 견해에 동의하는 콘텐츠만 보게 될 수 있다고 경고합니다.

이 문제는 사용자에게 FDA와 같은 신뢰할 수 있는 특정 평가자를 따르도록 제안함으로써 보다 구조화된 방식으로 신뢰 관계를 식별함으로써 완화될 수 있습니다.

앞으로 Jahanbakhsh는 구조화된 신뢰 관계와 잘못된 정보에 맞서 싸우는 분산화의 더 넓은 의미에 대해 더 자세히 연구하고 싶습니다.그녀는 또한 이 프레임워크를 잘못된 정보를 넘어 확장하기를 원합니다.예를 들어, 도구를 사용하여 특정 보호 그룹에 공감하지 않는 콘텐츠를 필터링할 수 있습니다.

"일부 사람들은 개인이 콘텐츠를 평가할 수 없다고 생각하기 때문에 분산형 접근 방식에 덜 관심을 기울였습니다."라고 그녀는 말합니다."우리의 연구에 따르면 그것은 사실이 아닙니다. 그러나사용자스스로 문제를 해결하기 위해 무기력하게 방치되어서는 안 됩니다.우리는 그들이 보고 싶은 콘텐츠를 선택할 수 있도록 하는 방식으로 사실 확인을 제공할 수 있습니다."

이 이야기는 MIT News(web.mit.edu/newsoffice/)는 MIT 연구, 혁신 및 교육에 대한 뉴스를 다루는 인기 사이트입니다.