Los modelos de lenguajes grandes (LLM) se han desarrollado rápidamente en los últimos años y se están convirtiendo en una parte integral de nuestra vida cotidiana a través de aplicaciones como ChatGPT.Un artículo recientepublicadoenNaturaleza Comportamiento Humanoexplica las oportunidades y riesgos que surgen del uso de LLM para nuestra capacidad de deliberar, tomar decisiones y resolver problemas colectivamente.

Dirigido por investigadores de la Escuela de Negocios de Copenhague y el Instituto Max Planck para el Desarrollo Humano de Berlín, el equipo interdisciplinario de 28 científicos ofrece recomendaciones a investigadores y formuladores de políticas para garantizar que los LLM se desarrollen para complementar y no restar valor a la inteligencia colectiva humana.

¿Qué haces si no conoces un término como LLM?Probablemente lo busques rápidamente en Google o le preguntes a tu equipo.Utilizamos el conocimiento de los grupos, lo que se conoce como inteligencia colectiva, de forma natural en la vida cotidiana.

Al combinar habilidades y conocimientos individuales, nuestra inteligencia colectiva puede lograr resultados que superan las capacidades de cualquier individuo por sí solo, incluso los expertos.Esta inteligencia colectiva impulsa el éxito de todo tipo de grupos, desde pequeños equipos en el lugar de trabajo hasta comunidades masivas en línea como Wikipedia e incluso sociedades en general.

Los LLM soninteligencia artificial(IA) sistemas que analizan y generan texto utilizando grandes conjuntos de datos y técnicas de aprendizaje profundo.El nuevo artículo explica cómo los LLM pueden mejorar la inteligencia colectiva y analiza su impacto potencial en los equipos y la sociedad.

"Comograndes modelos de lenguajecada vez más el panorama de la información y la toma de decisiones, es crucial lograr un equilibrio entre aprovechar su potencial y protegerse contra los riesgos.Nuestro artículo detalla las formas en que los LLM pueden mejorar la inteligencia colectiva humana, y los diversos daños que también son posibles", dice Ralph Hertwig, coautor del artículo y director del Instituto Max Planck para el Desarrollo Humano de Berlín.

entre losbeneficios potencialesLo identificado por los investigadores es que los LLM pueden aumentar significativamente la accesibilidad en los procesos colectivos.Derriban barreras mediante servicios de traducción y asistencia en redacción, por ejemplo, permitiendo que personas de diferentes orígenes participen por igual en los debates.

Además, los LLM pueden acelerar la generación de ideas o apoyar los procesos de formación de opiniones, por ejemplo, aportando información útil a las discusiones, resumiendo diferentes opiniones y encontrando consenso.

Sin embargo, el uso de LLM también conlleva riesgos importantes.Por ejemplo, podrían socavar la motivación de las personas para contribuir al conocimiento colectivo común como Wikipedia y Stack Overflow.Si los usuarios dependen cada vez más de modelos propietarios, la apertura y diversidad del panorama del conocimiento pueden estar en peligro.Otro problema es el riesgo de un consenso falso y una ignorancia pluralista, cuando existe la creencia errónea de que la mayoría acepta una norma.

"Dado que los LLM aprenden de la información disponible en línea, existe el riesgo de que los puntos de vista minoritarios no estén representados en las respuestas generadas por los LLM. Esto puede crear una falsa sensación de acuerdo y marginar algunas perspectivas", señala Jason Burton, autor principal del estudio y asistente.profesor de la Copenhagen Business School y científico investigador asociado del MPIB.

"El valor de este artículo es que demuestra por qué necesitamos pensar de manera proactiva sobre cómo los LLM están cambiando el entorno de información en línea y, a su vez, nuestra inteligencia colectiva, para bien o para mal", resume el coautor Joshua Becker, profesor asistente.en el University College de Londres.

Los autores pidenmayor transparenciaen la creación de LLM, incluida la divulgación de fuentes de datos de capacitación, y sugieren que los desarrolladores de LLM deberían estar sujetos a auditorías y monitoreo externos.Esto permitiría comprender mejor cómo se desarrollan realmente los LLM y mitigar acontecimientos adversos.

Además, el artículo ofrece recuadros de información compactos sobre temas relacionados con los LLM, incluido el papel de la inteligencia colectiva en la formación de los LLM.Aquí, los autores reflexionan sobre el papel de los humanos en el desarrollo de LLM, incluyendo cómo abordar objetivos como la representación diversa.

Dos recuadros de información centrados en la investigación describen cómo se pueden utilizar los LLM para simular humanosinteligencia colectivae identificar preguntas de investigación abiertas, como cómo evitar la homogeneización del conocimiento y cómo se debe distribuir el crédito y la responsabilidad cuando los resultados colectivos se crean conjuntamente con los LLM.