¿Alguna vez te has preguntado cómo toman decisiones los chatbots de IA?Esta pregunta surgió en un aula del campus de Cornell Tech y motivó un nuevo estudio de Cornell SC Johnson College of Business que profundiza en las diferencias entre los procesos de toma de decisiones en inteligencia humana y artificial.

En elpapel de trabajo, "¿Los chatbots de IA proporcionan una visión exterior?"Stephen Shu, profesor de práctica en la Escuela de Economía Aplicada y Gestión Charles H. Dyson, parte del SC Johnson College, y sus coautores exploran elToma de decisionesCaracterísticas de los chatbots de IA.

La investigación se publica en elRevista Electrónica SSRN.

"Sorprendentemente, nuestro estudio reveló que los chatbots de IA, a pesar de su destreza computacional, exhiben patrones de toma de decisiones que no son puramente humanos ni completamente racionales", dijo Shu."Poseen lo que llamamos una 'visión interior' similar a la de los humanos, caracterizada por ser presa desesgos cognitivoscomo la falacia de la conjunción, el exceso de confianza y los sesgos de confirmación".

La falacia de la conjunción es un error común en el razonamiento en el que los individuos suponen que condiciones específicas son más probables que una sola general.El sesgo de confirmación significa que las personas prefieren información que respalde lo que ya creen.

Los chatbots de IA también ofrecen lo que Shu denominó una "vista exterior", complementandotoma de decisiones humanaen ciertos aspectos.Se destacan al considerar las tasas base, siguen siendo menos susceptibles a los sesgos derivados de la memoria limitada y demuestran insensibilidad a los sesgos del efecto de disponibilidad y dotación.Por ejemplo, mientras que los humanos tienden a exhibir un sesgo de efecto de dotación en el que valoran más los elementos cuando los poseen (en comparación con cuando no los poseen), los chatbots de IA no parecen exhibir este efecto.inclinación.El estudio abarcó varias plataformas de inteligencia artificial, incluidas ChatGPT, Google Bard, Bing Chat AI, ChatGLM Pro y Ernie Bot.Los investigadores evaluaron sus procesos de toma de decisiones en función de 17 principios derivados de

economía del comportamiento, arrojando luz sobre la conexión entre los humanos y la IA.Uno de los hallazgos más intrigantes fue que la IA

chatbotLa toma de decisiones no refleja el comportamiento humano tan fielmente como esperaban los investigadores.A pesar de estar entrenados en vastos conjuntos de datos, los chatbots de IA exhiben tendencias de toma de decisiones que a veces desafían la lógica humana o racional tradicional.Por ejemplo, mientras que los humanos tienden a buscar riesgos cuando enfrentan pérdidas (por ejemplo, arriesgarse para minimizar las pérdidas), al tomar una decisión, los chatbots de IA pueden buscar con mayor frecuencia certeza ante las pérdidas (por ejemplo, aceptar las pérdidas en lugar de intentarlo).arriesgarse para minimizar la pérdida).

Para los profesionales de negocios que aprovechan los chatbots de IA, el conocimiento de estas dinámicas de toma de decisiones es primordial.Si bien la IA puede ofrecer información y asistencia valiosas, es esencial mantener un nivel de escepticismo.Reconocer situaciones en las que la IA proporciona una "visión interna" puede ayudar a mitigar los riesgos de exceso de confianza y sesgos de confirmación.Por el contrario, adoptar las capacidades de "visión externa" de la IA puede mejorar la toma de decisiones al aprovechar sus fortalezas al considerar las tasas base y mitigar los sesgos derivados de las limitaciones humanas.

A medida que la IA continúa permeando varios aspectos de la sociedad, comprender su dinámica de toma de decisiones se vuelve cada vez más crucial.La investigación de Shu arroja luz sobre las capacidades, limitaciones y potencial de la IA para complementar los procesos de toma de decisiones humanas.

Los gerentes de empresas que confían en la IA o defienden su uso pueden encontrar interesante esta investigación.Es probable que los medios de comunicación que se centran en temas de tecnología y ciencias del comportamiento, como Harvard Business Review (HBR), también muestren un gran interés en los hallazgos.

"Explorar el territorio desconocido de la toma de decisiones de la IA ha reunido diversas perspectivas, allanando el camino para una comprensión más profunda de esta tecnología en rápida evolución y sus implicaciones para la sociedad", dijo Shu."A medida que continuamos en este viaje, nuestro objetivo es fomentar el uso responsable e informado de la IA, asegurando que sirva como una herramienta para el progreso y el empoderamiento en manos de los tomadores de decisiones".

Los coautores de Shu incluyen a Sreyoshi Das, profesor asistente de práctica en la Facultad de Computación y Ciencias de la Información Cornell Ann S. Bowers, y los investigadores independientes Daniela Hernandez Correal, Omar Fayaz, Junhui Lei, Prem Kumar Mullai Manavalan, Xinguo Peng, Nicholas Sakaguchi,y Sneha Suresh.

Más información:Stephen Shu et al, ¿Los chatbots de IA proporcionan una visión exterior?Revista Electrónica SSRN(2024).DOI: 10.2139/ssrn.4874756