Si es un suscriptor pago de ChatGPT, es posible que haya notado que el modelo de lenguaje grande de inteligencia artificial (IA) recientemente comenzó a sonar más humano cuando tiene interacciones de audio con él.

Esto se debe a que la compañía detrás del modelo de lenguaje con chatbot, OpenAI, está ejecutando actualmente una prueba piloto limitada de una nueva característica conocida como "modo de voz avanzado".

OpenAI dice este nuevo modo"presenta conversaciones más naturales y en tiempo real que captan y responden con emoción yseñales no verbales".planeapara que todos los suscriptores pagos de ChatGPT tengan acceso al modo de voz avanzado en los próximos meses.

El modo de voz avanzado suena sorprendentemente humano.No existen los incómodos espacios a los que estamos acostumbrados con los asistentes de voz;en cambio, parece respirar como lo haría un humano.Tampoco se inmuta ante las interrupciones, transmite señales emocionales apropiadas y parece inferir el estado emocional del usuario a partir de señales de voz.

Pero al mismo tiempo que hace que ChatGPT parezca más humano, OpenAIha expresado preocupaciónque los usuarios podrían responder al chatbot como si fuera humano, desarrollando una relación íntima con él.

Esto no es hipotético.Por ejemplo, una influencer de las redes sociales llamada Lisa Liha codificado ChatGPT para que sea su "novio".Pero ¿por qué exactamente algunas personas desarrollan relaciones íntimas con unachatbot?

La evolución de la intimidad

Los humanos tenemos una capacidad notable para la amistad y la intimidad.Esta es una extensión de la forma en que los primates físicamenteacicalarse unos a otrospara construir alianzas a las que se pueda recurrir en tiempos de conflicto.

Pero nuestros antepasados ​​también desarrollaron una notable capacidad"prepararse" unos a otros verbalmente.Esto impulsó el ciclo evolutivo en el que los centros del lenguaje en nuestro cerebro se hicieron más grandes y lo que hacíamos con el lenguaje se volvió más complejo.

A su vez, un lenguaje más complejo permitió una socialización más compleja con redes más grandes de familiares, amigos y aliados.También amplió las partes sociales de nuestro cerebro.

El lenguaje evolucionó junto con el comportamiento social humano.La forma en que atraemos a un conocido a la amistad o a un amigo a la intimidad es en gran medida a través de la conversación.

Experimentos en la década de 1990reveló que el intercambio conversacional, especialmente cuando implica revelar detalles personales, genera la sensación íntima de que nuestro interlocutor es de alguna manera parte de nosotros.

Así que no me sorprende que los intentos de replicar este proceso de "autorrevelación creciente"entre humanos y chatbotsda como resultado que los humanos se sientaníntimo con los chatbots.

Y eso es sólo con la entrada de texto.Cuando interviene la principal experiencia sensorial de la conversación, la voz, el efecto se amplifica.Incluso los asistentes de voz que no parecen humanos, como Siri y Alexa, siguen obteniendouna avalancha de propuestas de matrimonio.

La escritura estaba en la pizarra del laboratorio.

Si OpenAI me preguntara cómo garantizar que los usuarios no formen relaciones sociales con ChatGPT, tendría algunas recomendaciones simples.

Primero, no le des voz.En segundo lugar, no lo hagas capaz de retrasar un extremo de una aparente conversación.Básicamente, no fabriques el producto que hiciste.

El producto es tan poderoso precisamente porque hace un trabajo excelente al imitar los rasgos que utilizamos para formar relaciones sociales.

La escritura estaba en la pizarra del laboratorio desde que se encendieron los primeros chatbots.hace casi 60 años.Las computadoras han sidoreconocidos como actores socialesdurante al menos 30 años.El modo de voz avanzado de ChatGPT es simplemente el siguiente incremento impresionante, no lo que la industria tecnológica llamaría efusivamente un "cambio de juego".

Que los usuarios no sólo establecen relaciones con los chatbots sino que también desarrollan sentimientos personales muy estrechos quedó claro a principios del año pasado cuando los usuarios de la plataforma de amigos virtuales Replika AI se vieron inesperadamente privados de las funciones más avanzadas de sus chatbots.

Replika era menos avanzada que la nueva versión de ChatGPT.Y, sin embargo, las interacciones eran de tal calidad que los usuarios formaban vínculos sorprendentemente profundos.

Los riesgos son reales

Mucha gente,famélicoPara el tipo de empresa que escucha sin juzgar, sacará mucho provecho de esta nueva generación de chatbots.pueden sentirmenos solitario y aislado.Este tipo de beneficios de la tecnología nunca pueden pasarse por alto.

Pero los peligros potenciales del avanzado ChatGPTvozEl modo también es muy real.

El tiempo dedicado a chatear con cualquier bot es tiempo que no se puede dedicar a interactuar con amigos y familiares.Y la gente que gasta muchotiempo con la tecnologíaestan en el mayorriesgode desplazar las relaciones con otros humanos.

Como identifica OpenAI, chatear con bots también puede contaminar las relaciones existentes que las personas tienen con otras personas.Es posible que lleguen a esperar que sus parejas o amigos se comporten como chatbots educados, sumisos y deferentes.

estos mas grandesefectos de las máquinas en la culturavan a ser más prominentes.Por el lado positivo, también pueden proporcionar conocimientos profundos sobre cómo funciona la cultura.

Este artículo se republica desdeLa conversaciónbajo una licencia Creative Commons.Lea elartículo original.