El futuro despliegue de IA y robots en nuestro trabajo y vida cotidianos, desde vehículos totalmente automatizados hasta robots de reparto y asistentes de IA, podría realizarse creando agentes cada vez más capaces que puedan realizar muchas tareas, o agentes más simples y más limitados que estén diseñados.para tareas específicas.

Lo primero suele estar en el centro de atención: sistemas de IA entrenados progresivamente con competencias generalizadas en muchos dominios con el eventual desarrollo de una inteligencia artificial general, que en última instancia está vinculada con la posibilidad (o el miedo) de que entidades artificiales obtengan beneficios.conciencia.

Esto plantea varias preocupaciones.Un sistema automatizado de reconocimiento facial puede ser aceptable para ayudar en el control fronterizo o en el procesamiento de solicitudes de asilo cuando se trabaja dentro de algunos límites y con criterios de alta seguridad adecuados.

Dotar de tales capacidades a una IA de dominio general, también capaz de hablar y tomar decisiones sanitarias, educativas o militares, es una amenaza.Además de eso, operar un sistema de propósito general genera importantes costos de energía y emisiones, como lo demuestran las arquitecturas generativas, como los grandes modelos de lenguaje.

La visión alternativa la defienden los investigadores del consorcio del proyecto EMERGE en su recientepublicaciónen el diarioSistemas inteligentes avanzados.Los autores sostienen que al orquestar numerosas acciones simultáneas o secuenciales a través de diferentes sistemas de IA especializados, la presencia de la conciencia como mecanismo integrador privado dentro de cada sistema no es esencial ni suficiente.

Proponen que los sistemas de IA especializados adaptados atareas específicaspuede ser más fiable, energéticamente eficiente, éticamente manejable y, en general, más eficaz que la inteligencia general.Mientras tanto, estos sistemas plantean principalmente un problema de coordinación efectiva entre diferentes sistemas y humanos, para lo cual, argumentan, se necesitan formas más simples de compartir.concienciason suficientes.

"Lo que se necesita es la capacidad de compartir selectivamente estados relevantes con otros sistemas de IA para facilitar la coordinación y la cooperación, o para abreviar, una conciencia compartida colaborativa. Como la palabra 'conciencia' se utiliza a veces como sinónimo de conciencia, esEs importante destacar que la conciencia colaborativa es significativamente diferente de la conciencia", dice Ophelia Deroy, profesora de Filosofía y Neurociencia en la Universidad Ludwig Maximilian de Munich, Alemania.

Primero, la conciencia compartida no es un estado privado, por definición.Si un enjambre de robots tiene una conciencia compartida de toda la fábrica, esta conciencia compartida no se puede reducir a la representación del espacio que tiene cada agente individual.Es una propiedad emergente.En segundo lugar, la conciencia compartida sólo puede ser transitoria y compartir estados con otros sólo cuando es necesario coordinar objetivos individuales o cooperar en un objetivo común.En tercer lugar, la conciencia compartida puede ser selectiva respecto de qué estados son relevantes para ser compartidos con otros.

Y si bien las opiniones dominantes sobre la conciencia significan que está integrada o unificada, la conciencia compartida puede dividirse entre diferentes agentes: un sistema puede necesitar compartirinformación espacialcon otro sistema, niveles de energía con su controlador y compartir otros aspectos como su confianza con otros sistemas o sus usuarios.

"La conciencia compartida hace que los agentes artificiales sean más fáciles de monitorear y controlar para los operadores humanos. También permite que los sistemas funcionen mejor juntos, incluso si fueron diseñados por diferentes empresas. La conciencia compartida podría ayudar a los vehículos autónomos a evitar colisiones, a los robots logísticos a coordinar la entrega de paquetes,o los sistemas de IA analizan el historial médico complejo del paciente para generar recomendaciones de tratamiento útiles", dice Sabine Hauert, profesora de Ingeniería de Enjambres en la Universidad de Bristol, Reino Unido.

Más información:Ophelia Deroy et al, Conciencia compartida entre dominios: inteligencia artificial específica: una alternativa al dominio: inteligencia general y conciencia artificial,Sistemas inteligentes avanzados(2024).DOI: 10.1002/aisy.202300740

Proporcionado porSURGIR