A estas alturas, muchos de nosotros probablemente estemos familiarizados con el revuelo sobre la inteligencia artificial.La IA haráartistas redundantes!La IA puede hacerexperimentos de laboratorio!la IA lo haráacabar con el dolor!

Incluso según estos estándares, la última proclamación del director ejecutivo de OpenAI, Sam Altman, publicada en su sitio web personal esta semana, parece notablemente hiperbólica.Estamos al borde de "La era de la inteligencia", declara, impulsado por una "superinteligencia" que puede estar a sólo "unos miles de días" de distancia. La nueva era traerá "triunfos asombrosos", entre ellos "arreglar el clima, establecer una colonia espacial y el descubrimiento de todos losfísica."

Altman y su compañía, que está tratando derecaudar miles de millones de inversoresylanzando centros de datos de dimensiones sin precedentesal gobierno de Estados Unidos, mientrasdeshacerse del personal claveyabandonando sus raíces sin fines de lucrodarle a Altman una parte de la propiedad, tienen mucho que ganar con las exageraciones.

Sin embargo, incluso dejando de lado estas motivaciones, vale la pena echar un vistazo a algunas de las suposiciones detrás de las predicciones de Altman.Si se examinan más de cerca, revelan mucho sobre la visión del mundo de los mayores defensores de la IA y los puntos ciegos de su pensamiento.

¿Máquinas de vapor para pensar?

Altman fundamenta sus maravillosas predicciones en una historia de la humanidad de dos párrafos:

"Con el tiempo, la gente se ha vuelto mucho más capaz; ahora ya podemos lograr cosas que nuestros predecesores habrían creído imposibles".

Esta es una historia de progreso absoluto que avanza en una sola dirección, impulsado por la inteligencia humana.Los descubrimientos e invenciones acumulativos de la ciencia y la tecnología –revela Altman– nos han llevado al chip informático e, inexorablemente, a la inteligencia artificial, que nos llevará el resto del camino hacia el futuro.Esta visión debe mucho a las visiones futuristas delsingularitariomovimiento.

Una historia así es seductoramente simple.Si la inteligencia humana nos ha llevado a alturas cada vez mayores, es difícil no concluir que una inteligencia artificial mejor y más rápida impulsará el progreso aún más lejos y más alto.

Este es un viejo sueño.En la década de 1820, cuando Charles Babbage viomotores de vapor revolucionando el trabajo físico humanoDurante la revolución industrial de Inglaterra, empezó a imaginar la construcción de máquinas similares para automatizar el trabajo mental."Babbage"motor analítico" nunca se construyó, pero ha persistido la noción de que el logro final de la humanidad implicaría mecanizar el pensamiento mismo.

Según Altman, ahora estamos (casi) en la cima de esa montaña.

El aprendizaje profundo funcionó, pero ¿para qué?

La razón por la que estamos tan cerca del glorioso futuro es simple, dice Altman: "el aprendizaje profundo funcionó".

El aprendizaje profundo es un tipo particular de aprendizaje automático que involucra redes neuronales artificiales, inspiradas libremente en los sistemas nerviosos biológicos.Sin duda, ha tenido un éxito sorprendente en algunos ámbitos: el aprendizaje profundo está detrás de modelos que han demostrado ser expertos enEncadenar palabras de forma más o menos coherente., en generarfotos bonitasyvídeos, e incluso contribuyendo a las soluciones de algunosproblemas científicos.

Por tanto, las contribuciones del aprendizaje profundo no son triviales.Es probable que tengan importantes impactos sociales y económicos (tanto positivos como negativos).

Pero el aprendizaje profundo sólo funciona para un conjunto limitado de problemas.Altman lo sabe: "La humanidad descubrió un algoritmo que realmente podría aprender cualquier distribución de datos (o realmente las 'reglas' subyacentes que producen cualquier distribución de datos)".

Eso es lo que hace el aprendizaje profundo, así es como funciona.Esto es importante y es una técnica que se puede aplicar a varios dominios, pero está lejos de ser el único problema que existe.

No todos los problemas se pueden reducir a la coincidencia de patrones.Tampoco todos los problemas proporcionan lacantidades masivas de datosque el aprendizaje profundo requiere para hacer su trabajo.Tampoco es estocómo funciona la inteligencia humana.

Un gran martillo buscando clavos.

Lo interesante aquí es el hecho de que Altman cree que las "reglas a partir de datos" contribuirán en gran medida a resolver todos los problemas de la humanidad.

Hay un dicho que dice que una persona que sostiene un martillo probablemente verá todo como un clavo.Altman ahora sostiene un martillo grande y muy caro.

El aprendizaje profundo puede estar funcionando, pero sólo porque Altman y otros están empezando a reinventar (yconstruir) un mundo compuesto de distribuciones de datos.Aquí existe el peligro de que la IA esté empezando a limitar, en lugar de ampliar, los tipos de resolución de problemas que estamos realizando.

Lo que apenas es visible en la celebración de la IA por parte de Altman son los crecientes recursos necesarios también paraaprendizaje profundopara trabajar.Podemos reconocer los grandes avances y logros notables de la medicina, el transporte y las comunicaciones modernas (por nombrar algunos) sin pretender que no han tenido un costo significativo.

Han tenido un costo tanto para algunos seres humanos (para quienes las ganancias del Norte global han significado rendimientos decrecientes) como para los animales, las plantas y los ecosistemas, explotados y destruidos despiadadamente por el poder extractivo del capitalismo más la tecnología.

Aunque Altman y sus amigos impulsores podrían descartar tales puntos de vista como quisquillosos, la cuestión de los costos va directo al corazón de las predicciones y preocupaciones sobre el futuro de la IA.

Altman ciertamente es consciente de que la IA enfrenta límites y señala que "todavía hay muchos detalles que tenemos que resolver".Uno de ellos es el costo energético en rápida expansión del entrenamiento de modelos de IA.

Microsoft anunció recientementeun fondo de 30 mil millones de dólarespara construir centros de datos de IA y generadores para alimentarlos.El veterano gigante tecnológico, que ha invertido más de 10 mil millones de dólares en OpenAI, también firmó un acuerdo con los propietarios de Three Mile Island.planta de energía nuclear(famoso por su colapso en 1979) para suministrarpoder para la IA.El gasto frenético sugiere que puede haber un atisbo de desesperación en el aire.

¿Magia o simplemente pensamiento mágico?

Dada la magnitud de tales desafíos, incluso si aceptamos la visión optimista de Altman sobre el progreso humano hasta ahora, tal vez tengamos que reconocer que el pasado puede no ser una guía confiable para el futuro.Los recursos son finitos.Se alcanzan los límites.El crecimiento exponencial puede terminar.

Lo más revelador de la publicación de Altman no son sus predicciones precipitadas.Más bien, lo que emerge es su sentido de optimismo ilimitado en la ciencia y el progreso.

Esto hace que sea difícil imaginar que Altman u OpenAI se tomen en serio las desventajas de la tecnología.Con tanto que ganar, ¿por qué preocuparse por algunos problemas insignificantes?Cuando la IA parece tan cerca del triunfo, ¿por qué detenerse a pensar?

Lo que está surgiendo en torno a la IA es menos una "era de la inteligencia" y más una "era de la inflación": inflar el consumo de recursos, inflar las valoraciones de las empresas y, sobre todo, inflar las promesas de la IA.

Es cierto que algunos de nosotros hacemos ahora cosas que habrían parecido mágicas hace un siglo y medio.Eso no significa que todos los cambios desde entonces hasta ahora hayan sido para mejor.

La IA tiene un potencial notable en muchos ámbitos, pero imaginarla encierra la clave para resolver todos los problemas de la humanidad... eso también es pensamiento mágico.

Este artículo se republica desdeLa conversaciónbajo una licencia Creative Commons.Lea elartículo original.