Estás caminando de regreso a casa.De repente, el terreno parece abrirse y emerge un dron de seguridad que bloquea tu camino para verificar tu identidad.Esto puede parecer descabellado pero esbasado en una tecnología existenteâun sistema de drones fabricado por la empresa de inteligencia artificial Sunflower Labs.

Como parte de un proyecto internacional que analiza el impacto de la IA en las ciudades, recientemente "iniciamos terreno" enun nuevo campo de investigación llamado urbanismo con IA.Esto es diferente del concepto de "ciudad inteligente".Las ciudades inteligentes recopilan información de la tecnología, como los sistemas de sensores, y la utilizan para gestionar operaciones y ejecutar servicios de manera más fluida.

El urbanismo con IA representa una nueva forma de dar forma y gobernar las ciudades mediante la inteligencia artificial (IA).Se aleja sustancialmente de los modelos contemporáneos de desarrollo y gestión urbanos.Si bien es vital que monitoreemos de cerca esta área emergente, también deberíamos preguntarnos si, en primer lugar, deberíamos involucrar tan de cerca a la IA en el funcionamiento de las ciudades.

El desarrollo de la IA está intrínsecamente relacionado con el desarrollo de las ciudades.todo lo quehabitantes de la ciudaddo le enseña a la IA algo valioso sobre nuestro mundo.la forma en que tuConduce tu coche o anda en bicicleta.ayuda a entrenar la IA detrás de unvehículo autónomoen el funcionamiento de los sistemas de transporte urbano.

Lo que come y lo que compra informa a los sistemas de inteligencia artificial sobre sus preferencias.Multiplique estos registros individuales por los miles de millones de personas que viven en ciudades y tendrá una idea de cuántos datos puede recopilar la IA en entornos urbanos.

Vigilancia predictiva

Bajo el concepto tradicional deciudades inteligentes, tecnologíascomo el internet de las cosasutilizar sensores conectados para observar y cuantificar lo que está sucediendo.Por ejemplo, los edificios inteligentes pueden calcular cuánta energía consumimos y la tecnología en tiempo real puede cuantificar cuántas personas utilizan el metro en un momento dado.El urbanismo de la IA no se limita a cuantificar, sino que cuenta historias y explica por qué y cómo tienen lugar determinados acontecimientos.

No estamos hablando de narrativas complejas, pero incluso una historia básica puede tener repercusiones sustanciales.Tomemos como ejemplo el sistema de inteligencia artificial desarrollado por la empresa estadounidense Palantir, que esya empleado en varias ciudades, para predecir dónde se cometerán los crímenes y quiénes estarán involucrados.

Estas predicciones pueden ser llevadas a cabo poroficiales de policia en términos de dónde asignar recursos.La vigilancia policial predictiva en general es uno de los poderes más controvertidos que las inteligencias artificiales están adquiriendo en el urbanismo de la IA: la capacidad de determinar qué está bien o mal, y quién es "bueno" o "malo" en una ciudad.

Esto es un problema porque, comoUn ejemplo reciente de ChatGPT ha dejado en claro, la IA puede producir un relato detallado, sin captar su significado.Es una inteligencia amoral, en el sentido de que es indiferente a las cuestiones del bien o del mal.

Y, sin embargo, este es exactamente el tipo de cuestión que delegamos cada vez más a la IA en la gobernanza urbana.Esto podría ahorrar algo de tiempo a los administradores de nuestras ciudades, dada la extraordinaria velocidad de la IA para analizar grandes volúmenes de datos, pero el precio que estamos pagando en términos de justicia social es enorme.

Un problema humano

Estudios recientes indican que las decisiones tomadas por la IA están penalizando a las minorías racialesen los sectores de vivienda e inmobiliario.También hay unimportante coste medioambiental a tener en cuenta, ya que la tecnología de IA consume mucha energía.Se prevé que contribuya significativamente aemisiones de carbonodel sector tecnológico en las próximas décadas, y la infraestructura necesaria para mantenerlo consume materias primas críticas.La IA pareceprometen mucho en términos de sostenibilidad), pero cuando analizamos sus costos reales y sus aplicaciones en las ciudades, los aspectos negativos pueden fácilmente superar a los positivos.

No es que la IA se esté saliendo de control, como vemos en las películas de ciencia ficción y leemos en las novelas.Todo lo contrario: los humanos estamos haciendo conscientementedecisiones politicasque colocan a la IA en la posición de tomar decisiones sobre la gobernanza de las ciudades.Estamos cediendo voluntariamente algunas de nuestras responsabilidades de toma de decisiones a las máquinas y, en diferentes partes del mundo, ya podemos ver la génesis de nuevas ciudades que se supone estarán completamente operadas por IA.

esta tendenciaestá ejemplificado por Neom, un colosal proyecto de desarrollo regional actualmente en construcción en Arabia Saudita.Neom contará con nuevos espacios urbanos, incluida una ciudad lineal llamada The Line, gestionada por una multitud de sistemas de inteligencia artificial, y se supone que se convertirá en un modelo de sostenibilidad urbana.Estas ciudades del futuro contarán con vehículos autónomos que transportarán personas, robots que cocinarán y servirán comida y algoritmos que predecirán su comportamiento para anticiparse a sus necesidades.

Estas visiones resuenan con laconcepto de ciudad autónomaque se refiere a espacios urbanos donde la IA realiza de forma autónoma funciones sociales y de gestión con los humanos fuera del circuito.

Debemos recordar que la autonomía es un juego de suma cero.A medida que crece la autonomía de la IA, la nuestra disminuye y el surgimiento de ciudades autónomas corre el riesgo de socavar gravemente nuestro papel en la gobernanza urbana.Una ciudad dirigida no por humanos sino por IA desafiaría la autonomía de las partes interesadas humanas, como también desafiaría el bienestar de muchas personas.

¿Calificará para una hipoteca de vivienda y podrá comprar una propiedad para formar una familia?¿Podrás conseguir un seguro de vida?¿Está su nombre en una lista de sospechosos que la policía va a perseguir?Hoy en día, las respuestas a estas preguntas ya están influenciadas por la IA.En el futuro, si la ciudad autónoma se convierte en la realidad dominante, la IA podría convertirse en el único árbitro.

La IA necesita que las ciudades sigan devorando nuestros datos.Como ciudadanos, ha llegado el momento de cuestionar cuidadosamente el espectro de la ciudad autónoma como parte de un debate público ampliado y plantear una pregunta muy simple: ¿realmente necesitamos la IA para que nuestras ciudades sean sostenibles?

Este artículo se republica desdeLa conversaciónbajo una licencia Creative Commons.Lea elartículo original.