El 12 de diciembre, el Departamento de Transporte de EE. UU. emitió un retiro del mercado con respecto a Autosteer, una característica incluida en la suite semiautónoma Autopilot de Tesla, porque "puede haber un mayor riesgo de colisión".

El retiro, que afecta a más de dos millones de vehículos en los Estados Unidos, es un momento decisivo en la historia automotriz moderna, ya que afectaCasi todos los Tesla que circulan por las carreteras de EE. UU.

Transporte Canadáextendió el retiro a193.000 vehículos Tesla en Canadá.

tesla diceSólo vehículos en EE. UU. y Canadá.se ven afectados por el retiro.

A diferencia de las tecnologías que pueden definirse como completamente autónomas, como los ascensores en los que un usuario entra y presiona un botón, Autosteer no es unsistema autónomo, a pesar de lo que puedan pensar los conductores.

Un estudio de 2018 encontró queEl 40 por ciento de los conductores creía que los vehículos Tesla son capaces de conducirse completamente por sí solos..Un estudio similar concluyó que los participantes "calificó [el piloto automático] como que implicaba menos responsabilidad para el ser humano en cuanto a la dirección que la "alta automatización", y no era diferente de "autónomo" o "autónomo"".

En cambio, Tesla Autopilot cae en la categoría deSistemas de nivel 2, o semiautónomos..Este sistema puede manejarvehículogirar y acelerar, pero el conductor humano debe permanecer alerta en todo momento.

Comunicación confusa

Eninvestigación de factores humanos, creer que un sistema puede hacer algo que no puede se conoce comoconfusión de modo.La confusión de modos no sólo induce a error al usuario sino que también tiene implicaciones directas para la seguridad, como en el caso del1992 Accidente del avión del vuelo 148 de Air Inter en Francia.Esa situación fue el resultado directo de que el piloto operara el sistema de la aeronave en un modo diferente a su diseño original.

Los investigadores de seguridad han hecho sonar la alarma sobreriesgos inherentes a los sistemas semiautónomos.En los modos totalmente manual y totalmente autónomo, está claro quién es responsable de conducir: el conductor humano y el robot, respectivamente.

Los sistemas semiautónomos representan una zona gris.El conductor humano cree que el sistema es responsable de conducir, perocomo ya han argumentado con éxito los abogados que representan a Tesla, No lo es.

Un segundo factor importante es también el papel de la información engañosa.Elindustria automotrizEn su conjunto, durante años, se ha movido de puntillas en torno a las capacidades reales de la tecnología de vehículos autónomos.En 2016,Mercedes Benz retiró del aire un comercial de televisión después de las críticas de que retrataba capacidades de conducción autónoma poco realistas..

Más recientemente, Ashok Elluswamy, director de software de piloto automático de Tesla, dijoEl vídeo de 2016 que promocionaba su tecnología de conducción autónoma era falso..

Falsa sensación de seguridad

Pensar que un sistema es totalmente autónomo crea una falsa sensación de seguridad que los conductores pueden aprovechar perdiendo la vigilancia o desvinculándose de la tarea de supervisar el funcionamiento del sistema.Las investigaciones sobre accidentes anteriores relacionados con el piloto automático de Tesla demostraron queDe hecho, la excesiva dependencia de los conductores del sistema semiautónomo contribuyó a algunos accidentes reportados..

La retirada es un esfuerzo lógico, aunque muy esperado, de las agencias de transporte para regular un problema sobre el que los investigadores han intentado llamar la atención durante años.

En su estudio de 2016, Mica Endsley, pionera en elcampo de investigaciónsobre la automatización de usuarios, destacó algunosRiesgos potenciales de seguridad de estos sistemas..Un estudio más reciente publicado por mi grupo de investigación también muestraLos peligros que el funcionamiento de sistemas semiautónomos supone para la atención de los conductores..

Con el retiro del mercado, Tesla lanzaráactualizaciones de software inalámbricasque están destinados a "alentar aún más al conductor a cumplir con su responsabilidad de supervisión continua siempre que se active Autosteer".Estos pueden incluir "alertas visuales" adicionales y otras adiciones al sistema para ayudarconductoresmanténgase alerta mientras el giro automático esté activado.

En definitiva, aunque esta puede ser la primera vez que los reguladores dan un golpe directo y concreto a Tesla y su marketing, no será la última.

Este artículo se republica desdeLa conversaciónbajo una licencia Creative Commons.Lea elartículo original.