Los vehículos autónomos han sido portada de muchísimos periódicos, se han escrito muchos artículos sobre ellos durante años, incluso décadas, asegurando que iban a sustituir a los vehículos tal y como los conocemos. El caso es que la llegada de los vehículos autónomos a nuestras vidas llega anunciándose hace mucho tiempo, pero la realidad está mostrando algo muy distinto. No sólo no han llegado, sino que aún falta mucho para que lleguen. Su tecnología es muy compleja, la cantidad de datos que necesitan es monstruosa, y necesitan años de entrenamiento.
En US hay unas empresas de vehículos autónomos, que ofrecen un servicio de taxi, que están en boca de todos, Cruise porque el Departamento de Vehículos de Motor de California ha decidido retirarlos de la circulación, y los motivos son de peso: la seguridad de las personas se ha puesto en juego.
Concretamente, en San Francisco, un vehículo de Cruise se interpuso a un coche de bomberos, en otra ocasión atropelló a una transeúnte arrastrándola durante metros ocasionándole serias heridas, y en otro accidente mató a una niña de 4 años.
Kyle Vogt, el CEO de Cruise, empresa que pertenece a General Motors, aseguró que los vehículos autónomos no se emborrachan, no se drogan, no se cansan o no se despistan, pero el caso es que, aun no sufriendo estos percances, han puesto en peligro la seguridad de las personas y, en alguna ocasión, provocado la muerte.
La cuestión es que, a las muertes que los accidentes de tráfico producen, no se les pueden añadir las de los vehículos autónomos. Esta es una cuestión más que suficiente para apartarlos de la circulación.
Pero, vamos a hablar un poco del grado de autonomía de los vehículos y qué significa en cada caso:
Nivel 0. No hay automatización. El conductor tiene que hacerlo todo.
Nivel 1. Asistencia en la conducción. El conductor sigue haciéndolo casi todo, pero el coche está equipado con unas pocas funciones básicas de automatización, como la asistencia de mantenimiento de carril o la asistencia de velocidad, por ejemplo.
Nivel 2. Sin intervención. El coche puede asumir la función de conducción en determinadas situaciones. Sigue siendo bastante limitado y el conductor debe ser capaz de intervenir a los pocos segundos de recibir el aviso del coche.
Nivel 3. Sin ojos. El coche puede asumir la función de conducción durante periodos de tiempo más largos, por ejemplo, en las autopistas. Por lo tanto, cuando las situaciones no son tan complicadas, tiene una especie de conducción autónoma. El conductor sigue estando ahí e interviniendo, pero la función de conducción autónoma es mucho más larga en el tiempo y en el espacio.
Niveles 4 y 5. Se consideran la verdadera conducción autónoma y el objetivo al que nos gustaría llegar como sociedad. La diferencia entre ellos es que el nivel 4 se denomina «mind-off» y el 5 «person-off».
La diferencia entre ellos es que el nivel 4 supuestamente necesita en algunas situaciones la intervención humana. Seguirá habiendo una cabina, un volante y unos pedales. En situaciones muy excepcionales seguirá habiendo un conductor humano, aunque el coche siga siendo autónomo.
En el nivel 5 ya no hay conductor. Todo el mundo en el coche es un pasajero, no hay volantes, ni pedales, no hay posibilidad de que el humano intervenga, aunque quiera. Así pues, el nivel 5 es el objetivo social que realmente supone el beneficio de la conducción autónoma, que las pruebas demuestran que realmente puede reducir los accidentes por debajo del 1% del nivel que tenemos hoy en día, menor emisión de gases de carbono, etc.
He participado en workshops sobre vehículos autónomos, he estado trabajando con ingenieros que siguen trabajando en el desarrollo de vehículos autónomos, he participado en un capítulo en un libro sobre vehículos autónomos sobre los problemas de privacidad y éticos. Quiero decir, no es un tema que me esté ajeno y en este artículo sólo trato un 20% de las cosas que he estudiado e investigado, pero que son muy útiles para saber dónde estamos.
El punto clave es que el beneficio de la conducción autónoma se alcanzaría y se vería y sentiría en la sociedad si alcanzamos, al menos, el 90% de uso de coches de conducción autónoma.
Ahora viene la pregunta del millón: ¿qué es lo más avanzado que hay actualmente en el mercado?
La sociedad actual está en el nivel 2, incluso un poco en el nivel 3. Hay un debate sobre si realmente hemos alcanzado el nivel 3. Esta es la realidad, ni más ni menos. Así que imagínense lo que aún queda para que lleguemos al nivel de autonomía que Elon Musk lleva prometiendo desde hace 9 años.
En el coche autónomo pasaremos del conductor al pasajero, a las personas que están alrededor del coche cuando el coche hable con otros coches, el coche no sólo tiene cámaras dentro, sino también fuera.
De hecho, en el Mobile World Congress de hace unos años vimos algunos de los grandes fabricantes de automóviles, y no sólo estaban allí como fabricantes de coches, sino también como empresas de datos.
Volviendo al caso que nos ocupa, ¿qué ha llevado a una empresa colocar vehículos autónomos en una ciudad sin haberse asegurado al 100% que no iban a provocar ningún daño? Ni más ni menos que la cultura de la industria tecnológica y su feroz competencia, en este caso, con Waymo, la empresa de Google.
De hecho, Kyle Vogt, el CEO de Cruise, puso el foco en el rápido crecimiento olvidándose de la seguridad. Se centró en la carrera competitiva entre Cruise y Waymo, Vogt quería dominar el mercado de la misma manera que lo hizo Uber con su competidor Lyft.
Pensemos bien lo que acabamos de leer: antepuso el crecimiento de la empresa a la seguridad, y esto ha provocado una crisis de confianza enorme entre la población, quizás, la crisis más difícil de subsanar. Cada accidente que alguno de los coches de la flota de Cruise tenía, como el choque con un Toyota Prius en el carril bus, la empresa se centraba en cambiar su software para evitar repetir este tipo de accidentes.
Posteriormente, otro vehículo Cruise chocó con un camión de bomberos en emergencia, y se centraron en cambiar su software para que detectase las sirenas. Pero la cuestión es que estos no son los únicos problemas que ocasionaron los coches Cruise en la ciudad. Hubo muchas infracciones de tráfico que no llegaron a ocasionar un accidente, pero que se supone que la empresa habría trabajado para evitarlos.
Quiero detenerme aquí y hacer una reflexión sobre los aspectos que la regulación está teniendo en cuenta. La regulación no debe sólo centrarse en la seguridad, debe centrarse en regular la cultura de las empresas. Los modelos de negocio son producto de la cultura de las empresas, y no se están regulando. Se regulan los riesgos de la IA, pero si ponemos el ojo sólo en el riesgo dejamos a un lado el daño.
Poner el ojo en el riesgo es no saber si producirá o no un riesgo, pero el riesgo en sí, el impacto social negativo, es el que nos dará información sobre el contexto en el que se ha aplicado la tecnología, y es aquí donde la regulación, además de en la cultura de la empresa, debe ponerse firme.
De hecho, la cultura de la empresa está desde el ex – ante del diseño de la tecnología hasta el ex – post, que sería su implementación e impacto social.
Y siento decirles que la autoregulación y los papers con principios son sólo “panfletos” de buenas intenciones reflejo de una actitud ingenua, o incluso arrogante si me permiten la expresión, por pensar que se aplicarán dichos principios por haber sido confeccionados por un grupo de expertos. Y créanme que sé de lo que les hablo.
Bien, dicho esto, pasemos a otro gran ¿escándalo? (un secreto a voces) de la industria de los vehículos autónomos: los vehículos autónomos son los padres. O, dicho de otra manera, NO EXISTEN.
Con Cruise lo hemos visto claro. El NYT, en un artículo, desveló que hay 1,5 empleados por cada VA Cruise que los asisten remotamente cada 2,5-5 millas. Es decir, frecuentemente tienen que controlar remotamente los coches después de haber recibido una señal de que estaban teniendo problemas. En otras palabras, los VA no son tan autónomos. PUNTO.
Debido a los incidentes provocados por los VA Cruise, el Departamento de Vehículos a Motor (DMV) de California ha suspendido el permiso a Cruise para operar comercialmente con sus taxis autónomos y para hacer cualquier test en las calles sin conductor, concretamente el ocurrido el 2 de octubre cuando uno de los VA de Cruise atropelló a una transeúnte arrastrándola durante metros y ocasionándole unas heridas graves.
Pero este no ha sido el único incidente grave provocado por los VA Cruise. El 14 de agosto pasado un vehículo Cruise se interpuso en el paso de una ambulancia que iba hacia un atropello de una persona por un vehículo en la carretera y resultó muerta por el retraso en llegar al accidente.
De hecho, en una reunión el pasado 7 de agosto para discutir la seguridad de los VA, Jeanine Nicholson, la jefa del Departamento de bomberos de San Francisco dijo a la Comisión de investigación que su departamento había recibido 55 quejas de VA conduciendo de manera temeraria cerca de vehículos de emergencias, obstruyendo o bloqueando el paso de los vehículos.
Jeanine Nicholson dijo que 55 avisos puede que no sean muchos si no se trata de tu familia, pero para su departamento la protección de la familia de todos los habitantes de San Francisco son su prioridad.
Pero hay algo que no ha hecho más que añadir más leña al fuego en el caso Cruise, y es que, a través de material no interno no divulgado se ha sabido que Cruise conocía de dos problemas de seguridad muy graves: (i) los coches tenían problemas para detectar grandes agujeros en la carretera y (ii) les costaba tanto reconocer a los niños según en qué escenarios, por lo que en determinadas situaciones corrían el riesgo de atropellarlos.
Pero aun así, decidieron mantener activa su flota de taxis sin conductor, manteniendo sus habituales garantías de seguridad.
Esto ha ocasionado una inversión millonaria a General Motors de 588 millones de dólares, cada VA cuesta entre 150.000-200.000$, que esta es otra, el enorme valor de los VA por la cantidad de sensores, cámaras, softwares, sistemas operativos que necesita para funcionar.
Pero las pérdidas han sido aún mayores. General Motors ha declarado que de marzo a septiembre ha perdido 1,9 billones de dólares.
Otra cuestión que nos debemos plantear, ¿quién se puede permitir un vehículo que cuesta 150.000$? Es verdad que los costes de producción irán bajando con los años, pero aún así serán vehículos de un coste que pocos se podrán permitir.
¿Cuál es mi conclusión en este caso? Pues que el potencial de la IA para resolver problemas es relativo. Y esto es algo que debemos grabárnoslo en nuestro cerebro. El gran problema es el hype que rodea a esta tecnología alimentada por los CEOs y emprendedores de Silicon Valley que hacen creer a gobiernos, instituciones, otros emprendedores e incluso a los reguladores, que estamos en un estadio muy avanzado y que en pocos años un enorme porcentaje de trabajos se quedarán obsoletos o desaparecerán.
¿Cuánto tiempo llevamos escuchando esto? Lo que quiero decir no es que la IA no sirva, al contrario. Soy una gran fan de esta tecnología, pero no de la mentira sin escrúpulos con el objetivo de aumentar beneficios y generar discriminación.
La IA no es una solución milagrosa, pero los gobiernos deben reconocerlo y saber que esta tecnología no es la solución a los problemas sociales que tenemos.
En mi caso, no he parado de repetir durante años, y creo que, sin éxito alguno, que las soluciones vienen de la mano de las tecnologías sociales.
No se trata de desarrollar más tecnología para solucionar nuestros problemas sociales, sino de aumentar la interacción humana, de cambiar los modelos de negocio, de crear nuevas narrativas que sustituyan a las actuales adaptadas a nuestras realidades, de regulación adaptada al impacto social pero también a la cultura de las empresas, de renovar nuestras instituciones que nos protejan de manera colectiva ante los efectos negativos de la IA y que no nos obliguen a ir de manera individual a los juzgados.
Todos estos ejemplos de soluciones pertenecen a las tecnologías sociales y es lo que realmente necesitamos. ¿Estamos preparados para asumirlos?
Actualización. El pasado 19 de noviembre, Kyle Vogt, CEO de Cruise, dimitió un día después de haberse disculpado por los sucesos ante el personal, y deja a la empresa sometida a una revisión de seguridad. No es muy frecuente ver que CEOs de compañías americanas dimitan, por lo que puede que este sea un gesto de Cruise para empezar a aumentar la confianza a través de sus decisiones y acercarse a los reguladores.