Al hablar sobre autos autónomos es sabido que estos vehículos no circularán abruptamente por nuestras calles hasta tanto la ley no lo permita, por lo que esta duda sobre la vida de quién prevalecerá en el caso de un accidente inminente, seguramente será respondida por las esferas políticas más temprano que tarde. También es sabido que una vez alcanzado el máximo grado de autonomía completa, la seguridad en nuestras calles va a aumentar y los semáforos se volverán prácticamente obsoletos, una vez erradicados los autos manuales, por 2 sencillos motivos, el primero es que el peatón siempre tiene prioridad, mientras el segundo motivo es que los autos se podrán comunicar automáticamente con el resto de los vehículos que estén a su alrededor para decidir quién pasa primero y medir sus distancias y velocidades.
Una vez más, debemos reconocer que somos humanos, y como tales, no somos perfectos. Nos distraemos fácil, nos podemos dormir o sufrir un ataque cardíaco mientras estamos al volante, incluso podemos distraernos por estornudar, usar el teléfono móvil o mal interpretar las señales que nos hacen otros conductores. Somos proclives a equivocarnos, son cosas que pasan. Las máquinas por el contrario no se equivocan, o no lo hacen tan fácilmente. Siguen las órdenes con las que fueron programadas y se retroalimentan de información constantemente para evaluar de un milisegundo al otro, si deben seguir su plan actual o si algún factor externo obliga a cambiar esos planes de forma inmediata por lo que los accidentes entre autos autónomos son muy poco probables.
En la década del 80, el reconocido economista Milton Friedman plasmó una polémica respuesta ante la pregunta de un joven Michael Moore que se encontraba en la audiencia del estudio de televisión en el cual lo estaban entrevistando[69]. La pregunta se resolvía en torno a un conflicto con la marca Ford y su modelo de auto Pinto. Este fue un auto muy popular, pero tenía un gran problema. El tanque de gasolina estaba situado en la parte trasera del auto y en choques traseros, el tanque de gasolina era propenso a estallar. Esto era así porque la empresa había omitido colocar un protector de plástico contra el tanque de gasolina, lo cual en caso de un terrible accidente trasero, haría que el auto implosione en llamas. Por esto muchas personas murieron y otras resultaron severamente heridas. Muchos sobrevivientes demandaron a Ford por ello y llevaron a la empresa a la Justicia.
Mientras el caso se discutía ante los ojos de la ley, se descubrió que Ford ya conocía ese detalle del auto, pero que había realizado un análisis de costos y beneficios para determinar si convenía colocar o no esa tapa de plástico.
El costo de esta tapa de plástico era de tan solo US$ 11 por auto. Teniendo en cuenta que estimaban vender 12,5 millones de autos, daba como resultado un gasto de US$ 137 millones para mejorar la seguridad de sus clientes. Luego calcularon los beneficios de hacer esta inversión y estimaron que de no hacerla se producirían 180 muertes, ante lo que procedieron a asignar un valor monetario a las vidas humanas. El valor elegido fue de US$ 200 mil por persona fallecida. Luego calcularon 180 personas con heridas graves, lo que significaría US$ 67 mil por persona afectada y finalmente el costo de reparar 2.100 vehículos a un valor de US$ 700 por cada uno. Todo eso les significaba US$ 49,5 millones.
En números, a la empresa le resultaba más económico afrontar pagar esas sumas que colocar la famosa tapa de plástico en cada vehículo producido o rediseñar todo el producto.
Friedman, polémico como de costumbre, respondió que no se trataba de un problema de principios morales y que tampoco era correcto ponerle un precio “X” a una vida, pero que igual esto se debía hacer porque necesitamos asignarle valor a todo. Por el contrario, respondió que los consumidores tenían el derecho, con toda la información presente sobre la mesa, de comprar este auto US$ 11 más barato, o bien elegir mayor seguridad para sus vidas y optar por otro modelo o marca. Según sus palabras esto no era un problema propio de la empresa, era parte del libre mercado y las personas podían decidir en consecuencia. Según su visión, el principio fundamental en discusión era si nosotros deberíamos tener la libertad de elegir cuánto pagar por nuestra seguridad, sin que el gobierno imponga regulaciones de seguridad a los fabricantes, ya que después de todo, si todos los autos fueran letales nadie los compraría. La famosa mano invisible del mercado.
Friedman incluso va un paso más allá y en su intervención sostiene que mucha gente no está dispuesta a pagar mucho por su propia seguridad, sino que incluso hay quienes pagan por reducir sus probabilidades de vivir una vida más larga y sana, en referencia a los fumadores. Él sostiene que quienes fuman están en su libre derecho a hacerlo por más ilógico que suene, ya que no afectan a terceros y saben de antemano que fumar reduce sus perspectivas de vida. Unos pagan poco por fumar, y otros pagan caro a cambio de conseguir comida orgánica. La irracionalidad presente en su máxima expresión.
Yo creo que la pregunta de este joven estudiante a Friedman, y la consecuente respuesta del último, desatan una pregunta fundamental para la movilidad autónoma.
¿Establecerán los gobiernos una normativa en la que siempre impere la vida del peatón? ¿Será esa la modalidad “estándar”, pero se permitirá pagar un canon especial a los más ricos para cambiar dicha configuración en sus vehículos incrementando en consecuencia el valor de sus pólizas de seguro?
¿Qué pasa si esta última acción no existe, pero alguien decide “meterle mano” a la configuración de su vehículo para cambiar las probabilidades a su favor? Ningún software es inhackeable para siempre. Eventualmente va a surgir gente que descubra cómo modificarlo con dicha finalidad. Por ejemplo, el monopatín eléctrico que yo uso todos los días, viene de fábrica con una configuración que limita su velocidad a los 25 km/h, sin embargo, en internet se ofrecen muchos tutoriales gratuitos para remover esta limitación y hacer uso de toda su potencia, lo que le permite alcanzar velocidades cercanas a los 32 km/h, que si bien puede no parecer mucho, es más que los 25 km/h que establecen muchas leyes nacionales para estos tipos de vehículos personales. Volviendo a los autos autónomos, ¿qué sucederá entonces si se descubre que una persona involucrada en un accidente fatal hacia otro individuo, modificó la configuración regulatoria? ¿Cuál sería su pena? ¿Multa? ¿Cárcel? ¿Cuánto tiempo? ¿Es premeditado? ¿Qué sucedería si alguien modifica su software para que el auto vaya más rápido de lo permitido? ¿Se debería auto-multar el auto? ¿Debería la multa ir al dueño del mismo o a la automotriz que permitió burlar una regla básica de su algoritmo? Después de todo detectar la velocidad de un vehículo será algo que la computadora central del mismo pueda hacer así como los sensores de los vehículos que lo rodean.
¿Qué sucederá en casos de hackeos no voluntarios a nuestros sistemas de movilidad autónoma? ¿Es el dueño el responsable? ¿La compañía de seguros? ¿La empresa proveedora de conexión 5G? ¿El fabricante del vehículo? ¿La compañía que provee el software de antivirus para el auto? ¡¿Qué?! ¡Sí! Leíste bien, dije antivirus para autos. Si hay un sistema informático y está conectado a internet, tarde o temprano van a surgir antivirus para estos, incluso si lo llaman “sistema de seguridad” o de otra forma, estaremos hablando de un antivirus con otras palabras.
¿Qué sucede en el caso de que la colisión inminente sea entre dos vehículos autónomos? Idealmente esto no debería ocurrir y es muy poco probable que suceda, incluso Elon Musk y otros expertos ya han respondido preguntas sobre esto en la que han dejado en claro que si bien la atención y el campo de visión humano son limitados, éste no es el caso de los autos autónomos que son básicamente computadoras sobre ruedas. Estas computadoras, integradas con visión de 360° y poderosos procesadores, analizan todo lo que sucede alrededor del vehículo de forma constante, en milésimas de segundo, por lo que si bien nosotros tardamos varios segundos y metros en reconocer lo que pasa fuera de nuestro vehículo; los autos inteligentes van viendo y analizando todo como si se movilizaran en slow motion o cámara lenta. De hecho, si todo sale bien, ante un imprevisto, el auto debería ser capaz de frenar a tiempo, avisándole de su accionar al resto de los autos que se encuentren cerca suyo, pero por amor al arte de filosofar supongamos que se da ese imprevisto que va a derivar en una fatalidad. ¿Quién debería tener prioridad? ¿Debería tener prioridad el automóvil que transporte a más personas? ¿Es lo mismo si en un auto viaja un Presidente y en otro viaja una familia de cuatro personas o un expresidiario? ¿Podremos usar contratos inteligentes sobre una blockchain en la que se comuniquen ambos autos para ejecutar determinadas cláusulas en las que un vehículo ofrece un valor monetario predeterminado por su dueño, en forma de tokens convertibles a dinero, a la persona que se encuentra en el otro vehículo para preservar su vida, sabiendo que esto irá a parar a los descendientes y familiares de quien se encuentre en el otro vehículo? ¿Muy drástico? Bueno, ¿y si en vez de eso, y alejándonos de los accidentes, se usaran tokens de algún activo digital para que un vehículo se comunique con el resto con la finalidad de decidir quién tiene prioridad en las esquinas al encontrarse con otros autos? ¡Podrías pagarle a los otros conductores por siempre tener la prioridad de avanzar antes que los demás y así llegar más rápido a tu destino!
Muchas preguntas, pocas respuestas, eso es lo que hace interesante este debate, nos guste o no, debemos enfrentar estas cuestiones antes de que sea tarde. De lo único que estoy seguro, es que por más que toda la flota de vehículos disponibles en una ciudad sea autónoma, igual deberemos conservar los semáforos para evitar caer en la dictadura del peatón, en la que cualquier persona cruza en cualquier momento dado, en cualquier lugar, lo que haría que los vehículos autónomos frenen constantemente, generando así que viajar en ellos se convierta en algo incordioso. Elon Musk incluso ha comentado que su Tesla se ha detenido al mostrarle una remera con el símbolo de “STOP”[70], nuestro equivalente a los carteles rojos y blancos que significan “PARE” o “NO AVANZAR”. ¿Se imaginan si a un grupo de personas se les da por confundir a los vehículos autónomos y salen a pasear todos a la vez con remeras que incluyan símbolos viales?
En los últimos años hemos visto cómo primero surge la tecnología, y luego las empresas que la aplican intentan impulsar legislaciones en su favor. La política hoy corre desde atrás los avances tecnológicos y hasta cierto punto está bien, ya que no podemos limitar el avance tecnológico burocráticamente de forma constante. El solo hecho de intentarlo sería absurdo. Las economías de plataforma, como Uber, Rappi, Deliveroo, Airbnb, y demás, son un claro ejemplo de ello y llegaron para quedarse y evolucionar; pero claro, en líneas generales aquí no está en juego la vida de las personas de forma tan directa, más allá de distintos accidentes que pueden suceder.
[69] Radio Libertaria. (2012). Milton Friedman vs Joven Michael Moore (Caso Ford) | RADIO LIBERTARIA [Video]. Visto el 13 de agosto del 2021, en https://www.youtube.com/watch?v=mC_X-Vco_3Q.
[70] Towey, H. (2021). Elon Musk joked about Tesla autopilot mistakes as the technology faces scrutiny: ‘I actually have a T-shirt with a stop sign on it. If you flash the car, it will stop’. Business Insider. Visto el 9 de marzo 2022, del https://www.businessinsider.com/elon-musk-joked-fsd-autopilot-mistakes-tesla-ai-day-2021-8.