"Hay pero una pregunta verdaderamente seria en filosofía, y es el suicidio ", escribió Albert Camus en El mito de Sísifo. Esto es igualmente cierto para un humano que navega por una existencia absurda y una inteligencia artificial que navega por una situación moralmente insoluble.
A medida que los vehículos impulsados por IA toman el camino, las preguntas sobre su comportamiento son inevitables, y la escalada a asuntos de vida o muerte igualmente. Esta curiosidad a menudo toma la forma de preguntar a quién debe conducir el automóvil en caso de que no tenga más remedio que golpear a uno de una variedad de transeúntes inocentes. ¿Hombres? ¿Mujer? ¿Las personas de edad? ¿Gente joven? Criminales? ¿Personas con mal crédito?
Hay varias razones por las que esta pregunta es tonta, pero al mismo tiempo es profundamente importante. Pero, en lo que a mí respecta, solo hay una solución real que tenga sentido: cuando se le presenta la posibilidad de quitarle la vida, el automóvil siempre debe primero intentar tomar la suya.
El carro no es un problema
Primero, aclaremos algunas cosas sobre la pregunta que intentamos responder.
Existe inequívocamente un aire de artimaña a las situaciones en discusión. Esto se debe a que no son situaciones plausibles del mundo real, sino mutaciones de un venerable experimento mental que a menudo se llama el "Problema del Trolley". La versión más familiar data de los años 60, pero se pueden encontrar versiones de este tema volviendo a las discusiones sobre el utilitarismo, y antes de eso en filosofía clásica.
El problema es: un vagón de tren está fuera de control y va a golpear a una familia de cinco personas atrapadas en las vías. Afortunadamente, estás parado junto a una palanca que desviará el auto a otra pista … donde solo hay uno persona. ¿Sacas el interruptor? De acuerdo, pero ¿y si hay diez personas en la primera pista? ¿Qué pasa si la persona en el segundo es tu hermana? ¿Qué pasa si tienen una enfermedad terminal? Si elige no actuar, es ese en sí mismo un acto, dejándote responsable de esas muertes? Las posibilidades se multiplican cuando se trata de un automóvil en una calle: por ejemplo, ¿qué pasa si una de las personas está cruzando contra la luz? ¿Eso es culpa suya? Pero, ¿y si son ciegos?
Y así. Es un ejercicio revelador y flexible que hace que las personas (con frecuencia estudiantes de pregrado que toman Introducción a la filosofía) examinen las muchas preguntas involucradas en cómo valoramos las vidas de los demás, cómo vemos nuestra propia responsabilidad, etc.
Pero no es Una buena manera de crear una regla práctica para el uso en la vida real.
Después de todo, no se ve una lógica moral enrevesada en las señales en los interruptores ferroviarios que instruyen a los operadores sobre una elaborada jerarquía de los valores de varias vidas. Esto se debe a que las acciones y los resultados son una pista falsa; El objetivo del ejercicio es ilustrar la fluidez de nuestro sistema ético. No hay ningún truco para la configuración, no hay una respuesta secreta "correcta" para calcular. El objetivo ni siquiera es encontrar una respuesta, sino generar discusión y comprensión. Entonces, si bien es una pregunta interesante, es fundamentalmente una pregunta para humanos
Un automóvil autónomo ya no puede calcular su salida de un enigma ético de lo que Sísifo podría haber calculado un mejor camino por el cual empujar su roca hacia la montaña.
Y también debe reconocerse que estas situaciones serán extremadamente raras. La mayoría de las versiones canónicas de este experimento mental, cinco personas versus una, o un niño y una persona mayor, son tan astronómicamente improbables que incluso si encontramos el mejor método que un automóvil siempre debe elegir, solo será relevante una vez cada trillón de millas conducidas más o menos. ¿Y quién puede decir si esa solución será la correcta en otro país, entre personas con valores diferentes o en 10 o 20 años?
No importa cuántos sentidos y unidades de cómputo tenga un automóvil, ya no puede calcular su salida de un enigma ético de lo que Sísifo podría haber calculado un mejor camino para empujar su roca hacia la montaña. La idea es, por así decirlo, absurda.
No podemos hacer que nuestros autos intenten resolver una cuestión moral que nosotros mismos no podemos. Sin embargo, de alguna manera eso no nos impide pensar en eso, de querer una respuesta. Queremos de alguna manera estar preparados para la situación, aunque nunca surja. ¿Qué hay que hacer?
Confianza implícita y explícita
Todo el ecosistema del automóvil autónomo debe basarse en la confianza. Esa confianza crecerá con el tiempo, pero hay dos aspectos a considerar.
El primero es la confianza implícita. Este es el tipo de confianza que tenemos en los autos que manejamos hoy: que a pesar de ser misiles de metal de una tonelada propulsados por una serie de explosiones y llenos de combustible de alto octanaje, no explotarán, no se detendrán cuando golpeemos el frenos, girar cuando giramos la rueda, y así sucesivamente. Que confiamos en que el vehículo lo haga es el resultado de años y años de éxito por parte de los fabricantes de automóviles. Teniendo en cuenta su complejidad, los automóviles se encuentran entre las máquinas más confiables jamás fabricadas. Eso ha sido probado en la práctica y la mayoría de las veces, ni siquiera pensamos en el posibilidad de los frenos no se enganchan cuando se pisa el pedal.
Confía en que su misil personal funcionará de la misma manera que confía en que un refrigerador se mantenga frío. Tomemos un momento para apreciar lo increíble que es eso.
Los autos sin conductor, sin embargo, introducen nuevos factores, no probados. Sus defensores tienen razón cuando dicen que los vehículos autónomos revolucionarán la carretera, reducirán las muertes por accidentes de tránsito, acortarán los desplazamientos, etc. Las computadoras serán mejores conductores que nosotros de innumerables maneras. Tienen reflejos superiores, pueden ver en todas las direcciones simultáneamente (sin mencionar en la oscuridad, y alrededor o a través de obstáculos), comunicarse y colaborar instantáneamente con vehículos cercanos, percibir de inmediato y potencialmente solucionar problemas técnicos … la lista continúa.
Pero hasta que estas habilidades increíbles pierdan su brillo y se conviertan en más piezas de la infraestructura de tecnología de transporte en las que confiamos, serán sospechosas. Esa parte no podemos acelerar realmente, excepto, paradójicamente, tomándola con calma y asegurándonos de que ningún evento atípico altamente visible (como ese fatal accidente de Uber) arreste al espíritu de la época y haga retroceder esa confianza por años. Date prisa lentamente, como dicen. Pocas personas recuerdan que los frenos antibloqueo les salvan la vida, aunque probablemente le haya sucedido a varias personas que leen esto en este momento, simplemente refuerza nuestra confianza implícita en el vehículo. Y nadie recordará cuándo su automóvil mejoró su viaje en cinco minutos con cien pequeñas mejoras. Pero sí recuerdan que Toyotas mató a docenas con un mal software que bloqueó el acelerador del automóvil.
La segunda parte de esa confianza es explícita: algo que debe ser comunicado, aprendido, algo de lo que somos conscientes.
Para los automóviles no hay muchos de estos. Las reglas de la carretera difieren ampliamente y son flexibles, algunos lugares más que otros, y en las carreteras y calles de la ciudad, operamos nuestros vehículos casi instintivamente. Cuando estamos en el papel de peatones, nos comportamos como una parte consciente del ecosistema: caminamos, cruzamos, nos paramos delante de los automóviles en movimiento porque asumimos que el conductor nos verá, nos evitará y se detendrá antes de que golpeen. nosotros. Esto se debe a que asumimos que detrás del volante de cada automóvil hay un humano atento que se comportará de acuerdo con las reglas que todos hemos internalizado.
Sin embargo, tenemos señales, incluso si no nos damos cuenta de que las estamos enviando o recibiendo; ¿De qué otra forma puedes explicar cómo sabes que el camión que está allá arriba cambiará de carril cinco segundos antes de que encienda su luz intermitente? ¿De qué otra forma puedes estar tan seguro de que un automóvil no se detendrá y evitar que un amigo entre al paso de peatones? El hecho de que no lo comprendamos bien no significa que no lo ejercemos ni lo evaluamos todo el tiempo. Hacer contacto visual, pararse en un lugar implica la necesidad de cruzar, agitar, hacer espacio para una fusión, bocinazos cortos y bocinas largas … es una habilidad aprendida, y una cultura o incluso una ciudad específica.
Sangre fría
Con los autos sin conductor no hay humanidad en la que depositar nuestra confianza. Confiamos en otras personas porque son como nosotros; Las computadoras no son como nosotros.
Con el tiempo, los vehículos autónomos de todo tipo se convertirán en una parte tan importante del ecosistema aceptado como las luces y puentes automatizados, las entradas de autopistas medidas, los sistemas de monitoreo de estacionamientos, etc. Hasta ese momento, tendremos que aprender las reglas por las cuales operan los vehículos autónomos, tanto a través de la observación como de la instrucción directa.
Algunos de estos hábitos se entenderán fácilmente; por ejemplo, quizás los vehículos autónomos nunca intenten hacer un cambio de sentido cruzando una doble línea amarilla. Intento no para mí, pero ya sabes cómo es. Prefiero hacer eso que ir tres bloques adicionales para hacerlo legalmente. Pero un AV tal vez se adhiera escrupulosamente a leyes de tráfico como esa. Entonces hay una regla posible.
Otros podrían no ser tan duros y rápidos. La fusión y los cambios de carril pueden ser desordenados, pero tal vez sea el patrón establecido que los AV siempre frenarán y se unirán a la línea más atrás en lugar de intentar subir un punto. Esto requiere un poco más de contexto y el comportamiento es más adaptable, pero sigue siendo un patrón relativamente simple que puedes percibir y reaccionar, o incluso explotar para avanzar un poco (no lo hagas).
Es importante tener en cuenta que, al igual que las "soluciones" de problemas de tranvía, no hay una gran lista de comportamientos del automóvil que diga, siempre retroceda al fusionarse, siempre dé el derecho de paso, nunca esto, esto si eso, etc. Así como nuestra decisión para cambiar o no cambiar de ruta procede de un proceso de moralidad de orden superior en nuestras mentes, estos comportamientos autónomos serán el resultado natural de un amplio conjunto de evaluaciones complicadas y procesos de toma de decisiones que pesan cientos de factores como las posiciones de los automóviles cercanos, velocidad, ancho de carril, etc. Pero creo que serán lo suficientemente confiables de alguna manera y en algunos comportamientos que definitivamente habrá un "estilo" de conducción autónoma que no se desviará demasiado.
Aunque es poco probable que algunos de estos comportamientos sean peligrosos en sí mismos, será útil comprenderlos si va a compartir el camino con ellos. El conocimiento imperfecto es cómo tenemos accidentes para empezar. Establecer una relación de confianza explícita con los vehículos autónomos es parte del proceso de aceptarlos en nuestra vida cotidiana.
Pero la gente naturalmente quiere llevar las cosas a sus fines lógicos, incluso si esos fines no son realmente lógicos. Y a medida que considera las muchas formas en que los AV conducirán y cómo navegarán en ciertas situaciones, los escenarios "pero qué pasa si …" naturalmente se vuelven cada vez más graves y específicos a medida que las variables se acercan a los límites, y finalmente llega al equivalente AV del carro problema con el que comenzamos. ¿Qué sucede cuando el automóvil tiene que elegir entre personas?
No es que nadie piense que les va a pasar. Lo que quieren saber, como requisito previo para confiar, es que el sistema no está preparado y que la respuesta preparada no es una que los ponga en peligro. La gente no quiere ser el víctima de la lógica del auto sin conductor, incluso teóricamente, eso sería una barrera imparable para confiar.
Porque cualquiera que sea el escenario, sea quien sea que "elija", una de esas partes es sin lugar a dudas la víctima. El auto salió a la carretera y, siguiendo su lógica hasta el final, se dirigió y golpeó esta persona en lugar de ese uno.
Si ninguna de las personas en este problema AV-trolley puede ser determinada por la medida "correcta" para elegir, especialmente desde su perspectiva (que después de todo debe considerarse), ¿qué más hay que hacer? Bueno, tenemos que recordar que hay otra "persona" involucrada aquí: el auto en sí.
¿Es autodestrucción si no tienes un yo?
Mi sugerencia es simplemente que se haga una política universal que, en caso de que un automóvil autónomo se coloque en una situación en la que exista un grave riesgo de golpear a una persona, debe tomar todos los medios posibles para evitarlo: hasta e incluso destruirse a sí mismo, sin tener en cuenta su propia "vida". Esencialmente, cuando se le presenta la posibilidad de asesinato, un vehículo autónomo siempre debe preferir el suicidio.
Cuando se le presenta la posibilidad de asesinato, un vehículo autónomo siempre debe preferir el suicidio.
No tiene que detonarse ni nada. Solo necesita salir de la acción, y se puede producir un motor de improvisación robusto para ese fin, así como para evitar desviar camiones, cambiar de carril repentinamente y cualquier otro comportamiento. Hay postes telefónicos, automóviles estacionados, árboles: elija; cualquiera de estas cosas funcionará siempre que detengan el automóvil.
La objeción, por supuesto, es que es probable que haya una persona dentro del auto sin conductor. Sí, pero esta la persona ha consentido el riesgo inherente involucrado, mientras que la gente en la calle no lo ha hecho. Si bien gran parte del cálculo moral del problema del tranvía es académico, esta parte realmente marca la diferencia.
Consentir en los riesgos de usar un sistema de conducción autónoma significa que el ocupante reconoce la posibilidad de que surja tal situación, por remota que sea la posibilidad, ellos sería la persona que podría ser víctima de ello. Ellos son quienes consentirán explícitamente en confiar sus vidas a la lógica del sistema de conducción autónoma. Además, como una consideración práctica, el ocupante es, por así decirlo, en el lado blando del automóvil.
Como ya hemos establecido, es poco probable que un automóvil tenga que hacer esto. Pero lo que hace es proporcionar una respuesta sustancial y fácil de entender cuando alguien hace la pregunta perfectamente natural de lo que hará un vehículo autónomo cuando se dirige hacia un peatón. Simple: hará su mejor esfuerzo para destruirse a sí mismo primero.
Hay situaciones extremadamente específicas y extremas para las que nunca habrá una solución siempre que haya automóviles en movimiento y personas en movimiento, y los vehículos autónomos no son una excepción a eso. Nunca se quedará sin escenarios imaginarios para que un sistema, humano o automatizado, falle. Pero con el fin de reducir el número de tales escenarios y ayudar a establecer la confianza, no para hacer imposible la tragedia, es que cada automóvil autónomo debería preferir de manera robusta y demostrable su propia destrucción a la de una persona fuera de sí mismo.
No estamos apuntando a un completar solución, solo una intuitivo uno. Los autos autónomos, por ejemplo, siempre frenan para fusionarse, nunca cruzan un doble amarillo en el tráfico normal, y así sucesivamente, y se estrellarán en lugar de golpear a un peatón. Independientemente de los detalles y limitaciones del modelo, ese es un comportamiento que cualquiera puede entender, incluidos aquellos que deben dar su consentimiento.
Aunque es poco probable que incluso el existencialista más mordido apoye un marco sistemático para el suicidio, hace una diferencia cuando "suicidio" es más probable que signifique un doblador de defensa y daño en el bolsillo de uno en lugar de la muerte o lesión de otro. Destruirse es diferente cuando no hay autodestrucción, y, prácticamente hablando, el riesgo para los pasajeros, equipados con bolsas de aire y cinturones de seguridad, es mucho menor que el riesgo para los peatones.
¿Cómo se lograría todo esto en la práctica? Bueno, por supuesto, podría ser requerido por las autoridades de transporte, como los cinturones de seguridad y otras medidas de seguridad. Pero a diferencia de los cinturones de seguridad, el funcionamiento interno patentado y complejo de un sistema autónomo no es fácilmente verificable por no expertos. Hay formas, pero debemos tener cuidado de no ponernos en una posición en la que tengamos que confiar no en una tecnología sino en la empresa que la administra. Cualquiera puede fallarnos, pero solo uno puede traicionarnos.
Debemos tener cuidado de no ponernos en una posición en la que tengamos que confiar no en una tecnología sino en la empresa que la administra. Cualquiera puede fallarnos, pero solo uno puede traicionarnos.
Sin embargo, quizás no haya necesidad de depender de los reguladores: ninguna marca de automóviles quiere que sus vehículos se asocien con atropellar a un peatón. Hoy en día probablemente haya más accidentes en Civics y Camrys que en cualquier otra cosa, pero nadie piensa que eso los hace peligrosos de conducir, solo significa que más personas los conducen y las personas cometen errores como cualquier otra persona.
Por otro lado, si la marca de vehículos autónomos de un fabricante de automóviles golpea a alguien, es obvio (y correcto) que la compañía tendrá la culpa. Y los consumidores verán que, por un lado, se informará ampliamente, y por otro, probablemente habrá un seguimiento muy robusto de este tipo de cosas, incluyendo imágenes y registros de estos accidentes.
Si los fabricantes de automóviles quieren evitar los ataques y las muertes de peatones, incorporarán algo como este protocolo de autodestrucción en sus automóviles como última línea de defensa, incluso si esto conduce a un aumento neto de colisiones autónomas. Sería mucho mejor ser conocido por tener una IA cautelosa que una asesina. Así que creo que, al igual que otros mecanismos de seguridad, esto o algo así se incluirá y espero que se publique en cada automóvil no porque sea obligatorio, sino porque tiene sentido.
Las personas merecen saber cómo funcionan cosas como los autos sin conductor, incluso si pocas personas en el planeta realmente pueden entender los complejos cálculos y algoritmos que los gobiernan. Deben, como los automóviles normales, poder ser entendidos a nivel de superficie. Este caso de comprenderlos en un extremo de su comportamiento no es relevante todos los días, pero es crucial porque es algo que nos importa a nivel intestinal: saber que estos autos no nos están evaluando como objetivos a través de algoritmos misteriosos y fundamentalmente inadecuados.
Para reutilizar a Camus: “Estos son hechos que el corazón puede sentir; Sin embargo, exigen un estudio cuidadoso antes de ser claros para el intelecto ”. Comience con una solución simple que consideremos justa y trabaje hacia atrás desde allí. Y pronto, porque esto ya no es un experimento mental.