¿Qué piensas sobre la IA y su capacidad para tomar decisiones, especialmente si se trata de una situación de vida o muerte?

Answer 1

Estaba muy emocionado cuando vi esta pregunta porque es un tema tan fascinante.

Veamos cómo se usa un escenario realista para un auto con auto manejo:

1. Un auto auto-conducido se dirige a través de una intersección.
2. La luz cambia a rojo.
3. Un conductor humano acelera ilegalmente a través de la luz roja y está en camino de impactar el auto-auto.
4. El auto-conducido podría desviarse del camino, pero hacerlo haría que golpeara a un peatón.

El auto conductor es una computadora. Las computadoras están programadas para tratar los casos de borde de una manera local. Entonces, ¿cómo debe funcionar el coche? Se deben hacer dos argumentos:

• El auto conductor no debe reaccionar ante el conductor imprudente. Esto pondrá a los pasajeros en el automóvil en una situación que amenaza la vida.
• El auto conductor debe reaccionar ante el conductor imprudente y desviarse del camino. Si lo hace, golpeará al peatón, pero mantendrá a los pasajeros fuera de peligro.

Para un programa de computadora, esas son las únicas 2 opciones. Y ambos son malos.

¿Qué opción debemos elegir?

Mercedes ya hizo una llamada para sus coches sin conductor. Salvará a los pasajeros por encima de los peatones.

Realmente no estoy seguro de qué opción deberíamos programar en el automóvil. Siempre hay escenarios en los que se debe tomar una decisión y todas las opciones disponibles son terribles. Cuando se trata de AI que trata con situaciones de vida o muerte, no hay una respuesta clara.

Dicho esto, la mayoría de los errores ocurren debido a un error humano. Las computadoras pueden tener errores. Pero a medida que el software mejore, las computadoras podrán superar a casi todos los humanos. De hecho, los autos autónomos ya son más seguros que los conductores humanos.

Esto me lleva a mi punto principal:

En general, la tecnología y la inteligencia artificial están haciendo del mundo un lugar mejor y más seguro para vivir.

No hay una respuesta fácil a cómo debe programarse la IA para tratar los escenarios de vida o muerte. Pero eso no significa que no deberíamos tenerlo.