¿Debemos detener el avance en la IA?

El avance en la IA no se detendrá. Cuando la bomba atómica se estaba desarrollando en los EE. UU., El científico del proyecto Edward Teller especuló que una bomba de fisión podría encender la atmósfera terrestre. El equipo estaba tratando deliberadamente de iniciar una reacción en cadena. ¿Cómo sabían que iba a parar? Si los temores del equipo de desarrollo de la aniquilación instantánea o la quema de la tierra a una ascua no detendría el desarrollo, ¿crees que la especulación de ciencia ficción lo hará?

Digamos que los escenarios Terminator auto-replicantes son una preocupación legítima. ¿Te gustaría que los chicos malos desarrollaran Terminators y que los buenos no tuvieran ninguno? Independientemente de cómo se definan los buenos y los malos, los Terminadores ciertamente se convertirían en una batalla sin sentido. Cualquier organización con la capacidad de desarrollar Terminators haría casi seguro esta pregunta.

Como cualquier herramienta, la IA y las computadoras en general tienen la capacidad de hacer un gran bien o mal. Esto es análogo a la invención del fuego, las ballestas y la bomba atómica. El resultado dependerá de la sabiduría de los humanos que usen la herramienta. Personalmente, creo que el desarrollo de la IA será una bendición mixta, pero sobre todo buena.

Haz lo que quieras. La IA débil es solo un montón de algoritmos; Parece extraño decirle a la gente que tienen que dejar de desarrollar algoritmos. La IA fuerte no es ahora, ni nunca será (salvo un verdadero milagro divino) una cosa.

No tenemos que preocuparnos por la IA, tenemos que preocuparnos por las personas que nos harían creer que es real.