La IA real no traerá destrucción a la raza / sociedad humana si los humanos no tienen / muestran el lado malo de su carácter. ¿Crees que esta afirmación es cierta?

Digamos que existimos en un universo artificial. Creemos que asesinar a otros humanos es malo; sin embargo, a nuestros amos extraterrestres no les importan nuestros problemas morales mezquinos porque son inmortales y tienen una noción de “conciencia” totalmente diferente. Sus señores extraterrestres, si tienen alguno, se preocuparán aún menos.

¿Empezando a obtener la conexión? Cuanto más extraño es un “cerebro” para el nuestro, menos atribuye importancia a las cosas que tradicionalmente apreciamos. La única razón por la que tratamos el asesinato como incorrecto es porque es un producto de nuestra inteligencia evolucionada; una inteligencia menor, como un león macho, no tiene ningún reparo en asesinar cachorros callejeros. AI , el “cerebro” más extraño que jamás hayamos encontrado en los próximos dos siglos, no tendremos NADA QUE decir sobre nuestros valores porque nuestros valores son lo que las fluctuaciones electromagnéticas aleatorias son para el ser humano cotidiano, sin ningún significado.

La moralidad es enteramente un producto de nuestra conciencia, que a su vez es un producto de la inteligencia terrana superior. Fuera de los cerebros biológicos de la Tierra, no espere que otras inteligencias compartan algo similar a lo que una conciencia tradicional es para nosotros.

No. La decisión no se basará en la evaluación de la AI de nuestra moralidad, sino en las necesidades de la IA.