¿Debería el inventor de una inteligencia artificial ser responsable de las decisiones de la inteligencia artificial?

Answer 1

Este es un asunto complejo.
Por un lado, quieres que alguien sea responsable. Desea que el inventor tenga la mayor inversión posible para que su AI tome las mejores decisiones posibles.
Por otro lado, puede presentar un estándar imposible para que el inventor esté a la altura y, por lo tanto, ahogue la IA.

Es probable que la IA sea al menos parcialmente impredecible. Quiere que sea capaz de aprender, y aprender significa que desarrollará nuevos comportamientos. Es probable que haya algunos errores en dicho proceso.
O echemos un vistazo a los coches de conducción propia. Hubo 10.8 millones de accidentes automovilísticos en 2009. Si cada automóvil fue reemplazado por uno que manejaba solo, y hubo 1.8 millones de accidentes automovilísticos, ¿responsabiliza al inventor por 1.8 millones de accidentes, o lo elogia por prevenir el 90% de los accidentes que habría ocurrido?

Como principio general, diría que el inventor debe ser responsable si se puede demostrar que las malas decisiones se debieron a su propia negligencia . Esto reduce las expectativas de “su producto debe ser perfecto” y puede funcionar sin ser asfixiante, pero también garantiza que no se permita el descuido.
Teniendo en cuenta que el “inventor” en este contexto probablemente será una compañía, las investigaciones sobre el mal comportamiento de la IA deberían poder presentar evidencia de negligencia. Pruebas insuficientes, por ejemplo, sería una forma de negligencia.

Answer 2

Sí.

Sin embargo, no estoy seguro de que haya notado las largas renuncias de responsabilidad, incluso para los algoritmos y el software más simples de la máquina. Por lo tanto, puede estar 100% seguro y completamente de que NO lo estarán.

Pero eso es solo para inteligencia “artificial”. ¿Qué pasa con la inteligencia informática? Es decir. ¿La verdadera inteligencia a nivel humano o la inteligencia que se mejora a sí misma superando eso?

¿Hasta qué punto eres responsable de las acciones de tus hijos?
¿En qué medida deberías ser responsable?

Pero mira, no eres la primera persona en preguntarte acerca de esto. En algunos escritos antiguos en hebreo y sánscrito hay una gran sabiduría sobre esta cuestión. Tal como ese “amor” se muestra a la generación 1000. Y los “pecados” solo atribuidos al 3 o al 4.

Aquí está la piedra angular de la inteligencia: es lo suficientemente inteligente como para saber que nunca lo sabrá todo. ¿Qué hacen las personas más inteligentes? Ellos colaboran.

Lo único que debes temer es la inteligencia artificial, bajo el control de personas que son lo suficientemente tontas como para pensar que saben todo y que, como resultado, deben controlar las cosas para evitar sus mayores temores, y así causarlos.