Esto debería ser bastante simple de hacer:
Cualquier programa se ejecuta en un entorno creado por el sistema operativo. Es una práctica de seguridad estándar garantizar que el programa no pueda cambiar el sistema operativo. (Cuando esto ocurre se debe a una falla en el sistema operativo).
Para los fines de detener un programa de IA no autorizado, el sistema operativo podría incluir un conjunto de reglas que prueben constantemente el comportamiento del programa de AI. Cuando estas reglas son verdaderas, entonces el sistema operativo puede simplemente forzar un apagado y reiniciar con una “última buena versión conocida” del software.
Por supuesto, un programa de IA deshonesto entenderá estas reglas e intentará evadirlas. El truco entonces es ser diligentes para asegurar que no haya defectos de “día cero” en las reglas o el sistema operativo que el software de AI no autorizado pueda explotar.
Es probable que el riesgo no sea con los sistemas comerciales de inteligencia artificial, sino con los sistemas pirateados en los que los humanos han eliminado DELIBERADAMENTE la protección por las mismas razones por las que los humanos de hoy escriben deliberadamente virus informáticos destructivos.
- ¿Cuál puede ser el límite de la perfección?
- ¿Es Dios más poderoso que las matemáticas y la lógica? ¿Por qué?
- ¿Por qué te importan las opiniones de los demás?
- Si el karma regresara a ti, ¿te ayudaría o te haría daño?
- Por el resto de mi vida he decidido no ayudar a nadie que no sea mi familia. ¿Cómo funcionará mi vida?