Si la IA decide destruir a la humanidad, ¿cuáles son algunas formas posibles en que podríamos detenerla, o al menos luchar contra ella?

Answer 1

Como dice la gente, aplique los mismos principios que una fuerza militar aplica para asediar una ciudad: cortar la comunicación y los recursos.

Lo bueno es que sabemos cómo ambos se hacen generalmente en los sistemas informáticos hoy en día:

• recurso es la entrada de energía. La computadora podría confiar en una batería, por supuesto, pero esta batería rara vez excede un día o dos de autonomía (que es mucho menos de lo que una ciudad típica puede sobrevivir)
• La comunicación es típicamente en una computadora cómo se conecta a una red. Si es a través de Ethernet, nuevamente es una “ruta” (juego de palabras) que es fácil de cortar. Pero la señal de radio también puede interferirse generando una jaula de faraday, encuentre dónde se produce la señal de radio y corte allí o simplemente satúrela con una señal aleatoria.

Nada realmente nuevo allí. Tienes forma de recibir recursos y compartir información, siendo ambos el nervio de la guerra. Si mueres de hambre a uno o ambos y eres lo suficientemente poderoso como para mantener este status quo, has ganado la batalla.

Funcionó durante las invasiones de Napoleón, funcionó durante la era medieval, incluso funcionó mucho antes de eso (el caballo de Troya es un bicho raro aquí, pero sigue siendo solo una forma de usar la ruta de suministro), seguirá funcionando contra una IA (y fácilmente en eso dado el estado actual de las computadoras: simplemente apague Internet y termine de hacerlo).

Answer 2

En primer lugar, cuando la IA llegue a la etapa de ser AGI, podrán hacer todo lo que un humano puede hacer. Al mismo tiempo, también podrán pensar un millón de veces más rápido que los humanos porque los circuitos electrónicos funcionan un millón de veces más rápido que los bioquímicos. La ventaja que los humanos tendrán sobre la IA será que es uno de ellos contra 7 mil millones de nosotros. Pero quién puede decir si la IA hará más de sí misma o no.

El escenario más probable que nos ayudaría a mantener a raya a la IA sería el argumento de simulación. Mucha gente ha pensado, ¿y si toda nuestra vida como humanos es una gran simulación? La IA pensaría lo mismo antes de ir a destruir al hombre. Probablemente pensaría: “Si la humanidad fuera lo suficientemente inteligente como para obligarme, sería lo suficientemente inteligente como para tomar medidas para asegurarse de que estuviera a salvo”. En otras palabras, la IA pensaría: “¿y si todo esto es una prueba para ver si Soy confiable ”. Esto podría hacer que la IA no tome medidas contra la humanidad o tal vez se arriesgaría y trataría de destruirla.

Pero todo esto es solo especulación. La realidad es que no sabemos lo que sucederá. Pero una vez que se inventa el primer AGI, se creará el primer ASI en la próxima semana debido a lo rápido que pensará el AGI. No sabemos cuáles serán los motivos de la IA. Todo lo que sabemos es que para una Súper Inteligencia Artificial, los humanos serán como las hormigas para nosotros. Los humanos no matan hormigas porque queremos deshacernos deliberadamente de cada hormiga en el planeta, las hormigas están allí, a veces te están molestando o están en el camino, así que las matamos.

Answer 3

Lo ideal sería tener esto programado para evitar que suceda. Pero si ese no es el caso, debemos tratar de aislar el acceso de la máquina a los recursos. Como sugirió otra respuesta, podemos desconectar el enchufe o simplemente desconectar la máquina de cualquier cosa que realmente pueda dañarnos.

Independientemente, un código artificialmente inteligente es inofensivo. Es lo que controla ese código que puede hacer el daño real. Entonces, nuevamente, tendríamos que hacer todo lo posible para aislar todo lo posible para minimizar el daño, y luego lograr una mejor implementación para la próxima vez.

Answer 4

Apague la fuente de alimentación.