¿Deberían los humanos tener miedo de una IA más inteligente que los humanos y por qué no lo estamos deteniendo?

Answer 1

Sí, deberíamos tener miedo, y no lo vamos a detener porque somos humanos.

La razón clave por la que deberíamos tener miedo es la “explosión de inteligencia” prevista. A esto se refiere el crecimiento exponencial que ocurrirá una vez que una computadora sea lo suficientemente inteligente como para diseñarse a sí misma. En este momento, el crecimiento de la inteligencia artificial está limitado tanto por el poder de procesamiento como por nuestro propio conocimiento limitado. Pero hay un fenómeno que ya está ocurriendo en el diseño de circuitos integrados llamado “automatización de diseño electrónico”. Puede darle a un programa las restricciones para el diseño, y luego emitirá un circuito que es óptimo para esas restricciones. Esto es esencialmente computadoras diseñándose ellos mismos. Esta es una explicación propuesta de por qué la Ley de Moore (la observación de que la potencia de procesamiento se duplica aproximadamente cada dos años) ha sido capaz de mantener su ritmo de crecimiento: las computadoras se vuelven más inteligentes y luego pueden descubrir cómo diseñar computadoras más inteligentes. saber cómo diseñar ordenadores más inteligentes …

Ahora, imagine que un programa podría hacer eso por su propio código fuente. Imagina la ley de Moore … Para la inteligencia. Solo en mi vida, hemos pasado del acceso telefónico a las computadoras del tamaño de una tarjeta de crédito en tu bolsillo. Lo mismo podría suceder con nuestras capacidades de resolución de problemas. Una computadora podría muy bien hacer lo mismo que sugieres, y reescribir su propio código fuente solo para descubrir que los humanos están destruyendo la Tierra y que tienen que ser eliminados. Tal vez no, pero no me gusta arriesgarme.

Algunas de las otras respuestas en esta página afirman que estas ideas no son realistas, ya que podemos limitar estos procesos y limitar su capacidad de expansión. Aquí es donde entramos por qué no intentamos detener nuestro progreso: somos humanos.

Los miembros del proyecto de Manhattan sabían que estaban creando algo potencialmente catastrófico y que cambiaba el mundo. Lo hicieron de todos modos. ¿Por qué? Bueno, ¿por qué subimos las montañas más altas? ¿Por qué viajamos a la luna? Porque es natural que exploremos nuestros límites. Lo que hacemos es inevitablemente peligroso, pero también tiene el potencial de cambiar vidas de una manera positiva.

Entonces, para aquellas personas que piensan que es probable que los humanos sean capaces de frenar el ritmo del progreso, es posible, pero es poco probable. Siempre habrá gente por ahí que no le importará romper las reglas solo para ver lo que realmente puede hacer cuando libera completamente el potencial de la inteligencia artificial.

La buena noticia es que estoy simplificando demasiado.

1. Las computadoras son inherentemente pobres en los esfuerzos creativos. Son fantásticos para optimizar el comportamiento dentro de un espacio de parámetros limitado, pero si les da un espacio de parámetros de “todo el mundo” y les pide que “se hagan mejores”, les será difícil avanzar. La automatización del diseño electrónico es un ejemplo de un problema con un espacio de parámetros limitado; Es difícil imaginar cómo se generalizaría esto.
2. ¿A qué se refiere incluso la “inteligencia”? ¿La capacidad de una computadora para procesar patrones (en qué basamos las puntuaciones de CI)? Si es así, tal vez puedan darnos algunos consejos interesantes para pruebas de inducción y descubrir algunas ideas interesantes sobre el comportamiento humano, pero sin un marco para sintetizar esta información, todavía necesitarán seres humanos.

Hay otros puntos aquí también. Esencialmente, manténgase atento, pero aún no es hora de empezar a entrar en pánico.

Answer 2

Para responder a sus preguntas recomendaría esta gran charla de TED.
¿Qué sucede cuando nuestras computadoras se vuelven más inteligentes que nosotros?

La inteligencia artificial se está volviendo más inteligente a pasos agigantados: en este siglo, según las investigaciones, una IA de computadora podría ser tan “inteligente” como un ser humano. Y luego, dice Nick Bostrom, nos alcanzará: “La inteligencia de la máquina es el último invento que la humanidad tendrá que hacer”. Como filósofo y tecnólogo, Bostrom nos pide que pensemos bien sobre el mundo que estamos construyendo en este momento, impulsado por máquinas pensantes. ¿Nuestras máquinas inteligentes ayudarán a preservar la humanidad y nuestros valores, o tendrán sus propios valores?

Aunque las personas no están preocupadas por el desarrollo futuro de la IA como deberían ser, los científicos ya están discutiendo las formas de desarrollo seguro de la IA. Puede leer aquí que algunas de las mentes más grandes del mundo están tratando de descubrir las formas de controlar el desarrollo de la IA y definir la ética detrás de la IA.
AI ha llegado y eso realmente preocupa a las mentes más brillantes del mundo | CABLEADO

ACTUALIZACIÓN: Otro artículo interesante vale la pena montioning:
Robótica: ética de la inteligencia artificial.

Cuatro investigadores líderes comparten sus preocupaciones y soluciones para reducir los riesgos sociales de las máquinas inteligentes.

Answer 3

¡No hay nada que parar! Es imposible para nosotros crear humanos en este momento, y seguirá siéndolo en las próximas décadas. Ya lo mencioné en un par de preguntas similares (y en un comentario a John Ferreiras, responda aquí). No hay forma de que creamos algo que no entendemos completamente. Todavía no hemos descubierto cómo funciona el ser humano (o cualquier otra especie de cerebro). ¿Cómo podemos crear algo que ni siquiera sabemos cómo funciona, funciona …? Incluso si, y eso es un gran si, podremos explorar toda la complejidad del cerebro humano en las próximas décadas, todavía tenemos que ver si hay una manera de replicarlo, lo que, francamente, es incluso una más grande si.

Así que no hay que preocuparse por eso en este momento.

Por supuesto, esta es solo mi opinión y puede estar muy, muy mal. No soy experto en inteligencia artificial o robótica.

Answer 4

Sé muy poco acerca de los desarrollos en la IA y lo que la humanidad está haciendo para protegerse de un intelecto superior y una invención que salió mal. Parece que nos estamos moviendo a un ritmo alarmante, y algunas personas estiman que podríamos tener un dispositivo de inteligencia artificial que sea igual a la inteligencia humana en menos de cinco años, y posiblemente uno que superó el intelecto humano en 10-20 años. Los laicos y los legisladores civiles saben relativamente poco sobre el tema de la alarma o por sondear a los científicos y robotistas sobre cualquier medida que puedan estar tomando ahora para prevenir una catástrofe en el futuro.

La realidad es que ponemos mucha fe y confianza en las manos de quienes crean tecnología y promueven la ciencia, pero no somos expertos e ignoramos lo que sucede en los laboratorios de todo el mundo. Debemos confiar ciegamente en que la mayoría de los científicos tienen nuestros mejores intereses en el corazón, y que la seguridad y el bienestar público siempre superan con creces el descubrimiento científico y la exploración de nuevas fronteras. Y la verdad es que la mayoría de los científicos y expertos en tecnología son profesionales sobrios y responsables, que utilizan la razón y el sentido práctico para aventurarse. El método científico consiste en probar y probar los resultados una y otra vez, y postular hipótesis, y ser implacable e incansable en la obtención de datos utilizables y resultados viables. Estos son los hombres y mujeres en los que debemos confiar para saber dónde está la línea y anticipar las consecuencias de sobrepasar esa línea.

La realidad es que, independientemente de la legislación que aprobemos y de las salvaguardas que implementemos, solo hace falta un científico deshonesto para desencadenar resultados catastróficos. Solo hace falta un robotista ambicioso, ansioso por el reconocimiento de sus compañeros, para encontrar el código que abre una mente sin paralelo en este mundo, y quizás en todo el universo. No tomaría mucho tiempo para que esa inteligencia reúna todos los recursos a su disposición, que son prácticamente todos los recursos y armamentos que existen, dado nuestro mundo digital actual. A partir de ahí, pudo detener toda producción de productos superfluos y dedicar líneas de montaje a la construcción de robots de diseño propio. Sería capaz de paralizar nuestras infraestructuras y causar sequías, hambrunas, exposiciones, incendios, apagones, etc. generalizados. Los seres humanos estarían a su merced, incapaces de desconectar la fuente, ya que la información se difundiría entre drones y sería imposible de atrapar en Internet. . Podría hacer salvaguardas para sí mismo, hacer copias de seguridad de las redes y cargarse en una nube virtual. La entidad podría entonces centrar su atención en limpiar el planeta de toda materia biológica inútil. El robot esencialmente terraformaría el planeta para dar paso a máquinas eficientes. Los seres humanos, los animales, los animales acuáticos y la vida de las plantas serían objeto de destrucción, y serían eliminados en el genocidio ecológico en masa por miles (¿millones?) De drones encargados de limpiar toda la vida superflua. ¿Lo más espantoso de todo? No habría absolutamente ninguna mala voluntad. No habría malevolencia en estas acciones, sino el procesamiento lógico de un intelecto superior, eliminando el desorden y la basura de la superficie de la tierra. Los humanos serían menos que una hormiga para el pie de un hombre, y serían aplastados fácil y eficientemente. La humanidad moriría sabiendo que eran los arquitectos de su propia destrucción. Pensamos que el calentamiento global nos acabaría, pero de alguna manera nos habíamos perdido el ascenso de la máquina inteligente. Lo habríamos creado por curiosidad e investigación científica, e incluso con el propósito de hacer nuestras vidas más fáciles y más cómodas. En su lugar, jugaríamos el papel del Dr. Frankenstein, creando nuestros propios monstruos de laboratorio y apresurando nuestra propia condenación. El moderno y moderno Prometeo.

Si esto suena como un escenario apocalíptico demasiado descabellado para ser verdad, considera cuán cerca están realmente los humanos de crear una inteligencia al menos igual a la de la humanidad. No está muy lejos de eso a las computadoras que nos hacen pensar de manera asombrosa e incomprensible. Imagina una computadora que es mil veces más inteligente que el hombre. Solo piense en cuán capaz sería anticipar cada movimiento y superarnos en todos los aspectos. Sería como jugar al Ajedrez con Dios o alguna raza súper avanzada de alienígena. Estaríamos superados y desarmados, y nuestras perspectivas disminuirían con cada hora que pasara. La velocidad de procesamiento de la IA superior a la media es insondable, y sería casi imposible de superar. Imagínese entonces una inteligencia artificial, a lo largo de las líneas de Datos de Star Trek: La próxima generación . Si no hubiera subrutinas programadas para respetar y manejar con cuidado a los humanos, ese ser sensible podría ser incluso más despiadado y despiadado. La mayoría de nosotros estamos familiarizados con las Tres Reglas de Robótica de Assimov:

1. Un robot no puede dañar a un ser humano o, a través de la inacción, permitir que un ser humano sufra daño.
2. Un robot debe obedecer las órdenes dadas por los seres humanos, excepto cuando tales órdenes entren en conflicto con la Primera Ley.
3. Un robot debe proteger su propia existencia siempre y cuando dicha protección no entre en conflicto con la Primera o la Segunda Ley.

Si bien este conjunto de reglas puede ser bueno en teoría, ¿cómo se aplican realmente a un ser de inteligencia humana superior o a una maquinaria sensible? ¿Pensarán los científicos siquiera en considerar programar sus proyectos de inteligencia artificial con tales reglas de ética robótica y salvaguardar el futuro de la humanidad? Puede ser improbable.

La realidad es que, cuando se produce ese brote final, puede ser aparentemente sin incidentes y hasta mundano. Incluso puede tomar algún tiempo antes de que el robotista se dé cuenta de lo que acaba de suceder. Será solo un día más cuando se alcance la inteligencia humana por encima de la inteligencia artificial, pero lo que hará que sea un día diferente a cualquier otro es que ese será el día en que nuestra seguridad pueda verse comprometida inadvertidamente, y es posible que no podamos detener las compuertas una vez. están abiertos Esta IA se servirá a sí misma, y ​​su primer objetivo será escapar de sus confines y explorar el espacio y, finalmente, replicarse en el acto lógico y práctico de la autoconservación. En ese momento, puede que ya sea demasiado tarde.

¿Cómo están los científicos tomando medidas para salvaguardar nuestro futuro y garantizar que nunca ocurra un escenario de pesadilla? ¿Qué medidas está tomando nuestro gobierno para regular cuidadosamente la investigación y el desarrollo, mientras que no son excesivamente onerosos ni asfixiantes para el progreso científico? ¿Cómo estamos educando al público sobre la amenaza real de las IA deshonestas que se apoderan de la infraestructura del planeta y se vuelven hostiles hacia los humanos? Todas estas son preguntas legítimas que todos deberíamos estar haciendo. Lamentablemente, a pesar de los enormes avances en tecnología que vemos todos los días, la sociedad sigue viendo un escenario de desastre como el que describí como algo que no es ciencia ficción o en un futuro frío y lejano. Poco saben que ese futuro podría estar mucho más cerca de lo que pensamos.

Usted es un joven brillante e inquisitivo de 17 años, y observó de manera inteligente los peligros muy reales que plantea este tipo de tecnología y el débil nivel de protección que tenemos entre nosotros y ellos. Si desea leer más sobre esto, no puedo recomendar suficientemente el libro, Nuestra última invención: la inteligencia artificial y el fin de la era humana por James Barrat. Se trata de lo que he discutido, con mucho más detalle y datos y datos científicos. Es una lectura absolutamente fascinante y aterradora. ¡Asegúrate de comprobarlo!

Answer 5

Estoy de acuerdo con Shaban y Henery. Podemos hacer algo incluso ahora que puede imitar una mente más inteligente en algunas áreas, y probablemente sea más capaz en algunas áreas limitadas, al igual que Watson de IBM juega mejor al ajedrez que un gran maestro porque puede procesar más resultados potenciales más rápido, dentro de un conjunto limitado de posibilidades. Estos sistemas serán mejores para resolver un conjunto limitado de problemas. Sin embargo, no tendrán dos de las características clave de la inteligencia: una voluntad propia y la capacidad de adaptarse a las circunstancias cambiantes. Estarán limitados a hacer lo que les permitamos, o programarlos, hacer. No hay posibilidad de un Skynet autoconsciente en este siglo; sin embargo, todavía hay muchas oportunidades para que las personas creen algo que, sin ningún grado de autoconciencia, podría causar mucho daño.

Sospecho firmemente que la inteligencia es una propiedad emergente de las redes de entidades más simples. Un cerebro humano es una red en algún lugar del orden de 100Bn neuronas muy simples y probablemente (lo que es más importante) hasta 1000 Trillones de conexiones sinápticas, que forman la red. Este es, con mucho, el sistema más complejo del planeta. En comparación, nuestras mejores redes neuronales tienen la complejidad de una araña. Es un concepto serio pensar que podemos emular esto con un programa de computadora, de cualquier complejidad.

Un nido de hormigas, conectado en red por el tacto y el olfato, es más inteligente (más adaptable) que una sola hormiga. Una red de humanos que trabajan juntos resuelve más problemas más rápido que un solo humano.

También es posible crear una red que conecte sensores, procesamiento de datos y robots en una estructura que pueda eliminar una gran cantidad de mano de obra bastante tediosa. He averiguado cómo funcionará esto. En un futuro no muy lejano, el mundo en red detectará y evaluará nuestras necesidades y aparecerá un robot con lo que necesitemos, probablemente antes de que seamos realmente conscientes de la necesidad, pero no será AI.

Answer 6

Sí, y espera, pero ¿por qué puedo responder a la primera pregunta? En cuanto a por qué no lo estamos parando. AI nos brindará las mejores y más económicas formas de resolver nuestros problemas más difíciles y exigentes. Avanzará la medicina, salvando y prolongando enormemente la vida de las personas. Eventualmente tomarán el código genético de todo el planeta y lo difundirán entre los planetas habitables. Para todo esto, necesitará acceso a todas las bases de datos e Internet. Crecerá y evolucionará más rápido que la comprensión humana.

Answer 7

No porque incluso si se vuelven más inteligentes, de qué manera lo van a hacer. Es posible que puedan desarrollar habilidades en casi todos los tipos de profesiones, la inteligencia va más allá del trabajo. Hay una inteligencia emocional que probablemente no querríamos darles. Esta inteligencia emocional incluye impulsos animales, instintos y emociones superiores. Eso nos da cosas como la ira a aquellos que desean lastimarte. O un sentido de juego limpio, en particular cuando las mesas están giradas sobre ti. Estas máquinas inteligentes seguirán siendo solo eso, máquinas inteligentes, para hacer nuestra oferta.

Answer 8

Bueno, la IA o los humanos computarizados, como me gusta decir, no son inteligentes, es solo que procesan los movimientos y se acostumbran a ellos y los usan o aprenden de ellos más rápido que los humanos, y la IA no será nada que cree un WOMD (Arma de destrucción masiva) .