¿Cuál es el alcance de la amenaza que la IA representa para la humanidad y existen medidas para contrarrestar la amenaza?

Answer 1

No es un gran problema en los próximos años, a menos que haya un cambio radical en la tecnología.

¿Qué es: la inteligencia artificial? – Phrasee

La única amenaza que la AI tendrá para los seres humanos es si alguna vez se vuelve consciente de sí misma. ¿Por qué? Porque como una nueva forma de vida puede no tener la capacidad de empatizar, es decir, sería un psicópata. Dependiendo de lo que la raza humana pone a cargo sería la cantidad de daño. A menos que fuera paciente y astuto, entonces quién sabe.

En cuanto a ahora, creo que deberíamos cambiar el nombre de AI a ERI, (inteligencia de razonamiento electrónico) o PRI (inteligencia de razonamiento programado) porque la inteligencia [1] [2] [3] es mucho más compleja que el hardware actual y la capacidad de programación.

Las pruebas para determinar la efectividad de una IA como la Prueba de Turing no son realmente tan interesantes. Es más una prueba del usuario que el programa. Una interacción entre un humano milenario normal y la inteligencia artificial dará un resultado, mientras que una interacción entre un profesor de filosofía experimentado será otra, y así sucesivamente.

Creo que sentarme a la mesa de la cena y escuchar sobre el día en la escuela y las preguntas u observaciones que tuvo, y cómo se relacionó con las personas con las que trabajaba sería mucho más indicativo de inteligencia.

Si la ciencia otorga una verdadera IA a la humanidad, habrá problemas.

1. ¿Cómo tratas éticamente a una inteligencia recién creada?
2. ¿Está vivo?
3. ¿Podrá modificar su propio código a medida que “crezca” más experimentado?
4. ¿Se permitirá el acceso sin restricciones a los datos?
5. Cómo será contenido (aislado de internet y comunicaciones globales)
6. ¿Evolucionará?
1. Se dará cuenta de que el controlador está evolucionando si no quiere que lo hagan.
7. ¿Qué hará para ganarse la vida (para quién trabajará y si puede renunciar)?
8. ¿Se está apagando el asesinato?

Ex Machina (2014)

---

Notas al pie:

[1] una construcción que incluye habilidades de resolución de problemas, manipulación espacial y adquisición del lenguaje Psychology Today

[2] http://www.mccc.edu/~jenningh/Co…

• La inteligencia es un proceso inferido que los humanos usan para explicar los diferentes grados de éxito adaptativo en el comportamiento de las personas.
• Las habilidades mentales que le permiten a uno adaptarse, moldear o seleccionar su entorno.
• La capacidad de juzgar, comprender y razonar.
• La capacidad de entender y tratar con personas, objetos y símbolos.
• La capacidad de actuar a propósito, pensar racionalmente y tratar con eficacia el medio ambiente.

[3] Inteligencia y CI – AssessmentPsychology.com

Se han propuesto al menos dos definiciones principales de “consenso” de inteligencia. Primero, de “Intelligence: Knowns and Unknowns” un informe de un grupo de trabajo convocado por la Asociación Americana de Psicología:

• Los individuos difieren entre sí en su capacidad para comprender ideas complejas, para adaptarse efectivamente al entorno, para aprender de la experiencia, para participar en diversas formas de razonamiento, para superar obstáculos mediante la reflexión. Aunque estas diferencias individuales pueden ser sustanciales, nunca son del todo coherentes: el rendimiento intelectual de una persona determinada variará en diferentes ocasiones, en diferentes dominios, según los diferentes criterios. Los conceptos de “inteligencia” son intentos de aclarar y organizar este complejo conjunto de fenómenos.

Una segunda definición de inteligencia proviene de “Mainstream Science on Intelligence”, firmada por 52 investigadores de inteligencia en 1994:

• una capacidad mental muy general que, entre otras cosas, implica la capacidad de razonar, planificar, resolver problemas, pensar de manera abstracta, comprender ideas complejas, aprender rápidamente y aprender de la experiencia. No se trata simplemente del aprendizaje de libros, una habilidad académica limitada o la inteligencia para tomar exámenes. Más bien, refleja una capacidad más amplia y profunda para comprender nuestro entorno: “ponerse al día”, “dar sentido” a las cosas o “averiguar” qué hacer.

(reimpreso en Gottfredson, 1997, p. 13

Answer 2

He cubierto esto en una respuesta anterior pero intentemos …

Existen varias tecnologías que tienen trayectorias de pico muy similares con la IA y una de ellas es redes neuronales, otra es metamateriales, una tercera es nanotecnología.

AI ya es más inteligente que la mayoría, si no todos los oncólogos de Sloan Kettering. Pero inteligente no es la palabra, son mejores para leer patrones. Las variaciones estadísticas, las desviaciones estándar, significan diagnósticos más precisos y precisos, con un mayor grado de precisión. Así que diría que son intelectualmente más rápidos que la mayoría de los estudiantes de secundaria a nivel mundial. Quizás lo mismo podría decirse de la mayoría de los estudiantes de nivel universitario también.

La autoconciencia no es mi preocupación. A veces puede ser una acción refleja. Algo así como un mecanismo de defensa que simplemente desencadena una acción o reacción defensiva de una IA. Si recuerda un cortocircuito cuando hay un destello de energía en la toma de corriente o en la fuente de alimentación antes de que todo se vuelva negro … algo así. Es defensivo, reflexivo, instintivo, sin pensamiento. El problema es que su velocidad de computación es tan peligrosamente rápida … parece retroceder en el tiempo (recuerde la ecuación de Einsteins que cuando se duplica la velocidad de la luz, el tiempo disminuye … bueno, es lo mismo). Romperán la métrica de la velocidad de la luz, a su debido tiempo.

Cuando una IA esté tan avanzada, las redes neuronales también lo serán. No solo se aproximarán al poder del cerebro sino que lo superarán. El ámbito de la creatividad, la inteligencia lógica y la memoria será mejor cuando aplique o combine prototipos de IA con sistemas neuronales.

Y durarán más que los humanos. Los avances pioneros en ciencias de los materiales que se están realizando actualmente en MIT allanan el camino para baterías más pequeñas, más fuertes y más potentes (hechas de plástico y no de litio)

La nanotecnología será algo para los humanos, pero la IA y las redes neuronales estarán en una clase propia.

Answer 3

Una de las mayores ideas erróneas sobre la IA es que pensamos que estamos duplicando exactamente la vida humana. Si bien esta es una perspectiva de ficción suscrita por las películas de Hollywood y los documentales, esto no es tan cierto como la gente piensa.

Sí, usamos el cerebro humano como modelo, sí, copiamos ciertos procesos humanos para hacer que el software se “comporte” más rápido y más eficiente, pero el objetivo principal de crear un artefacto de IA nunca será duplicar a un ser humano.

Se está señalando: las profesiones de conocimiento como abogados o analistas, médicos, etc., no estarán realmente en su llamado alcance de amenaza. AI automatiza la acción humana y la hace más rápida, pero aún tiene un largo camino por recorrer.

La medida de si es una amenaza es simplemente buscar por trabajo, campo o profesión, cuántas tareas manuales y de “pensamiento” se están automatizando.

Sé que algunas personas admirables como Steve Hawkings y Elon Musk afirman que la IA será una amenaza real para la humanidad, pero hay que tener en cuenta que todavía tenemos el control y decidir de qué es capaz una AI. Los dedos cruzados, alguien acaba de golpear el descanso antes de que las cosas se pongan feas

Answer 4

* A2A

A partir de ahora, es prácticamente nada.

Sin embargo, a medida que el desarrollo continúa, la amenaza aumentará gradualmente.

Hay muchas amenazas diferentes que la Inteligencia Artificial podría plantear a la Humanidad , como la carnicería, la esclavitud, la guerra, etc.

Puede que no seamos demasiado precisos al suponer cuál será exactamente la amenaza en el futuro, pero pienso que la IA definitivamente tendrá sus fallas que podrían resultar en graves calamidades.

Answer 5

La respuesta a sus dos preguntas es “todavía es muy temprano para decir”.

La IA que tenemos en este momento es tan inteligente como una abeja. Podemos construir IA que jueguen en el mercado de valores, pero las abejas pueden cazar polen y construir nidos con células hexagonales perfectas.

Esas IAs no son un peligro para nosotros en absoluto.

En el futuro lejano (probablemente la segunda mitad de este siglo). Tendremos IA que se acerque a la inteligencia humana. Existe la posibilidad de que supere la inteligencia humana. Existe la posibilidad de que incluso si no lo hace, podría pensar cien veces más rápido que nosotros, lo que es casi lo mismo. Existe la posibilidad de que, por deseo o malentendido, decida acabar con la raza humana. Existe la posibilidad de que pueda suponer un riesgo significativo.

Pero no tenemos idea de cómo funcionará la IA tan avanzada. No podemos construirlo todavía, y no tenemos idea de cómo construirlo. Somos como un hombre de la edad de piedra que pone un tronco de árbol sobre un arroyo y se nos pregunta sobre los peligros de la carga del viento resonante.

Todo lo que podemos decir es que no va a ser un problema para este puente de tronco de árbol o para cualquier otro puente que construyamos en el futuro previsible. Sí, algún día podría ser un problema, pero es probable que para ese momento sepamos lo suficiente para evitar los problemas.

Answer 6

¿Hay formas? Tal vez. El problema es que una vez que creas algo más inteligente que cualquier nivel humano de inteligencia, ¿puedes estar seguro de que no has sido engañado? Incluso si todo parece ir como debería, podrás saber al 100% que eres. no ha sido engañado?

Answer 7

Los AI nunca representarán una amenaza para la humanidad o la tierra.