Elon Musk está tratando de salvar la conciencia; pero ¿no deberíamos también asegurarnos de que valga la pena salvar la conciencia que salvamos?

Answer 1

No. Habría algunos peligros con este enfoque.

En primer lugar, “ahorrar” implica a menudo una forma de acción urgente. La idea de que te sientas a reflexionar sobre si hacer el ahorro hasta que se evalúe el valor de la conciencia que guardas sería demasiado perturbadora.

Sería mejor trabajar con algún tipo de imperativo categórico aquí. Es probable que estos se deriven culturalmente. Por ejemplo, un hombre en el suroeste de Inglaterra murió ayer saltando a un río hirviendo para salvar a su perro. Hay muchas culturas donde la vida / conciencia de un perro no podría tener un valor concebible.

Finalmente, dado que es probable que cualquier categoría se derive culturalmente, también es probable que sea arbitraria. Por lo tanto, obtendrías el objetivo correcto con más frecuencia si simplemente adoptases la actitud de que todas las conciencias son valiosas y deben salvarse (en la medida en que no representan una amenaza tan grande que se elimine su eliminación, o que salvarlas conduzca a más problemas de los que previno – cf, hombre con perro en tormenta river).

Answer 2

Cuestiono el supuesto en tu pregunta. ¿Quién dijo que Musk está tratando de salvar la conciencia? Si fue Musk, ¿por qué le crees? ¿No está haciendo un cordón neural que podría conducir a una Matrix como resultado del encarcelamiento de la conciencia? ¿No se ha vuelto un poco loco para afirmar que vivían en una simulación sin evidencia para respaldar esta afirmación? ¿Es la conciencia incluso singular? Quizás es diferente para todos. La ciencia aún no ha salido. Si tuviéramos que utilizar un enfoque no supervisado (como el aprendizaje profundo) para enseñar a las máquinas inteligencia artificial general, entonces también debemos darles lo que llamamos conciencia. La última vez que miré no hay ni siquiera un consenso sobre qué es la consistencia. ¿Son las personas poco éticas conscientes o simplemente agentes dentro de una simulación? Si basáramos nuestra conciencia en aprender de tales agentes, ¿no nos habríamos engañado a nosotros mismos al pensar que replicamos la conciencia? ¿Cómo lo sabríamos? Incluso si nos esforzamos por impulsar la ética, ¿por qué deberíamos confiar en la versión de Mr.Musks? Creo que Musk ya está dividido entre Tesla y SpaceX para impartir mucho uso a cualquier otra cosa (además de marketing y cambio de marca, por ejemplo, baldosas solares). Insisto en no dejar que la élite determine qué es ético porque se equivocaron tantas veces en el pasado. Incluso con una etiqueta de código abierto, los humanos éticos promedio necesitan mantener bajo control a la élite. Elon Musk ahora es parte de la élite.

“No puedes jugar a ser Dios sin ensuciarte las manos” – Westworld