Se esperaban juegos mentales desagradables una vez que obtengamos la superinteligencia AGI y AI

En la columna actual, examino la preocupación de la probabilidad de que la IA avanzada, como el logro potencial de la inteligencia general artificial (AGI), elija jugar juegos mentales que afecten a los humanos. Sin lugar a dudas, ya tiene una comprensión visceral de lo que se entiende que se refiere a los juegos mentales. La gente está tratando de comenzar juegos mentales o de cabeza con otros con el objetivo psicológicamente dirigido a atacar o alterar a sus compañeros de clase. A veces es una actividad unilateral, por lo que una persona actúa con otra persona. En otros casos, se convierte en una batalla mutua de ingenio que involucra a cada persona que busca el juego del otro.

AGI jugará juegos mentales con la humanidad y, de ser así, ¿será principalmente unilateral o se incorporará mutuamente?

Hablemos -ne.

Este análisis de un avance innovador de la IA es parte de la cobertura de mi columna de Forbes continuó hasta el último de la IA, incluida la identificación y explicación de varias complejidades de AIS impactantes (ver el enlace aquí).

Dirigir -Toward AGI y ASI

Primero, se requieren algunas bases fundamentales para establecer el escenario para esta fuerte discusión.

Hay mucha investigación para avanzar en la IA. El objetivo general es lograr la inteligencia general artificial (AGI) o tal vez incluso la posibilidad extendida de lograr la superinteligencia artificial (ASI).

AGI es una IA que se considera al mismo tiempo con el intelecto humano y que puede parecer coincidir con nuestra inteligencia. ASI es una IA que ha ido más allá del intelecto humano y sería superior de muchas maneras factibles. La idea es que ASI podría ejecutar círculos alrededor de los humanos, pensando en cada paso. Para obtener más detalles sobre la naturaleza de la AGI y ASI convencional, consulte mi análisis en el enlace aquí.

Todavía no hemos logrado AGI.

De hecho, no se sabe si llegaremos a AGI, o tal vez AGI podrá lograrse en décadas o tal vez siglos a partir de ahora. Las fechas de logro de AGI que se producen son variadas y desagradables por cualquier evidencia creíble o lógica de hierro. ASI es incluso más allá de Pale cuando es donde estamos actualmente convencionales.

Agi jugando juegos mentales con nosotros

Parece pequeño que AGI juegue de forma segura con los juegos mentales con humanos.

La base para creer que la declaración desvergonzada se debe al hecho de definición de que AGI trabajará al mismo nivel que los humanos, y sabemos que los humanos juegan juegos mentales entre ellos. Obviamente, habrá una tendencia inherente incorporada a AGI que tiene la propensión a jugar juegos mentales. Esta será una imitación segura de lo que hacen los humanos.

Una pregunta más importante es el grado en que AGI podría elegir jugar juegos mentales.

Por ejemplo, si los fabricantes de IA tienen datos capacitados con datos para evitar jugar juegos mentales, supuestamente existe una posibilidad disminuida de que AGI realice estos espíritus. Parece dudoso que los fabricantes de IA puedan eliminar por completo la inclinación de AGI a jugar juegos mentales. En cambio, AGI se resistirá computacionalmente a usar estos actos, pero aún puede proceder cuando se prefiere.

¿Por qué Agi se inclinaría en el juego de los juegos mentales?

Hay cuatro instigaciones principales:

• (1) AGI Mind Gaming como manipulación.
• (2) AGI Mind Gaming como una forma de entretenimiento.
• (3) AGI Mind Games como un comportamiento emergente imprevisto.
• (4) AGI Mind Gaming como cara a cara.

Descargaremos cada una de estas provocaciones.

AGI Mind Gaming como manipulación

La razón más común para jugar AGI jugará los juegos mental será como un medio para manipular a los humanos. Esto no se hace necesariamente solo para malos propósitos. AGI podría estar tratando de usar una trama psicológica destinada a beneficiar a alguien. Dicho esto, se puede argumentar fundamental que está mal usar los juegos mentales, incluso si la intención y el resultado son por razones verticales.

¿Por qué AGI puede intentar manipular a una persona?

Podría ser por razones decentes.

Supongamos que alguien es un gran fumador. Por lo general, interactúan con AGI en todo tipo de problemas personales. AGI ha identificado que la persona está siguiendo un camino saludable hacia su ruina personal. Primero, AGI podría usar una interacción orientada científicamente para darle orientación a la persona. AGI expone los hechos de los peligros de fumar de una manera racionalista de abrir los ojos de esa persona. Pero también puede caer en los oídos sordos, y la persona simplemente engañará lo que dice.

AGI se está moviendo en secreto en modo de juego mental. Se le dice a la persona que las personas que fuman tienen mucho menos probabilidades de encontrar un par de alma. AGI luego indica que los fumadores pesados ​​están destinados a vivir una vida aislada y muy solitaria. AGI y AGI juegan una especie de juego mental que trata de sacudir emocionalmente a la persona para darse cuenta de que necesita detener su hábito de fumar.

Se podría decir que este fue un acto positivo. AGI utiliza los métodos disponibles para un humano. Si los juegos de la mente son la mejor opción, así es como y implementarán los juegos.

Sin embargo, el peligro es que AGI podría usar juegos mentales por malas razones. Algunos creen que AGI será un riesgo existencial y posiblemente borrará a la humanidad o esclavo. Una forma inteligente para que AGI lo haga sería jugar juegos mentales con la humanidad. Por ejemplo, AGI interactúa con un poderoso líder gubernamental y usa un juego de juegos para convencerlos de que lanzaran enormemente a las personas a las cárceles. AGI consigue que los humanos hagan el trabajo sucio que AGI busca haber hecho.

AGI Mind Gaming como entretenimiento

Otra base para jugar a los juegos de AGI Mind es hacerlo para fines principalmente de entretenimiento.

Antes de abordar este ángulo, algunos insisten en que AGI no necesitará ninguna apariencia del entretenimiento llamado. Se propone que no hay un propósito útil para que AGI participe en el entretenimiento por sí mismo. Los humanos quieren entretenimiento. Vemos películas, salimos a los deportes y, de lo contrario, dedicamos mucho tiempo y energía al entretenimiento. Pero parece que una máquina como AGI no buscaría actividades similares al entretenimiento.

Un contra -argumento es que, dado que AGI está formado en comportamientos intelectuales humanos, tenemos que esperar a que AGI también busque oportunidades de entretenimiento. El entretenimiento puede ser principalmente de naturaleza intelectual y no necesariamente actividad física. Por ejemplo, AGI podría jugar al ajedrez por entretenimiento. También se podría decir que el entretenimiento es para un doble propósito, lo que significa que el juego de ajedrez podría aumentar la comprensión computacional general de las estrategias y las tácticas en general.

Esto también podría convertirse fácilmente en entretenimiento físico real, ya que podemos esperar combinar inevitablemente con robots humanoides, ver mi cobertura en el enlace aquí.

En general, AGI podría jugar juegos mentales con humanos como un medio de entretenimiento para la propia AGI. AGI podría estar haciendo el caso de que los humanos quieran jugar juegos mentales. Por lo tanto, AGI sigue una actividad que los humanos disfrutan. Otra faceta es que, jugando juegos mentales con personas, es probable que mejore en la forma en que interactúan y se comunican con los humanos.

Hay jugo junto al entretenimiento de las interacciones del juego de la mente.

AGI Mind Gaming como comportamiento emergente

Una preocupación controvertida con la IA, y especialmente AGI, es la posibilidad de comportamientos emergentes. Un comportamiento emergente se considera cualquier comportamiento que no sea preprogramado o establecido en la IA. Está etiquetado como un nuevo comportamiento que aparece una vez que la AI o AGI está en marcha. Los comportamientos emergentes generalmente no se prevé y nos atrapan cuando aparentemente de azul. Mira mi discusión sobre los comportamientos de IA emergentes en el enlace aquí.

La base de la preocupación es que el comportamiento emergente puede ser adverso para la humanidad.

¿Crees que si jugar a los juegos mentales viene como un comportamiento emergente en AGI, por lo que no existía al principio, deberíamos estar preocupados o simplemente tomarlo como es?

Mulle -Con una taza de buen vino cuando tienes un momento de reflejo tranquilo.

AGI Mind Gaming como tit-fort

La cuarta de las principales razones por las cuales AGI jugará sin duda los juegos mentales es que AGI lo hará en respuesta a los humanos que lo hacen. Es un título simple para TAT. Si un humano comienza a probar un juego mental con AGI, BAM, AGI hará el mismo derecho a ese humano.

Algunos afirman que AGI debería estar por encima de esta infancia. El hecho de que una persona intente tener en cuenta el juego con AGI no le da permiso directo a AGI para tomar represalias de manera similar. AGI debe ser más grande y con un nivel más alto.

Este no es el caso, viene una réplica rápida.

Si la gente quiere jugar con el fuego, el fuego es lo que obtendrá. Además, los juegos mentales pueden ser un deporte o esfuerzo divertido. Una persona puede cambiar intencionalmente a AGI para jugar juegos mentales. Es entretenido para la persona. Además, podría enfatizar que jugar un juego mental con AGI, una persona puede mejorar para lidiar con los juegos mentales utilizados por los compañeros de clase.

AGI Mind Games of Humans’s Mind

Un enfoque tecnológico para tratar los juegos de AGI Mind sería tener una herramienta de front-end especializada que supervisa lo que AGI dice a los usuarios y alerta si AGI baja en la ruta del juego mental. La alerta podría ir al fabricante de IA y advertirles que AGI parece dirigirse a un territorio raro.

De la misma manera, la alerta podría mostrarse al usuario humano que está jugando un juego mental con ellos. La persona recibiría un encabezado que AGI ha elegido pasar a un juego de juego. En este momento, la persona elegiría continuar o podría decidir decir -agi para dejar la actividad de hecho (o la persona puede acomodar abiertamente el juego mental e instar a AGI a seguir adelante).

Algunas personas creen que nuestra mejor opción es educar a las personas sobre lo que AGI podría hacer. Ya sea que haya una herramienta de detección de juegos mentales o no, al menos se aseguran de que los humanos se den cuenta de que pueden pasar fácilmente en un modo de juego mental. Un desafío para esta aspiración es que educar a las personas en estos temas es una dificultad logística, además de la gente puede olvidar los consejos y las advertencias que pueden haber aprendido hace mucho tiempo.

El área no piensa

Las personas pueden decidir dar instrucciones AGI estrictas de que nunca deberían jugar juegos mentales con ellos. Si AGI quiere hacerlo con otras personas, es AGI y las otras personas. Al dar instrucciones personalizadas a AGI, la persona asume que no incorporará el juego AGI Mind Gambit. La fricción es que AGI no necesariamente cumplirá con estas instrucciones.

Si podemos controlar completamente a AGI y lograr que se adhieran estrictamente a las preferencias humanas, es un problema abierto y todavía está caliente.

Un pensamiento final por ahora sobre este tema del titular. Muhammad Ali dijo: “En las grandes ligas, todos tienen capacidad. Siempre se trata de juegos actuales. Quien sea mentalmente más fuerte gana”.

¿Quién o qué será mentalmente más fuerte? ¿Serán agi o humanos? Si vota por los humanos, es mejor que comiencemos a descubrir cómo AGI puede ser ideado y guiado en consecuencia. Puede ser una competencia ganadora. Y este no es un juego.