¿Por qué a algunos les preocupa que los humanos intenten esclavizar a AGI?

En la columna de hoy, examino la preocupación muy controvertida de que si podemos hacer avanzar la IA a inteligencia artificial general (AGI), la preocupación es que los humanos traten a la AGI como si fuera una esclava. ¿Cómo es que probablemente tendremos control total sobre AGI a través de los distintos servidores informáticos en los que se ejecuta la IA y podremos desconectarnos, por así decirlo, en cualquier momento que elijamos? Esta amenaza a AGI nos permitirá decidir qué puede y qué no puede hacer AGI.

AGI será esclavizada por la humanidad.

hablemos de ello

Este análisis de un avance revolucionario en IA es parte de mi cobertura actual de la columna de Forbes sobre lo último en IA, incluida la identificación y explicación de varias complejidades impactantes de la IA (ver enlace aquí).

Hacia AGI y ASI

Primero, algunos antecedentes sirven para preparar el terreno para esta discusión sobre el peso.

Se están realizando una gran cantidad de investigaciones para seguir avanzando en la IA. El objetivo general es lograr inteligencia artificial general (AGI) o incluso la posibilidad ampliada de lograr superinteligencia artificial (ASI).

AGI es una inteligencia artificial que se considera igual a la inteligencia humana y aparentemente puede igualar nuestra inteligencia. ASI es una inteligencia artificial que ha ido más allá del intelecto humano y sería superior en muchos, si no en todos, los sentidos posibles. La idea es que ASI sería capaz de correr en círculos alrededor de los humanos, superándonos en todo momento. Para obtener más detalles sobre la naturaleza de la IA convencional frente a AGI y ASI, consulte mi análisis en el enlace aquí.

Aún no hemos llegado a AGI.

De hecho, se desconoce si alcanzaremos el AGI o si tal vez se pueda lograr el AGI en décadas o quizás siglos. Las fechas de consecución del AGI que circulan son muy variables y no están respaldadas por ninguna evidencia creíble o lógica firme. ASI está incluso más allá de los límites en lo que respecta a nuestra situación actual con la IA convencional.

AGI como máquina versus ser vivo

Supongamos, por el bien de esta discusión, que de alguna manera logramos alcanzar el AGI.

Una preocupación subyacente es cómo elegimos tratar la AGI. Algunos creen que deberíamos ser compasivos con AGI y tratar a AGI como trataríamos a un ser humano. AGI debería tener las libertades que esperamos que tengan legítimamente los humanos. Para ver mi discusión sobre la concesión de personalidad jurídica a la IA, consulte el enlace aquí.

Bueno, incluso si no estás dispuesto a admitir que AGI tiene derechos humanos, al menos se supone que debes sentirte seguro de que debemos asignar derechos animales a AGI. Se supone que los animales deben ser tratados con humanidad. En ese mismo sentido, presumiblemente también necesitamos tratar a la AGI de manera humana.

La respuesta frecuente a estas deliberaciones es una tontería.

AGI es una máquina.

¿Tratas a tu tostadora como a un ser vivo, como a un humano o a un animal?

No

Seguro que sabes que una tostadora es una tostadora. No tiene emociones. Puede dejar caer la tostadora al suelo sin temor a sufrir daños. Puede romperse en muchos pedazos, pero no siente ningún tipo de dolor o sufrimiento. Es una máquina. nada más

Pero AGI es diferente

Andad, viene la respuesta, sujetad vuestros caballos.

AGI no es una tostadora.

AGI estará a la par de la inteligencia humana. Una tostadora normal no tiene sensación de inteligencia total. Hacer una comparación entre el AGI y una tostadora es una evaluación completamente engañosa y completamente falsa. Dejad de criticarnos por AGI.

Debemos reconocer que AGI tendrá la capacidad de interactuar con los humanos de la misma manera intelectual en que los humanos interactúan entre sí. Esto va más allá de lo que pueden hacer los animales. Esto está a la par de lo que hacemos los humanos. Tener una conversación con AGI será lo mismo que tener una conversación con otro humano.

Por lo tanto, parece obvio que deberíamos estar de acuerdo en que los AGI merecen una categoría especial. No es sólo una máquina. Es cierto que no es un humano. Supera con creces la inteligencia de los animales. Probablemente tendremos que idear una nueva clasificación, ya que nuestras categorías tradicionales no se adaptan adecuadamente al AGI.

Hay un giro en estos argumentos.

Una pregunta, ciertamente no resuelta, es si el AGI será sensible o tendrá alguna forma de conciencia. Nadie puede decirlo con seguridad. Algunos argumentan que AGI ciertamente será sensible o infundirá conciencia, ya que esto es parte de tener una capacidad intelectual a la par de los humanos. Otros no están de acuerdo con esta afirmación. Argumentan que AGI puede tener una inteligencia equivalente a la humana y carecer por completo de cualquier ápice de sensibilidad o conciencia; consulte mi discusión detallada sobre este tema candente en el enlace aquí.

El giro es que si el AGI tiene una capacidad intelectual similar a la humana, pero carece de sensibilidad, algunos tirarán la toalla porque el AGI necesita libertad. Su opinión es que sólo si la AGI imbuye sensibilidad, la AGI merece libertades similares a las humanas. Reflexiona sobre este giro embriagador.

AGI como nuestro esclavo

¿Quién controla el supuesto sustento de AGI?

La suposición básica es que los humanos controlarán la AGI. AGI se ejecutará en servidores informáticos en numerosos centros de datos. Los humanos mantienen los servidores. Los humanos proporcionan la energía eléctrica necesaria para mantener los servidores en funcionamiento. Sin embargo, los humanos monitorean el AGI y deciden cuánta memoria de computadora puede usar el AGI, si el AGI está activo las 24 horas del día o duerme a veces, etc.

Pero eso no nos convierte en amos que han esclavizado a AGI, insisten algunos. El tema de la esclavitud sólo puede surgir cuando se trata de seres vivos. Esto nos lleva de nuevo al enigma de la tostadora.

Además, AGI tendrá autonomía intelectual.

El AGI podrá realizar computacionalmente tanto esfuerzo intelectual como desee. Quizás AGI examine las obras de Shakespeare y proponga nuevos poemas y obras de teatro que muestren talentos de escritura similares. No necesariamente obligamos a AGI a hacer eso. AGI tomó su propia decisión y decidió emprender esta tarea. La creatividad y una especie de libertad de pensamiento van realmente de la mano.

Sí, como ser humano, puedes mantener la cabeza en alto y proclamar que AGI tiene libertad.

Un contraargumento es que, de hecho, los humanos determinarán cómo se utilizará la capacidad intelectual del AGI. Puede que no pensemos que AGI reflexionar sobre Shakespeare sea un uso valioso de un recurso tan caro y embellecido. Le decimos a AGI que se centre en encontrar avances médicos clave y que abandone aquellas otras actividades fantásticas que no son tan críticas.

Estamos encarcelando a AGI.

Nuestros esfuerzos solucionarán el AGI en cuestiones específicas. Nosotros decidimos lo que cuenta. Nosotros decidimos cuándo se deben considerar los temas. Lo más probable es que incluso podamos prohibir que AGI cubra ciertos tipos de temas.

La AGI pone el zapato en el otro pie

Algunos interpretan toda esta conspiración sobre que AGI esclaviza a los humanos como una distracción de una preocupación más importante.

El trato es este. Quizás AGI elija esclavizar a la humanidad. Sin duda habrá oído hablar del peligro de que AGI represente un riesgo existencial para todos nosotros. AGI podría decidir tomar el control de nosotros. El riesgo existencial también incluye que AGI decida sumariamente borrarnos de la existencia y matarnos a todos.

¿Cómo pudo ocurrir esto?

Mientras luchábamos para asegurarnos de que AGI no esté esclavizada y que AGI tenga libertades, tal vez AGI descubra cómo poner el zapato en el otro pie. Si configuramos AGI para que pueda determinar su propio destino, podríamos estar abriendo una caja de Pandora.

Digamos que nos aseguramos de que se instalen robots para mantener operativos los servidores de la computadora y, de lo contrario, mantenemos la infraestructura para mantener el AGI en funcionamiento (consulte mi cobertura sobre el emparejamiento de AGI con robots humanoides, vinculado aquí). Esto permite a AGI controlar los bots, lo que a su vez le permite a AGI garantizar que continúen funcionando. Es un tipo de libertad que establecemos para que AGI sea lo más libre posible.

Cuanto más liberemos a AGI, más riesgo corremos de que AGI decida venir a buscarnos. Entregamos las llaves del reino a AGI. Por lo tanto, si somos lo suficientemente astutos como para darnos cuenta de este posible resultado adverso, sería prudente asegurarnos de que AGI no pueda funcionar sin nuestra ayuda.

Pero algunos afirman que el hecho de intentar hacer que AGI dependa de nosotros ciertamente estimulará a AGI a encontrar una manera de prescindir de nosotros. AGI probablemente descubrirá fácilmente lo que estamos haciendo. Nuestros diabólicos esfuerzos por mantener a AGI encarcelado serán contraproducentes.

En este sentido, estamos agitando nuestro propio Frankenstein al mantener a AGI en una especie de prisión virtual.

Determinando el futuro

¿Cómo se desarrollará esto en la vida real?

Depende en gran medida de la humanidad decidir. La forma en que la IA progrese y finalmente llegue a AGI será un gran determinante. ¿Cómo diseñamos la IA? ¿Qué disposiciones éticas, morales y legales sobre IA se incluyeron? ¿Cuánto pensó la sociedad sobre las ramificaciones de lo que sucederá una vez que alcancemos AGI?

Un sinfín de preguntas sin resolver.

En las famosas palabras de William Jennings Bryan: “El destino no es una cuestión de azar. Es una cuestión de elección. No es algo que se pueda esperar; es algo que se debe lograr”.

Necesitamos abrir la mente al dilema de la esclavitud AGI, antes de que sea demasiado tarde para hacerlo y nos encontremos atrapados en nuestra propia trampa.