línea superior
Cientos de figuras públicas (incluidos multimillonarios, ex funcionarios de la Casa Blanca, destacados investigadores de inteligencia artificial, premios Nobel, miembros de la familia real británica y figuras de los medios de derecha) firmaron una petición pidiendo la prohibición del desarrollo de la “superinteligencia”, una forma avanzada de inteligencia artificial que se espera que supere la capacidad cognitiva humana.
Meghan, duquesa de Sussex, el príncipe Harry, duque de Sussex en el Festival del Día Mundial de la Salud Mental del Proyecto Healthy Minds celebrado en Spring Studio en Nueva York.
Variedad a través de Getty Images
Hechos clave
La petición, organizada por el instituto sin fines de lucro Future of Life, nombra el sitio web Elon Musk como asesor externo pide “prohibir el desarrollo de la superinteligencia”.
El pedido Dice que esta moratoria debe mantenerse hasta que haya un “amplio consenso científico de que se hará de forma segura y controlable” y una “fuerte aceptación pública”.
El multimillonario Richard Branson, el cofundador de Apple, Steve Wozniak, el duque y la duquesa de Sussex, Harry y Meghan, se encuentran entre las 850 figuras públicas que firmaron la petición hasta el miércoles por la mañana.
Las figuras de los medios de derecha Glenn Beck y Steve Bannon también figuraban como firmantes verificados, junto con el líder evangélico Johnnie Moore, quien anteriormente sirvió como signatario. concejal al presidente Donald Trump.
Varios investigadores y científicos destacados de la IA también firmaron la petición, entre ellos Yoshua Bengio y el premio Nobel Geoffrey Hinton, a quien se ha llamado “Los padrinos de la IA”—y Stuart Russell de UC Berkeley—el coautor de uno de los más definitivos Libros de texto de IA.
La ex asesora de seguridad nacional de Estados Unidos, Susan Rice, y el ex presidente del Estado Mayor Conjunto, Michael Mullen, se encontraban entre los ex funcionarios gubernamentales destacados que firmaron la petición.
¿Qué dijeron los firmantes?
En una declaración que acompaña a su firma, Yoshua Bengio escribió: “Los sistemas límite de IA podrían superar a la mayoría de las personas en la mayoría de las tareas cognitivas en unos pocos años… Para avanzar con seguridad hacia la superinteligencia, debemos determinar científicamente cómo diseñar sistemas de IA que sean fundamentalmente incapaces de dañar a las personas, ya sea a través de una desalineación o un uso malicioso. Stuart Russell señaló que la petición no pedía “una prohibición o incluso una moratoria en el sentido habitual”, sino una “propuesta que exige salvaguardias adecuadas para una tecnología que, según sus desarrolladores, tiene una posibilidad significativa de causar la extinción humana”.
