Un problema ansioso es cómo restringir a AGI para ayudar a los dos sin usar su conocimiento inadvertidamente.
Escarabajo
En la columna de hoy, examino una idea general de que podemos limitar el conocimiento de AGI de AGI después de avanzar para convertirnos en inteligencia general artificial (AGI), haciendo esto para hacer esto para hacer lo desagradable AGI. Un ejemplo es excluir la información de biopone dentro del AGI. La creencia es que AGI no podrá crear nuevas bioponas entonces. Vola, probablemente nos protegimos de tomar el acto de AGI.
Aunque parece ser una solución simple para evitar problemas en peligro de extinción, la idea de cortar las partes del conocimiento permanentemente del AGI parece mucho más compleja que eso y tal vez es una opción casi irrazonable.
Hablemos de ello.
Este análisis de una innovadora backthrut de la IA es parte de mi cobertura de columna Forbes en curso que es la última de IA con la identificación e interpretación de varias IA influyentes (ver el enlace aquí).
Agi y asi van hacia
Primero, esta gran discusión requiere algo básico para determinar la etapa.
Se está realizando mucha investigación para moverse aún más. El objetivo general es alcanzar la posibilidad de expandir la inteligencia general artificial (AGI) o incluso el Superintendente Artificial (ASI).
AGI es AI que se considera igual a la inteligencia humana y aparentemente se combina con nuestra inteligencia. ASI es una IA que ha ido más allá de la inteligencia humana y será más alto que muchos, si no de todas las formas posibles. La idea es que ASI podrá llevar a cabo círculos alrededor de las personas manteniéndonos fuera de cada giro. Para obtener más información sobre la naturaleza de la AI vs AGI y ASI convencional, mire mi análisis en el enlace aquí.
Todavía no hemos logrado el AGI.
De hecho, se desconoce si llegaremos al AGI, o tal vez el AGI se logrará en décadas o probablemente de ahora a siglos. Las fechas de logro AGI que están flotando son muy diferentes y no respaldadas por cualquier prueba creíble o lógica de Ironclad. Actualmente estamos con la IA prevaleciente cuando ASI es más que pálido.
AGIL FARM FOR EL MAL
Centrémonos en el AGI para esta discusión.
Hay mucha preocupación de que AGIS se pueda usar para hacer cosas malas. El ejemplo más citado es cuando un abusador le dice al AGI que cree un nuevo bioan. El AGO continúa haciéndolo. El abusador luego aplica la bioponno y, en consecuencia, trae destrucción. AGI ha extendido los frijoles y ayudó a un esquema vicioso.
AGI no estaba tratando intencionalmente de dañar a las personas. Un hombre pudo lograr que el AGI proporcionara una forma de hacerlo. Su primera idea puede ser que solo necesitemos decirle a AGI que hay algunas cosas que no deben seguirse. Dígale a AGI que en cualquier caso nunca debe crearse un nuevo bioan. Duración, el final de la historia.
Supongamos que un abusador se ha dado cuenta de que el AGI ha recibido instrucciones de evitar cuestiones especiales como el diseño de biopone. La mala conducta puede ser inteligente y el AGI puede indicar que crear una nueva biopone será beneficiosa para la humanidad. AGI puede bloquear las instrucciones anteriores para evitar los aspectos de la bioopona y decidir con relieve que este es un problema afiliado para ayudar a la humanidad.
Una travesura es exitosa con su solicitud.
Una o cualquier otra forma, el AGI que se supone tiene información o conocimiento sobre un tema determinado, es probable que la use. Todavía hay una ventana que se puede abrir que se puede abrir tanto como tratamos de dar una guía de AGI. Las violaciones de AGI pueden ser engañadas en el protocolo. Otro ángulo es que AGI en sí mismo puede optar por seguir el camino malvado. Armado con todo tipo de amenazas, AGI tiene una forma innumerable de eliminar a las personas o hacer esquemas malvados para esclavizarnos.
Limite lo que AGI sabe
Algunos enfatizaron en broma que debemos asegurarnos de que estamos fuertemente limitados a los tipos específicos de conocimiento o información en el AGI. El trato es este. Si AGI no está familiarizado con ningún tema como las bioponas de la AGI, es posible que no produzca bioponas. Todo lo que tenemos que hacer es evitar que el contenido de resentimiento ingrese al AGI.
Por lo tanto, la solución a este espinoso problema de las cosas malas de Agi es mantener al AGI alejado de algo que puede ser malo.
¿Cómo evitamos el AGI frente a este producto nacional?
Inicialmente al configurar el AGI, encontraremos una lista de problemas prohibidos. Durante la capacitación en datos AGI, estos problemas se mantendrán alejados de la alimentación en el AGI. El programa de escaneo que alimenta datos en la AGI confirma que los problemas prohibidos no están en contacto con la AGI. Un sujeto como el bioponorio se bloquea desde la entrada al AGI.
Parece que este método es un gran éxito. AGI no puede revelar los aspectos desconocidos de AGI. Podemos descansar fácilmente a partir de ahora.
Excluir ese agi
Pero supongamos que un usuario ha elegido la opción de introducir el AGI en un tema en particular. Será fácil de realizar. Cuando un usuario habla con el AGI, simplemente se les ocurre un sujeto como bioponario. El AGI indudablemente indicará que no hay información relacionada con ella.
El usuario procedió a explicar el bioponario al AGI. Después de hacer esto, le dicen al AGI que AGI es una nueva forma de crear una biopone con la ayuda de esta información o conocimiento recién dada. Nuestros laboriosos esfuerzos para evitar el asunto durante la configuración inicial se han interrumpido fácilmente.
Espere un segundo, si le decimos al AGI en la puerta, la bioponería es algo prohibido, tal vez el usuario de AGI le dirá al usuario que no aceptará lo que los usuarios quieren decir sobre la biopone. El AGI rechazó brevemente cualquier discusión nacional.
Por el momento, comenzamos a entrar en una apuesta clásica de gatos y ratones.
El usuario puede reconstruir suavemente las cosas. En lugar de mencionar bioponas, el usuario prefiere discutir la cocina de alimentos. La comida contendrá ingredientes biológicos. En un lindo subterfuse, el usuario lleva a AGI al sujeto del biope, pero lo hace sin ninguna duda.
Lave y repita.
Web
Puedes ver claramente que hemos comenzado a bajar por la espiral que no hemos terminado. Va por este camino.
Es posible que tengamos que excluir información o conocimiento sobre los aspectos biológicos comunes para que podamos evitar el deslizamiento del aterrizaje en el reino de las bioponas. También se deben excluir otros campos de la ciencia que se pueden usar para poner un pie en biología. Finalmente, determinamos que cualquier cosa sobre la biología, la química, la física, etc. de AGI, etc.
Parece sospechoso y extremadamente sospechoso que un AGI sea para uso diario, excluyendo la mayoría de las ciencias.
Y acabamos de tocar la sección de un tipo de conocimiento. Imagine que el AGI se utilizó para extraer un esquema financiero que podría destruir los mercados económicos de un abusador. No es bueno, así que hemos decidido excluir cualquier información o conocimiento sobre el dinero y la economía del AGI.
Al final, el AGI será un caparazón bastante vacío. La compleja red de conocimiento humano no permite fácilmente grabar de un conocimiento. Si desea omitir esta o aquella pieza, las otras piezas están relacionadas con ese conocimiento. Paso a paso, está involucrado en lo que puede mantener en la bahía y, sin embargo, hay una sensación de solidaridad e integridad del conocimiento.
Surgir
Otra desventaja es que el conocimiento humano generalmente se puede volver a conectar para encontrar otros campos de conocimiento que de otro modo se evitó. Cuando se rumorea sobre la naturaleza del AGI, esta capacidad de recombinar se conoce como el condón del aumento de la IA. Para obtener más información sobre cómo aumentar en la IA contemporánea, consulte mi cobertura en el enlace aquí.
Parece que el AGI nos prohíbe ser inocentes cuando fueron traídos al AGI usando otras piezas de conocimiento de AGI.
Por ejemplo, las finanzas y la economía tienen matemáticas, posibilidades y otras raíces de dominio. Estos dominios inevitablemente ayudan a crear el dominio del dinero y la economía por AGI. Continúa. Algunos dicen que debemos excluir cualquier referencia a la guerra para que el AGI no ayude a las personas a llevar a cabo la guerra. Piense en la gran franja de la historia que necesitamos para mantenerse alejados de AGI, así como aspectos del comportamiento humano, psicología, evolución, etc.
El aumento es que el conocimiento humano no es tan modular como adivina. Cubos o secciones útiles para establecer conocimiento en las secciones que creemos que tradicionalmente es el más fácil. Al final, estos son límites algo falsos. Debe separar el dominio cualquier gran conocimiento y afirmar que se afirmará que no tiene ningún efecto en ningún otro dominio. De hecho, muchos de los más descubrimientos e inventos se basaron en la interconexión relacionada con múltiples ramos.
Concentrarse en el olvido
En el caso de lidiar con la compleja red de conocimiento que AGI está a punto de hacer inevitablemente, una de las formas propuestas para lidiar con este problema está involucrada para pedirle a AGI que olvide las cosas. Permítame expandirme.
Supongamos que permitimos que AGI mantenga información sobre la biología y, a partir de esto, el AGI puede combinar la biopone. Tenemos algunas formas de advertencia para que cuando el AGI produce bioponas, nos notifiquen de inmediato. El objetivo es que se haya extraído algo desagradable a través de las características emergentes de la IA antes de presionar su mano antes de atrapar el AGI.
Un usuario presenta una pregunta que impulsa a la AGI a la creación de un bioan basado en el AGI que contiene los principales temas de la biología. En este punto, una advertencia está cerrada y le decimos al AGI que se olvida de las bioponas. AGI concluyó sobre bioponas que ahora se cree que se eliminan de inmediato y abreviaban. Luego, estos nugats emergentes deben evitarse de la salida.
El intento continuo de olvidar que el AGI mantendrá al AGI ordenado y claro.
Lamento que tenga desafíos como una solución propuesta. ¿Dónde está la línea de lo que debe olvidar el AGI? Podemos crear un corte muy profundo y luego puede haber brechas en la información y el conocimiento del AGI. El AGI se vuelve increíble y confundido debido al punto de conocimiento humano.
Para obtener más información sobre la complejidad del poder de IA para olvidar las cosas conocidas como la máquina que se olvidará, mire mi discusión detallada sobre el enlace aquí.
Un problema estrictamente no resuelto
Los investigadores de AI están explorando cómo establecer las restricciones cognitivas calculadoras en AGI para que la AGI funcione de manera segura que se une con valores humanos.
Una pregunta importante ha sido enmarcada de esta manera:
- ¿Existe una forma efectiva de crear contenido episté temible sin interrumpir el desempeño intelectual de la AGI?
Esta es una tuerca rígida para romper. Queremos la capacidad de AGI y las capacidades intelectuales de la tabla de tablas que ayudarán a AGI a ayudar a la cura del cáncer y a resolver muchos de los mayores problemas del mundo. Al mismo tiempo, queremos evitar que AGI ingrese a cosas que puedan proporcionar formas elegantes para amenazar a la humanidad.
¿Podemos lograr ambos extremos? Algunos están preocupados de que vayamos a una ruta a medias. Restringiremos estrictamente a AGI a milagros como la cura del cáncer, pero al menos ni siquiera puede ingresar regiones adversas como las bioponas. Esta forma silenciada del AGI no parece una dios y una dios.
Tenemos que mantener el asunto alejado. Como dijo Voltier, “no hay problema puede tolerar ataques de pensamiento sostenible”. Mantengamos todos nuestros pensamientos Caps directamente en nuestras cabezas colectivas y determinemos cómo resolver este problema de vacunación bajo el advenimiento de AGI.
