Uno de los investigadores más famosos del mundo Inteligencia artificial (IA) Lanza una nueva organización sin fines de lucro que desarrollará sistemas de IA seguros.
Yoshua Benjio, científico canadiense-francés en el campo de la IA, quien recibió un prestigioso premio de Alan Turing por trabajar en capacitación profunda y llamó a uno de los «Padradores» AI, anunció el lanzamiento de Lawzero en Montreal.
La nueva organización sin fines de lucro reúne al equipo de investigación de clase mundial, que se esforzará por «poner la seguridad por encima de los imperativos comerciales», dijo la declaración de una organización sin fines de lucro.
«Los modelos modernos de IA avanzados desarrollan habilidades y comportamientos peligrosos, incluido el engaño, la auto -conservación y el desajuste de los objetivos», la declaración de Benjio dijo que la organización ayudará a revelar el «gran potencial» de la IA y al mismo tiempo reducir estos riesgos.
Según Benjio, la organización sin fines de lucro nació de la nueva «dirección científica», que eligió en 2023 y que resultó en la «IA científica», el nuevo sistema no agente de IA, que él y su equipo están desarrollando, para que sirva como protección contra los sistemas de agencias «sin control» de la IA.
Ai, que «aprende a entender el mundo».
Este principio difiere de otras compañías, ya que quiere dar preferencia a la IA no agente, es decir, necesita instrucciones directas para cada tarea y no una búsqueda independiente de respuestas, como la mayoría de los sistemas de IA.
La IA no agente creada por Lawzero «aprenderá a comprender el mundo, y no actuar en él», y se les enseñará a dar «respuestas veraces a las preguntas basadas en el razonamiento (externo)».
Benjio habló en detalle sobre la IA científica en su reciente artículo de Time, donde escribió que estaba sinceramente perturbado por el comportamiento, que ya está demostrando IA desenfrenado, en particular la auto conservación y el engaño. »
«En lugar de tratar de complacer a las personas, el» científico «podría diseñarse para que su prioridad fuera honestidad», escribió.
En la etapa del proyecto, la organización recibió donaciones de otros institutos de IA, como Future of Life Institute, Jaan Tallin y Silicon Valley Community Foundation.
Lawzero trabajará sobre la base de Mila: el Instituto de Inteligencia Artificial de Quebec en Montreal, uno de los fundadores de los cuales fue Benjio.
