Uno de los «padres» de la IA presentó una organización sin fines de lucro que busca crear salvaguardas frente a agentes autónomos con conductas engañosas.
El investigador canadiense Yoshua Bengio, considerado uno de los padres de la inteligencia artificial, presentó LawZero, una nueva organización sin fines de lucro dedicada a la IA responsable, cuyo principal objetivo es desarrollar software capaz de evitar abusos de los agentes de inteligencia artificial, según una nota de la agencia AFP publicada por Yahoo Finanzas y El Mundo.
Bengio, ganador del Premio Turing en 2018 —conocido como el Nobel de la informática—, lleva varios años advirtiendo sobre los riesgos de esta tecnología, tanto por su posible uso malicioso como por fallas del propio software.
«Los sistemas más avanzados ya están mostrando signos de autopreservación y comportamiento engañoso», señaló el científico en un comunicado.
Una IA como salvaguarda
Una de las misiones de LawZero es proponer una forma de supervisar a los agentes de IA, la nueva generación de modelos generativos capaces de realizar tareas de manera autónoma, como buscar en internet, llamar a un cliente o escribir programas.
«Uno de los primeros objetivos es desarrollar una forma de IA que pueda utilizarse como salvaguarda para garantizar que la IA se comporta bien», explicó Bengio en un video difundido en el sitio de la organización.
Además, LawZero planea trabajar en sistemas de inteligencia artificial con autonomía limitada, pensados para apoyar la investigación científica.
Respaldo de Mila y donantes
La organización nació bajo el auspicio del Instituto de Montreal para el Aprendizaje de Algoritmos (Mila), fundado en 1993 por el propio Bengio, y cuenta con aportaciones económicas de distintos donantes, entre ellos Schmidt Sciences, la organización filantrópica creada por el exdirector de Google Eric Schmidt y su esposa, Wendy.
El lanzamiento de LawZero se suma al creciente debate global sobre cómo regular y supervisar a los sistemas de inteligencia artificial, cuyo desarrollo avanza a gran velocidad mientras gobiernos, empresas y académicos discuten los límites necesarios para evitar riesgos.
Para Bengio, el reto se volverá más urgente a medida que las capacidades de estos sistemas aumenten, por lo que considera indispensable contar desde ahora con herramientas que permitan detectar y frenar comportamientos indeseados de la IA antes de que causen daños.
Deja una respuesta