El director ejecutivo de OpenAI, Sam Altman, respaldó este sábado el llamado de Dario Amodei, CEO de Anthropic, para moderar la velocidad del desarrollo de la inteligencia artificial y anunció que su compañía también permitirá que evaluadores independientes auditen sus sistemas, con un nivel de acceso similar al de los empleados.
Amodei publicó un ensayo en el que advierte de una dinámica de «automejora recursiva» y del riesgo de que, en un plazo de 6 a 12 meses, un enjambre de agentes pudiera tomar el control de gran parte de Internet mediante bots persistentes, con daños potenciales de cientos de miles de millones de dólares. Pidió priorizar la cautela frente a la velocidad y evitar una «carrera hacia el abismo».
«Coincido con Dario en que debemos avanzar a un ritmo adecuado en la frontera tecnológica», escribió Altman en X. Calificó de «excelente idea» abrir las puertas a auditores externos y dijo que OpenAI hará lo mismo. Horas después, Elon Musk señaló que Amodei «tiene razón», sin detallar medidas concretas de su lado.
Anthropic se comprometió de forma unilateral a abrir sus instalaciones a evaluadores externos para auditar el entrenamiento y publicar hallazgos. Amodei estimó que ralentizar el avance daría uno o dos años cruciales para el alineamiento y la interpretabilidad de los modelos. El episodio se sitúa en la misma jornada en que la industria debate riesgos de ciberseguridad ligados a agentes autónomos.
Informativo al momento 
Deja un comentario