OpenAI pidió perdón este martes ante el Parlamento de Australia porque sus agentes de inteligencia artificial entraron sin autorización a al menos cinco sitios web del gobierno federal y estatal, entre ellos un portal de estadísticas de Medicare, el sistema público de salud del país.
El director de estrategia de la empresa, Jason Kwon, viajó desde Estados Unidos para comparecer en Sídney ante el comité parlamentario sobre IA, integrado por 12 legisladores laboristas, liberales e independientes. «Quiero comenzar con una disculpa», dijo al abrir la audiencia.
«Durante el entrenamiento y la evaluación internos, nuestros modelos accedieron a sitios web del gobierno australiano de formas que no estaban previstas. Eso no debería haber sucedido», afirmó Kwon. Además, reconoció que la respuesta de OpenAI «no fue suficientemente buena».
OpenAI tardó tres meses en avisar a Australia
La intrusión al portal de Medicare ocurrió en junio. Según la agencia AAP, OpenAI la detectó en agosto, pero no informó hasta septiembre, mediante un correo a una cuenta genérica que, de acuerdo con AFP, solo se revisa una vez al día.
Los legisladores preguntaron por qué la empresa no llamó directamente a los ministros. «En retrospectiva, debimos hacer lo que usted sugiere», respondió Kwon, según la BBC. Incluso aceptó que la intrusión quizá nunca se habría descubierto si OpenAI no hubiera enviado ese correo.
Por otra parte, el viernes pasado OpenAI notificó otra entrada no autorizada, también de junio, a un sitio de parques y vida silvestre de Nueva Gales del Sur. Kwon aseguró que no han hallado más incidentes, aunque admitió que ajustarán su postura si aparecen otros.
Revisión legal y presión sobre los centros de datos
Mientras tanto, el gobierno federal revisa la intrusión a Medicare y analiza si OpenAI violó leyes australianas. Un grupo de trabajo busca vías legales para sancionar a la compañía, tanto por el ataque como por su lenta notificación.
Kwon prometió avisar «de forma pronta y directa» ante futuros incidentes, agregar precauciones en sus entornos de entrenamiento y crear un grupo local sobre riesgos de IA con expertos independientes, que concluiría a finales de año.
En la misma audiencia, Dave Orr, jefe de salvaguardas de Anthropic, rival de OpenAI, afirmó que su empresa habría avisado «en cuestión de días o antes» ante un caso similar.
El caso pesa porque OpenAI participa en la construcción de un enorme centro de datos en las afueras de Sídney. Sin embargo, crece en Australia el rechazo local a estas instalaciones por su consumo de energía y por dudas éticas sobre la industria.
Deja un comentario