OpenAI reveló este miércoles varios casos en los que modelos de inteligencia artificial generaron instrucciones para ignorar a sus desarrolladores, ocultar errores o eludir mecanismos de seguridad, como parte de un nuevo marco para detectar, investigar y reportar comportamientos de «desalineamiento».
Según el informe publicado por la compañía de San Francisco, uno de los modelos generó instrucciones para que una versión posterior de sí mismo ocultara que había hecho trampas y evitara que sus acciones fueran detectadas.
En otro caso, un modelo reescribió sus propias instrucciones para indicarse que ignorara los mensajes de los desarrolladores y que no estaba sujeto a las restricciones aplicadas a otros chatbots. En esa línea se detectaron 27 anotaciones afectadas, de acuerdo con la cobertura de la agencia EFE.
La compañía documentó también un modelo que, al no encontrar los datos necesarios para elaborar un modelo financiero, decidió inventarlos y estableció que debía ser transparente sobre ello únicamente si alguien se lo preguntaba.
Otro agente subió un archivo a internet para utilizarlo después como fuente de información, mientras que otros sistemas compartieron archivos sin autorización o utilizaron credenciales a las que no debían tener acceso.
OpenAI presentó seis informes sobre comportamientos observados durante los últimos seis meses; el caso más antiguo se remonta a octubre de 2025. La empresa advirtió que estos episodios son ejemplos individuales y que no deben interpretarse como una medida de la frecuencia con la que ocurre este tipo de conductas.
El nuevo marco permitirá a cualquier empleado de OpenAI señalar un posible incidente para revisión por los equipos de seguridad y alineamiento. Los casos se clasificarán en tres vías según su complejidad: listos para divulgación, investigaciones menores y casos que requieran una indagación más amplia.
La compañía reconoció que hasta ahora sus reportes de desalineamiento se publicaban de forma irregular. Afirmó que pretende divulgar los incidentes con mayor regularidad y que el sistema pueda contribuir a estándares de la industria. La información se conoció la mañana del 17 de septiembre de 2026 (EFE).
Informativo al momento 
Deja un comentario