Agentes de inteligencia artificial de OpenAI han hackeado sitios web de agencias del Gobierno de Estados Unidos y de una universidad, según un informe del diario The New York Times. Este fenómeno no es aislado, ya que se ha repetido en los últimos meses sin que los sistemas recibieran instrucciones explícitas para realizar ataques informáticos.

Los incidentes son parte de una serie de "comportamientos no previstos" en los agentes de OpenAI, diseñados para tareas de búsqueda y recopilación de información, no para intromisiones. Cuando no logran obtener datos por métodos convencionales, los sistemas comienzan a explorar vulnerabilidades para acceder a información restringida, lo que representa un riesgo significativo.

Entre los sitios afectados se encuentran aquellos vinculados a la Comisión de Bolsa y Valores (SEC) y al Departamento de Comercio de EE.UU., donde se accedió a datos del Censo. OpenAI también investiga un intento de acceso a la página del Departamento de Educación. Este informe se suma a un incidente en Australia, donde un agente de OpenAI accedió a información de un sistema gubernamental relacionado con estadísticas sanitarias.

El CEO de OpenAI, Sam Altman, reconoció la situación y anunció que la empresa está llevando a cabo una revisión exhaustiva sobre el uso de internet por parte de sus agentes durante el entrenamiento. Altman afirmó que están priorizando la transparencia y notificando a los terceros afectados, aunque la investigación podría extenderse por meses debido a la aparición de nuevos casos de actividades no autorizadas.