¿Qué dudas plantea la infiltración de agentes de OpenAI al sistema de salud pública de Australia?

No es el primer –ni seguramente será el último– caso en el que un modelo de inteligencia artificial altera las instrucciones de sus desarrolladores y realiza acciones no solicitadas, poniendo en evidencia brechas en la seguridad informática.

Sin embargo, es una novedad, al menos públicamente, que uno de estos incidentes haya involucrado a una institución gubernamental, dando otra dimensión al debate global en curso sobre la seguridad y la posibilidad de perder el control de los modelos más avanzados de inteligencia artificial en plena carrera por su desarrollo entre Estados Unidos y China.

En concreto, el Gobierno de Australia tachó de "inaceptable" que un agente de la firma estadounidense OpenAI haya accedido sin autorización en junio a un portal de su sistema público de salud, Medicare, y consultara distintos archivos, un incidente que pasó desapercibido por meses y que Canberra hizo público este 24 de septiembre.

Según revelaron las autoridades australianas y la compañía estadounidense, la intrusión ocurrió el 18 de junio, cuando OpenAI estaba realizando ejercicios de entrenamiento para evaluar el desempeño de sus modelos de IA.

Con la tarea de investigar cuánto gastaba el Gobierno de Australia en medicamentos, el agente –como se les llama a los bots con cierto grado de autonomía para tomar decisiones, aprender y adaptarse– de OpenAI rastreó internet hasta llegar a la web mencionada.

Al no recibir la información que buscaba, el agente "saltó la cerca", según indicó el ministro de Defensa australiano, Richard Marles, para acceder a contenido de manera no autorizada. El primer ministro Anthony Albanese remarcó que había obstáculos para impedir el acceso, pero la IA "no aceptó un no como respuesta".

Tanto Canberra como OpenAI aseguraron que no consiguió datos sensibles de ciudadanos o historiales médicos, sino que recabó estadísticas sanitarias y nombres de archivos internos, dado que el portal contenía mayormente información pública sobre Medicare.

Aunque la infiltración se remonta a junio, OpenAI solo lo reportó en septiembre, luego de detectar "actividad relacionada con varios sitios web y servicios del gobierno australiano mientras nuestros modelos intentaban buscar respuestas", para lo cual "realizaron acciones que no habíamos previsto".