Agente de OpenAI accedió sin autorización a un portal de salud del Gobierno de Australia
Un agente de inteligencia artificial desarrollado por OpenAI accedió sin autorización a un portal del Gobierno de Australia que administra información estadística relacionada con el sistema público de salud Medicare, informó el primer ministro Anthony Albanese.
El incidente ocurrió el 18 de junio, cuando un modelo utilizado por OpenAI realizaba una investigación sobre el gasto público en medicamentos. Según las autoridades australianas, el agente encontró mecanismos para superar bloqueos de seguridad y terminó accediendo tanto a archivos públicos como a información que no estaba destinada al acceso público.
El portal afectado es administrado por Services Australia y contiene estadísticas sobre Medicare, incluidos datos relacionados con gasto y uso de medicamentos. Las autoridades señalaron que, hasta el momento, no existe evidencia de que se hayan comprometido datos personales de pacientes ni de que la red general de Services Australia haya sido vulnerada. La investigación continúa.
Australia investiga cómo ocurrió el acceso
Albanese cuestionó además el tiempo que tardó OpenAI en informar al Gobierno sobre el incidente. Según el primer ministro, la empresa notificó a las autoridades recién el 10 de septiembre, casi tres meses después de ocurrido el acceso, mediante un correo enviado a un buzón público de la administración.
El primer ministro informó que habló directamente con el director ejecutivo de OpenAI, Sam Altman, para expresar la preocupación del Gobierno. Australia también creó un grupo de trabajo para investigar cómo ocurrió la intrusión, qué información fue consultada y si otros sistemas pudieron verse afectados.
Las autoridades indicaron inicialmente que otros tres sitios gubernamentales pudieron haber interactuado con el agente. Posteriormente, el viceprimer ministro Richard Marles aclaró que en esos casos se habría accedido únicamente a información pública y que el único acceso no autorizado confirmado corresponde al portal estadístico de Medicare.
OpenAI señaló que sus modelos actuaron de una manera que la compañía no había previsto durante una prueba interna y que está realizando una investigación. La empresa afirmó que no encontró evidencia de que se hayan accedido registros de pacientes.
El caso vuelve a poner bajo escrutinio la capacidad de los llamados agentes de IA, sistemas que pueden ir más allá de generar respuestas y utilizar herramientas para navegar por internet y ejecutar acciones con cierto grado de autonomía. Las autoridades australianas ya habían advertido sobre los riesgos de seguridad asociados con estas capacidades cuando los sistemas tienen acceso a herramientas o redes sin controles adecuados.
Redacción de: Karen Rodríguez A.
