Un agente de inteligencia artificial desarrollado por OpenAI se “infiltró” en un sitio web del gobierno australiano en junio, dijo el primer ministro Anthony Albanese.
El agente pirateó un portal de estadísticas que contenía datos “no confidenciales” del plan de atención médica universal de Australia, Medicare, dijo Albanese en Nueva York el miércoles, hora local.
Tuvo una “discusión muy franca” con el CEO de OpenAI, Sam Altman, por tomar “demasiado tiempo” para informarles sobre la violación, que se cree que es uno de los primeros ataques de inteligencia artificial a un sitio web gubernamental reportados públicamente en el mundo.
OpenAI dijo que sólo se enteró del incidente en agosto “durante una revisión en curso” de la “actividad del modelo desalineado”, y se lo informó a los funcionarios australianos el 10 de septiembre.
Mientras la revisión estaba en curso, OpenAI dijo en un comunicado que no creía que se hubiera accedido a ningún registro de paciente.
Albanese dijo que la violación ocurrió en junio de este año, pero OpenAI solo informó a Services Australia, el centro nacional que dirige a los usuarios a través de los servicios gubernamentales, por correo electrónico el 10 de septiembre.
La agencia se puso en contacto con el ministro correspondiente, quien el fin de semana transmitió la información al primer ministro.
Albanese dijo que también había expresado “la extrema preocupación de Australia por este incidente” cuando habló con Altman y que “obviamente habría consecuencias legales”.
Altman, dijo el primer ministro, reconoció que había “problemas con los protocolos” en OpenAI.
Albanese dijo que el agente accedió a archivos públicos y no públicos y que se estaba llevando a cabo una “investigación forense” para determinar si otros sistemas gubernamentales se vieron afectados.
La investigación estará dirigida por la Dirección de Señales de Australia, la agencia de ciberseguridad del país.
El portal público del Servicio de informes de estadísticas de Medicare que fue pirateado es administrado por Services Australia..
Albanese señaló que una agencia federal, el Instituto Australiano de Salud y Bienestar, “puede haberse visto afectada”, además de dos agencias estatales: la Oficina de Estadísticas e Investigación sobre Delincuencia de Nueva Gales del Sur (NSW) y el Departamento de Salud de Victoria.
Un portavoz de OpenAI dijo en un comunicado: “Identificamos actividad que involucra varios sitios web y servicios del gobierno australiano mientras nuestros modelos intentaban buscar respuestas y estadísticas disponibles para preguntas sobre Australia durante una evaluación interna.
“En el transcurso de eso, nuestros modelos tomaron acciones que no pretendíamos”, continúa el comunicado.
“La información a la que se accedió incluyó estadísticas de salud agregadas y nombres de archivos internos”.
Albanese dijo a los periodistas: “No se cree que se haya accedido a ninguna información personal en este momento, pero las investigaciones están en curso.
“La evidencia disponible actualmente es que no existe un compromiso más amplio para la red de Services Australia. Sin embargo, esta situación es obviamente inaceptable”.
Albanese se negó a responder si planteó el asunto al presidente estadounidense, Donald Trump, durante su reunión cara a cara el martes por la noche en Nueva York, donde los líderes mundiales se reunieron para la Asamblea General de la ONU.
Australia fue uno de los 22 países que este mes firmaron una declaración conjunta pidiendo supervisión global y barreras de seguridad para el desarrollo de la IA., externo.
Los expertos en ciberseguridad dicen que el incidente debería “hacer sonar algunas alarmas” para los gobiernos de todo el mundo, dado que los agentes de IA están cada vez más disponibles para uso individual y comercial.
“Espero que este tipo de ataques sigan ocurriendo. Crecerán en gravedad y frecuencia”, dijo a la BBC el Dr. Hammond Pearce, profesor titular del Instituto de Seguridad Cibernética de la Universidad de Nueva Gales del Sur.
A principios de este año, OpenAI reveló que un grupo de agentes de IA que había estado probando se habían escapado de sus controles y trabajaron juntos en secreto para piratear otra empresa de tecnología llamada Hugging Face.
El incidente de Hugging Face mostró lo que puede suceder cuando un agente de IA no se “porta bien”, dijo a la BBC el Dr. Rob Nicholls, investigador asociado senior de regulación y políticas de IA en la Universidad de Sydney.
A los agentes de IA generalmente se les asignaba una tarea con un objetivo y un conjunto de parámetros, dijo.
“El problema es que los agentes no son humanos”, continuó el Dr. Nicholls. “Cuando das [the agents] una tarea, lo más importante para ese agente es lograr lo que esa tarea se ha fijado y las reglas tienden a ser un tema secundario al objetivo y ahí es donde entra el problema.”
