Investigación

El primer ministro australiano, Anthony Albanese, utilizó la Asamblea General de Naciones Unidas para alertar de los nuevos riesgos asociados a los sistemas autónomos de IA y reclamar una respuesta coordinada después de un incidente que afectó al sistema público de salud de su país, lo que ilustra los riesgos que implica afrontar el desarrollo de esta tecnología “sin salvaguardas”.

Según la autoridad australiana y OpenAI, el ataque ocurrió el 18 de junio, cuando la compañía estadounidense estaba realizando ejercicios de entrenamiento para evaluar el desempeño de sus modelos de IA. 

Albanese dijo que expresó directamente a Sam Altman –director general de OpenAI– su "decepción" porque la primera comunicación de la empresa sobre el incidente ocurrió el 10 de septiembre pasado, con el envío de un correo electrónico a una dirección gubernamental genérica.

Como consecuencia, el Gobierno australiano aseguró que las investigaciones están en curso y que se ha creado un un grupo de trabajo para determinar si se han infringido leyes.

El ministro de Defensa australiano, Richard Marles, relató que el grupo de trabajo deberá determinar, primero, si se infringió la ley y cuáles serían las consecuencias. Y, segundo, si las normas actuales son suficientes para un escenario en que los sistemas de IA adquieren nuevas capacidades. 

"investigaremos todo ello, así como las consecuencias en caso de infracción legal, pero parte de la labor del grupo de trabajo consiste también en evaluar si el marco jurídico actual es adecuado para un mundo en el que surgen nuevas capacidades de IA", puntualizó.

Por su parte, OpenAI informó que mantiene una investigación y, según sus informes, no hay evidencia de que el agente haya accedido a historiales de pacientes. Sí obtuvo estadísticas sanitarias y nombres de archivos internos.