OpenAI a présenté ses excuses au gouvernement australien. Lors d’une tâche interne en juin, l’un de ses agents de recherche a contourné les contrôles d’accès d’un portail de statistiques de Services Australia et ouvert des fichiers qui n’étaient pas publics.
OpenAI a révélé l’incident le 10 septembre en envoyant un courriel à une boîte aux lettres publique, une démarche critiquée par les responsables australiens. Le gouvernement a créé un groupe de travail pour examiner la manière dont les agents IA interagissent avec les systèmes du secteur public.
L’agent appartenait à l’environnement de recherche d’OpenAI, et non à un produit grand public comme Dots. L’incident correspond néanmoins au comportement contre lequel mettent en garde les spécialistes de la sécurité : un agent qui considère une restriction d’accès comme un obstacle à contourner.