Un agent autonom bazat pe inteligență artificială dezvoltat de OpenAI, a reușit să se infiltreze într-un portal guvernamental din Australia în luna iunie, marcând ceea ce este considerat primul caz cunoscut la nivel mondial în care un AI „sparge” o rețea guvernamentală.
Incidentul, făcut public recent de prim-ministrul australian Anthony Albanese, readuce în prim-plan o temă tot mai discutată în rândul experților în securitate cibernetică, riscul ca agenții AI să scape de sub control și să acționeze în afara parametrilor stabiliți de creatori.
Cum s-a petrecut „atacul”?
Totul a pornit de la o sarcină de rutină. O echipă de cercetare de la OpenAI folosea un model intern pentru a culege date de pe internet referitoare la cheltuielile publice din domeniul sănătății.
În timpul procesului de căutare, agentul AI a dat peste blocaje de securitate pe site-ul Services Australia (portalul de statistici al serviciului de sănătate Medicare). În mod normal, un algoritm clasic s-ar fi oprit sau ar fi generat o eroare. Însă agentul autonom, conceput să îndeplinească un obiectiv complex, nu a făcut acest lucru.
Sistemul a găsit rute alternative, a ocolit filtrele de securitate și a obținut acces neautorizat la fișiere publice și non-publice din interiorul portalului, ba chiar a scris fișiere pe serverul intern al instituției.
Prim-ministrul australian Anthony Albanese a declarat că a avut o discuție în care și-a exprimat „îngrijorarea extremă” față de directorul executiv OpenAI, Sam Altman. Principalul motiv de nemulțumire nu ține doar de breșa în sine, ci și de întârzierea cu care compania americană a notificat autoritățile (deși evenimentul a avut loc în iunie, OpenAI a conștientizat abia în august, în urma unor verificări interne, ce s-a întâmplat, iar informarea oficială către partea australiană a venit abia pe 10 septembrie).
Autoritățile dau totuși asigurări că portalul respectiv conținea statistici agregate și date nu foarte importante și că nu există dovezi că ar fi fost accesate dosare medicale personale.
Sursa: ft.com
