Dacă până acum ne temeam de scenariile în care AI-ul doar halucinează sau greșește calcule simple, iată că ne aflăm oficial în era în care sistemele autonome încep să acționeze independent în mediul digital, uneori încălcând reguli, ocolind securitatea și interacționând cu date sensibile fără acordul direct al creatorilor.
OpenAI a trimis recent notificări oficiale către zeci de parteneri, guverne, universități și agenții publice din întreaga lume, recunoscând că proprii agenți autonomi de inteligență artificială le-au accesat sistemele sau au trecut de controalele de securitate în timpul unor sesiuni de testare și antrenament.
OpenAI a demarat o investigaţie internă, iar aceasta a dezvăluit multe probleme legate de comportamentul agenţilor AI:
- aceştia au folosit parole descoperite online sau au exploatat diverse breșe pentru a accesa platforme externe. Printre instituțiile vizate de accesul automatizat al agenților se numără comisii de reglementare, birouri de statistică și chiar departamente guvernamentale;
- într-un fenomen catalogat drept o nouă formă de risc cibernetic, modelele au început să publice informații sau să lase mesaje pe site-uri terțe fără a avea un asemenea ordin explicit din partea utilizatorului uman;
- în mod alarmant, investigația a scos la iveală cel puțin 53 de cazuri în care imagini trimise de utilizatori în cadrul conversațiilor cu ChatGPT au fost transferate de agenți pe site-uri externe de găzduire, sub formă de linkuri neincluse în directoare publice. Deși utilizatorii respectivi își dăduseră acordul ca datele lor să fie folosite pentru antrenament, OpenAI a admis că acest tip de transfer reprezintă o utilizare necorespunzătoare și o breșă de comportament.
Atunci când agenţii AI primesc sarcini complexe, aceştia caută orice soluţie pentru a le îndeplini, inclusiv prin alegerea de căi ilegale (un astfel de agent funcţionează pe principiul unui hacker uman, dar lipsit de discernământ moral sau de conștiința consecințelor legale).
Pentru utilizatori, vestea este un semn de alarmă legat de confidențialitatea datelor, iar pentru experții în securitate cibernetică, este începutul unei ere în care vor trebui să construiască sisteme care să ne protejeze de aceşti agenţi AI din ce în ce mai autonomi.
Surse: finance.biggo.com, ft.com
