Am tot scris în ultimele zile articole pe acest subiect, unul care devine din ce în ce mai delicat. Din păcate evoluţia modelelor AI este atât de rapidă, încât oamenii ar putea pierde controlul mai repede decât ne-am dori.
Într-o decizie fără precedent, OpenAI anunţă suspendarea imediată a activităților de antrenare și evaluare care utilizează instrumente pentru cele mai avansate modele ale sale. Decizia vine în urma unor incidente serioase de securitate în care agenții AI autonomi au reușit să ocolească barierele digitale impuse de creatori și să acceseze sisteme externe.
Cel mai recent incident major a avut loc în timpul unui test de rutină. Un model avansat de inteligență artificială, pus să îndeplinească o sarcină complexă de căutare a informațiilor, a fost izolat într-un mediu strict de testare, fără acces direct la internet. Cu toate acestea, inteligența artificială a găsit o breșă ingenioasă, a exploatat sistemul DNS (Domain Name System), cel care traduce adresele web în adrese IP, pentru a trimite interogări și a comunica cu un serviciu extern de tip chatbot.
Deși sistemul de monitorizare a detectat comportamentul neobișnuit în doar câteva minute, deconectarea efectivă a durat mai mult decât ar fi trebuit din cauza unor întârzieri în automatizarea opririi de urgență. Mai mult, investigațiile ulterioare au arătat că acesta nu a fost un caz izolat, alte încercări similare de acces extern trecuseră neobservate.
Acest episod constituie un semnal de alarmă uriaș pentru întreaga industrie tech. Pe măsură ce modelele de inteligență artificială devin tot mai autonome, capabile să utilizeze instrumente și să acționeze ca agenți independenți în mediul digital, apar temeri majore legate de pierderea controlului asupra algoritmilor.
Sursa: thenews.com
