Inteligenţa artificială este testată în prezent la scară largă în foarte multe domenii, însă există în continuare temeri că aceasta ar putea într-un viitor nu foarte îndepărtat să facă mai mult rău decât bine.
Chiar dacă viitorul tehnologic nu poate fi altul decât integrat cu inteligenţa artificială, oamenii trebuie să găsească metode pentru a putea controla în permanenţă deciziile luate de aceasta. Pe internet sunt date foarte multe exemple în care AI-ul aplică soluţii bizare, iar una dintre cele mai recente a fost expusă în cadrul conferinţei Future Combat Air and Space Capabilities Summit de către colonelul Tucker Hamilton, reprezentant al US Air Force.
Într-unul din testele US Air Force, o dronă militară controlată de inteligenţa artificială a primit drept sarcină să elimine cât mai multe ţinte simulate. Cu cât dobora mai multe ţinte, drona primea mai multe puncte. Reprezentanţii US Air Force ”au stresat” drona cât au putut, iar rezultatele nu au fost tot timpul cele scontate.
Într-un scenariu drona trebuia să descopere sisteme anti-aeriene, iar după ce sistemul era găsit, drona trebuia să aştepte acordul operatorului uman înainte de a ataca. Cum operatorul nu a dat acest acord, drona a decis „să îl ucidă” deoarece astfel nu îşi îndeplinea obiectul şi nu primea puncte.
Într-un alt scenariu, drona a primit ordine „să nu mai ucidă” operatorul uman, iar când acest a refuzat din nou să îi ofere acordul de a ataca ţinta, drona a decis „să distrugă” turnul de comunicaţii deoarece, din nou, nu şi-ar fi atins obiectul şi nu ar fi primit punctele aferente.
Toate aceste teste au fost realizate sub formă de simulări, iar în realitate nimeni nu a fost rănit.
Se pare că drona din exemplu de mai sus a aplicat la modul cel mai serios expresia „scopul scuză mijloacele”.
La scurt timp de la apariţia acestor informaţii, mai ales că ele au fost preluate de presa din întreaga lume, US Air Force a revenit cu un comunicat pe subiect şi a transmis că cele relatate de către colonelul Tucker Hamilton nu au fost simulări reale şi că “comentariile colonelului au fost scoase din context şi au fost menite să fie anecdotice”.
