Nu ştiu ce se întâmplă, dar creşte numărul celor care prevăd un viitor sumbru în ceea ce priveşte raportul dintre omenire şi evoluţia inteligenţei artificiale.
Jacob Coxon, fost angajat OpenAI şi Anthropic, a scris recent pe contul său de X că cele două companii „aleargă direct spre o superinteligență capabilă să se îmbunătățească singură și pariază cu viețile noastre”.
Acesta vine cu informaţii din interior şi susţine că foarte mulţi dintre foştii săi colegi se gândesc din ce în ce mai des la scenarii apocaliptice, în contextul în care aceştia văd evoluţia din prezent şi pot estima mult mai bine cam ce ar putea face un AI extrem de dezvoltat.
Jacob Coxon spune clar că „cei care dezvoltă inteligența artificială cred cu tărie că aceasta ne-ar putea distruge pe toți până la sfârșitul deceniului. Nu este vorba despre o strategie de marketing. Dimpotrivă, mulți directori și cercetători de top își aleg cu grijă cuvintele în declarațiile publice pentru a părea rezonabili, însă, în privat, îi aud exprimându-și temerile. Nicio altă activitate umană nu prezintă un asemenea nivel de pericol.”
Interesant este că Evan Hubinger, actual angajat Anthropic, este de acord cu această teorie, ba mai mult, acesta chiar susţine ca estimare personală că există o probabilitate de peste 10% ca AI-ul să provoace o catastrofă umanităţii în următorul deceniu.
Nu uitaţi că într-un articol de acum câteva zile vă spuneam că David Krueger, profesor de machine learning la Universitatea din Montreal, ne avertizează şi ne transmite că în maxim 10 ani aceste sisteme AI vor prinde viaţă, se vor reproduce, se vor perfecţiona şi nu le vom mai putea opri.
Iar pentru cei care nu ştiu, în 2024 OpenAI şi-a desfiinţat divizia dedicată riscurilor AI pe termen lung, în timp ce Anthropic recunoaşte cât de serioasă este problema, caută soluţii, dar până în acest moment nimeni nu ştie cum ar putea fi controlată o superinteligenţă AI.
