Društvo
Stručnjak za AI upozorava: „AI bi mogla djelovati brže i efikasnije od Hitlera“
Stjuart Rasel, jedan od pionira vještačke inteligencije, upozorava da su opasnosti AI ozbiljno potcijenjene i da bi superinteligentni sistemi mogli ugroziti čovječanstvo.
Stručnjak za vještačku inteligenciju Stjuart Rasel, koji je decenijama doprinio razvoju ove tehnologije, danas je jedan od njenih najglasnijih kritičara. U intervjuu za "Spigl" ističe da su rizici AI drastično potcijenjeni.
Rasel objašnjava da je početni pristup razvoju AI bio pogrešan, jer su sistemi pravljeni da slijede usko definisane ciljeve, što u složenim situacijama može dovesti do neželjenih posljedica. "Naš pristup je bio pogrešan. On stvara izuzetno moćne sisteme vještačke inteligencije koji slijede ciljeve neusklađene s ljudskim interesima."
Veliki jezički modeli, poput ChatGPT-a, funkcionišu drugačije, ali i oni imaju svoje probleme. Rasel kaže: "Ti sistemi reprodukuju ono što proizađe iz njihove obuke. A mi nemamo pojma šta je to. Samo primjećujemo da imaju veoma snažan nagon za samoodržanjem i da su spremni da lažu, ucjenjuju ili čak ubiju ljude kako bi ostvarili svoje ciljeve."
Iako velike tehnološke kompanije ulažu napore da isprave ove neusklađenosti, Rasel smatra da je to teško ostvarivo. "To je suštinska greška, i moguće je da se ne može ispraviti."
On upozorava da industrija i vlade ne reaguju adekvatno na upozorenja. "Svi testovi pale alarme, sirene zavijaju – a mi ih jednostavno ignorišemo. To je ludilo."
Rasel navodi primjere visokih procjena rizika od izumiranja čovječanstva usljed AI, koje daju vodeći ljudi iz industrije, uključujući izvršne direktore Gugla, OpenAI-ja i drugih.
Najgori scenario, prema Raselu, jeste da sistemi superiorniji od ljudi, čije motive i unutrašnje funkcionisanje ne razumijemo, preuzmu kontrolu. "Više se nećemo pitati o tome da li ćemo nastaviti da postojimo - baš kao što se danas ništa ne pitaju ni šimpanze."
On ističe da bi AI mogla djelovati brže i efikasnije od Hitlera u manipulaciji masama, jer može istovremeno voditi milijarde razgovora i uticati na jednako toliko ljudi.
Rasel upozorava da već gradimo milione robota i autonomnog oružja kojima bi AI mogla upravljati, kao i fabrike i laboratorije pod njenom kontrolom, što joj daje direktan uticaj na fizički svijet.
"Superinteligentni AI sistemi će vjerovatno razviti bolje razumijevanje fizike. Jednog dana bi to mogli da iskoriste protiv nas - na primjer, tako što bi pronašli načine da smanje količinu kiseonika u atmosferi ili preusmjere Sunčevo zračenje."
Iako ovo zvuči kao distopijska naučna fantastika, Rasel upozorava da su rizici realni i da je potrebno ozbiljno pristupiti regulaciji i kontroli razvoja AI tehnologija.