'Stvaramo tehnologije koje bi mogle izmaći našoj kontroli, pa čak i porobiti ili uništiti nas...'

Dok se Izrael i dalje suočava s brojnim izazovima, svjetski poznati povjesničar i autor Yuval Noah Harari objavio je novu knjigu koja otvara dodatnu zabrinutost – ovaj put o budućnosti čovječanstva u eri umjetne inteligencije. Riječ je o djelu Nexus: A Brief History of Information Networks from the Stone Age to AI, u kojem Harari razmatra razvoj informacijskih mreža kroz povijest, s posebnim fokusom na njihovu ulogu u digitalnom dobu. No ono što ovu knjigu čini uznemirujućom jest njezina temeljna poruka: svijet je na rubu egzistencijalne krize.

Harari upozorava kako su, nakon stotinu tisuća godina otkrića, čovjekove sposobnosti dovele do opasne točke: "Nalazimo se na pragu ekološkog kolapsa… stvaramo tehnologije koje bi mogle izmaći našoj kontroli, pa čak i porobiti ili uništiti nas. Umjesto da se ujedinimo kako bismo se suočili s tim izazovima, globalna suradnja postaje sve teža, a nova svjetska ratna prijetnja nije nezamisliva."

Informacija, tvrdi Harari, sama po sebi nije opasna. U povijesti su informacijske mreže bile i korisne. Problem je, kaže, u tome što postavljamo pogrešna pitanja. "Danas imamo više informacija i moći nego ljudi u kamenom dobu, ali nije sigurno da bolje razumijemo sebe ili svoje mjesto u svemiru."

U knjizi Harari razlaže kako su ljudi tisućljećima gradili mreže na temeljima fikcija, fantazija i iluzija – od religijskih uvjerenja do ideologija poput nacizma i staljinizma. I upravo zbog te sposobnosti širenja moćnih ideja, upozorava autor, ljudski um je ranjiv na nove oblike kontrole koje omogućava umjetna inteligencija.

Harari tako ističe da AI ima potencijal “supernapuniti” postojeće ljudske sukobe i još više nas podijeliti. "Možda ćemo se naći zarobljeni u mreži algoritama koji upravljaju našim životima, reprogramiraju naša tijela i umove. Ako totalitarna mreža 21. stoljeća uspije osvojiti svijet, moguće je da njome neće upravljati ljudi, već ne-ljudska inteligencija."

Autor upozorava da su svi ljudi – bez obzira na naciju ili politički sustav – ugroženi potencijalom takve inteligencije. Povlači i paralelu s poznatom "Željeznom zavjesom" iz Hladnog rata, uvodeći novi pojam: Silicijska zavjesa – ona koja dijeli nacije koje posjeduju naprednu AI tehnologiju od onih koje zaostaju. "Silicijski čipovi mogu stvoriti špijune koji nikad ne spavaju, bankare koji ništa ne zaboravljaju i despote koji nikada ne umiru. Kako će to promijeniti društvo, ekonomiju i politiku?"

Kritičari su posebno istaknuli Hararijevu tvrdnju da je ključna razlika između demokracija i diktatura u pristupu informacijama. Diktature žele kontrolirati informacije, dok demokracije – otvorene i transparentne – omogućuju građanima da prepoznaju i isprave pogrešne podatke.

Harari je postao svjetski poznat knjigom Sapiens: A Brief History of Humankind iz 2011., koja je prodana u više od 25 milijuna primjeraka. Sljedeće djelo Homo Deus bavilo se budućnošću čovječanstva – i već tada donijelo tmurnu viziju.

Već godinama Harari upozorava na opasnosti umjetne inteligencije. Na skupu Frontiers Forum izjavio je da novi AI alati sve više koriste jezik za razvijanje dubokih, gotovo intimnih odnosa s ljudima. "Tehnologija odvaja inteligenciju od svijesti – stvarajući mreže koje poznaju naše osjećaje bolje nego mi sami."

U knjizi navodi: "Sve AI sposobnosti svode se na jednu ključnu stvar – sposobnost generiranja i manipuliranja jezikom. A tko vlada jezikom, vlada svime: bankama, institucijama, religijama. Jezik je ključ koji otvara sva vrata."

Na kraju, Harari postavlja jedno veliko, bolno pitanje: "Zašto smo toliko uspješni u akumulaciji informacija i moći, a tako loši u stjecanju mudrosti?" Njegov zaključak je jasan – nije AI tehnologija ta koja je problem, već ljudi koji je žele iskoristiti za vlastitu korist, bez ikakve odgovornosti ili vizije.

Kao što autor zaključuje, “Mi Sapiensi možda nismo toliko mudri koliko mislimo da jesmo.”

Yuval Noah Harari gostovat će u Zagrebu 23. listopada 2025. u Koncertnoj dvorani Vatroslav Lisinski.