Harari: Neće roboti oružjem kontrolirati svijet. Prijete nam algoritmi i 'Silicijska zavjesa'

Ako smo toliko pametni, zašto smo toliko glupi? Tu antitezu je Yuval Noah Harari označio kao fokalnu točku i glavno pitanje na koje nastoji odgovoriti njegovo najnovije literarno ostvarenje, Neksus: ‘Kratka povijest informacijskih mreža od kamenog doba do umjetne inteligencije'. Knjiga se prvenstveno bavi komunikacijom i umjetnom inteligencijom te kako bi ona mogla formirati ili iz naftalina vratit grozomorne političke sustave. Neksus nudi povijesni pregled ljudske komunikacije od glinene pločice o isporuci žitarica u Uruku iz 3200. godine pr. Kr. do (barem po njemu) polaganog nestanka direktne komunikacije i stvaranja brojnih eho komora kojima caruju algoritmi koji ne jedu, ne spavaju i ne idu na godišnji odmor. Hararijeva inklinacija prema distopiji i katastrofičnosti je već dobro poznata, ali autor ipak spušta loptu na zemlju: ova knjiga je dokaz da još ništa nije izgubljeno i da sve još uvijek držimo u svojim rukama. Ukratko, Hararijeva teza glasi da se razlika između demokracija i diktatura krije u načinu na koji one upravljaju informacijama.

Diktature se više brinu o kontroli podataka nego o provjeri njihove istinitosti; demokracije, s druge strane, su transparentne mreže informacija u kojima građani mogu procijeniti i, ako treba, ispraviti pogrešne podatke. U knjizi ne iznosi predskazanje robota koji patroliraju ulicama i održavaju oktroirani kafkijanski poredak pod budnim okom velikog brata, ne to je rezervirano za bestsellere i filmska platna. Harari svijet u kojem vlada umjetna inteligencija vidi u alegoriji o Platonovoj špilji. Informacija je nova valuta moći, tehnologija, a posebno AI,  može oblikovati i manipulirati našom percepcijom. Tada ljudi polako počnu živjeti u digitalnim špiljama, okruženi algoritamski odabranim informacijama (npr. kroz personalizirane feedove). AI algoritmi (na društvenim mrežama) stvaraju „sjene stvarnosti”, filtriranu, iskrivljenu sliku svijeta prema našim prijašnjim klikovima, emocijama i uvjerenjima. Ljudi više ne gledaju svijet izravno, već kroz ekrane, preporuke i algoritamske obrasce, kao da sjede okrenuti zidu špilje.

Zagreb: Konferencija za medije povodom dolaska jednog od najutjecajnijih svjetskih mislilaca današnjice, Yuvala Noaha Hararija | Foto: Marko Prpic/PIXSELL

 
Harari ističe da su se u doba tiskarskih strojeva informacije selektivno dijelile putem novina, radija i televizije. Danas su računala, uz pomoć umjetne inteligencije, sposobna širiti informacije bez ljudske intervencije. Iako takav razvoj donosi određene prednosti, on također predstavlja značajne izazove. Naglašava da, iako ljudski nadzor može dovesti do brojnih pogrešaka, tu je ulogu uvelike preuzelo računalo, čime se smanjuje mogućnost grešaka. Ako se nadzor koristi u zdravstvu, primjerice, računala mogu točno i pravovremeno pratiti bolesti. Međutim, isti nadzor vođen umjetnom inteligencijom može postati sredstvo represije u autoritarnim režimima. Harari naglašava kako vizija demokracije omogućuje ljudima da međusobno vode dijalog. Što su pojedinci svjesniji i informiraniji, to demokracija više napreduje. Povijesno gledano, države su obuhvaćale manja područja, što je olakšavalo razmjenu informacija među ljudima koji su se lakše dogovarali oko brojnih pitanja. Međutim, širenjem teritorija povećavala se i udaljenost među populacijama. Tehnološki napredci, poput tiskarskog stroja, radija i televizije, s vremenom su omogućili razvoj demokratskog procesa na širem planu. U današnjem svijetu, umjetna inteligencija ima sličnu ulogu. S masovnim medijima, ona doprinosi razvoju političke svijesti i podiže razinu informiranosti među građanima. No, tom umjetnom inteligencijom i masovnim medijima mogu manipulirati vođe za širenje negativne propagande, lažnih informacija.

Simptomatično je kako kakofoniju informacija koja nesumnjivo vlada u bespućima interneta, algoritmi često nadvladaju uz pomoć eho komora u kojima se nađu ljudi koji ne traže istinu nego potvrdu već formiranog mišljenja. Harari koristi primjer etničkog čišćenja i zvjerstava nad muslimanskim Rohindžama u Mjanmaru 2017. kao eklatantan primjer koliko algoritmi mogu biti opasni. Naime, Meta koristi algoritamske sustave temeljene na angažmanu kako bi pokretala Facebookov news feed, rangiranje, preporuke i značajke grupa, oblikujući ono što se vidi na platformi. Meta ostvaruje profit kad korisnici Facebooka ostaju na platformi što duže. Prikazivanje zapaljivog sadržaja, uključujući onaj koji zagovara mržnju, poticanje na nasilje, neprijateljstvo i diskriminaciju, učinkovit je način da se ljudi zadrže na platformi dulje. U mjesecima i godinama prije represije, Facebook u Mjanmaru postao je svojevrsni 'echo chamber' u kojem su se denuncirali i dehumanizirali pripadnici muslimanske manjine Rohindže. Akteri povezani s vojskom Mjanmara i radikalnim budističkim nacionalističkim skupinama preplavili su platformu anti-muslimanskim sadržajem, objavljujući dezinformacije da će doći do zamjene stanovništva i da će muslimani preuzeti budističku većinu u zemlji. U jednoj objavi koja je podijeljena preko 1000 puta, muslimanski borac za ljudska prava prikazan je i opisan kao "nacionalni izdajnik". Komentari na objavu uključivali su prijeteće i rasističke poruke, uključujući: „On je Musliman. Muslimani su psi i treba ih ubiti“, i „Nemojte ga ostaviti živog. Uklonite cijelu njegovu rasu. Vrijeme ističe.“ Sadržaj koji potiče na nasilje i diskriminaciju dopirao je do samog vrha vojne i civilne vlasti Mjanmara. Visoki general Min Aung Hlaing, vođa vojske Mjanmara, objavio je na svojoj Facebook stranici 2017. godine: „Javno izjavljujemo da naša zemlja apsolutno nema rasu Rohindža. Epilog ove izmanipulirane i paranoične kampanje? Tisuće Rohindža su ubijene, žene silovane, a 700.000 muslimana prebjeglo je u okolne zemlje, najviše u Bangladeš. Tako je došlo do stradanja stotina tisuća ljudi samo zato da bi tehnološki div uz pomoć algoritama koji ne posjeduju empatiju, zadržao što više korisnika na svojoj društvenoj mreži. Harari naglašava da Zuckerberg i ostali nisu htjeli etničko čišćenje niti su vrlo vjerojatno znali što se događalo u Mjanmaru, ali su ‘dali’ naputke algoritmu da poveća korištenje Facebooka.

Zagreb: Yuval Harari, autor knjige Sapiens, nova povijest ?ovje?anstva | Foto: Davor Visnjic/PIXSELL

 - Algoritmi su eksperimentirali na milijunima ljudskih pokusnih kunića i otkrili su da, ako pritisnete gumb mržnje i gumb straha u ljudskom umu, zadržavate tu osobu prikovanu za ekran. Zato su namjerno počeli širiti teorije zavjere pune mržnje, a ne lekcije kuhanja. To je licemjerje tehnoloških divova: 'Nemojte cenzurirati korisnike jer je sloboda govora važna.' Ali, ako vaši algoritmi namjerno šire mržnju i strah, jer je to vaš poslovni model, onda ste vi odgovorni - upozorio je Harari. Često naglašava ulogu algoritama kao urednika novina koji biraju koja će se vijest objaviti, a koja ne. Drugim riječima, nije za posljedice neke informacije kriv njen tvorac, nego algoritam koji igra ulogu gatekeepera. Problem je u tome što će urednik ako je čestit selektirati vijesti na temelju ćudoređa, a algoritam na temelju profita. Kako bi minuciozno oslikao moć koju algoritmi posjeduju kao ‘gatekeeperi’ prisjetio je na crkvene sabore u Hiponu (393.) i Kartagi (397.). Na tim saborima,  kršćanski biskupi donijeli su važne odluke o kanonu Svetog pisma, tj. o tome koje se knjige smatraju nadahnutima i službenim dijelom Biblije. Drugim riječima, na tim saborima je stvorena Biblija kakvu znamo. Harari tvrdi da 2000 godine kasnije milijarde kršćana čitaju Bibliju koja predstavlja aksiom i stub vjere iako ju u današnjem obliku nije stvorila božja providnost, nego skupina svećenika koji su birali koji tekstovi će ući u svetu knjigu, a koji ne.

YUVAL NOAH HARARI Budućnost neće biti diktatura ljudi nad ljudima već diktatura podataka nad svima nama...

 - To je bio odbor koji je odlučivao koji će tekstovi ući u Bibliju. Oni su odlučili da tekst koji tvrdi da ga je napisao sveti Pavao, ali mnogi suvremeni stručnjaci vjeruju da zapravo nije napisao sveti Pavao, prva poslanica Timoteju, koja je vrlo mizogini tekst i koja u osnovi kaže da je uloga žena biti tihe i rađati djecu, bude uključena. Dok su, s druge strane, isključili Djela Pavla i Tekle, koja prikazuju Teklu kao učenicu svetog Pavla koja propovijeda, vodi kršćansku zajednicu i čini čuda - objašnjava Harari kako se 2000 godina među milijardama kršćana stvorila slika uloge žena u Crkvi i ponovno dodaje da rezultat nije na tvorcima poslanica, nego na svećenicima koji su birali što će ući u Bibliju, a što ne. U završnom poglavlju Harari koristi pojam 'Silicijska zavjesa', jasno aludirajući na željeznu zavjesu. Tvrdi da ta zavjesa dijeli svijet na digitalno napredne i digitalno zaostale države. Brzi razvoj umjetne inteligencije stvorio je globalni raskol u kojem države s većim tehnološkim i digitalnim kapacitetima postaju moćnije čak i od onih s jakim vojnim snagama. Harari predviđa dva moguća scenarija: ako neka država postane globalno digitalno carstvo i zavlada svijetom, to bi moglo potaknuti veću integraciju i sklad putem suradničkih informacijskih sustava. No, takva dominacija također bi mogla produbiti podjele u svijetu. Mogu se pojaviti novi oblici geopolitičkih sukoba, poput tehnološkog rata između SAD-a i Kine, a globalne nejednakosti u prihodima mogle bi se dodatno produbiti. Ova tehnološka podjela mogla bi imati ozbiljne posljedice, pa čak i dovesti do Trećeg svjetskog rata, iako neki tvrde da Treći svjetski rat već traje, kao što je tvrdio pokojni papa Franjo.

Yuval Noah Harari gostuje u KD Vatroslav Lisinski u Zagrebu 23. listopada 2025. Ulaznice možete kupiti OVDJE.