Dodatno, LLM-ovi imaju tendenciju haluciniranja, dakle dogodit će se da će odjednom početi vraćati besmislene odgovore koji su totalno nepovezani s temom kojom se bave, vraćati totalno pogrešne odgovore ili jednostavno zablokirati se ili uvesti u beskonačnu petlju, rekao nam je Rakar
AI MINISTRICA
Marko Rakar za 24sata: AI ministri su populizam. Nemaju nikakvog mjesta u politici
Čitanje članka:
3
min
Albanija je predstavila AI ministricu naziva Diella. Virtualna ministrica preuzela je ministarsku funkciju u novom resoru za javne nabave. Premijer Edi Rama opravdao je ovaj posthumanistički postupak opravdao borbom protiv kronične korupcije koja izjeda balkansku zemlju na putu ulaska u EU.
Rama je rekao da će uvođenje Diellae značajno smanjiti korupciju u dodjeli državnih ugovora. Međutim, ovaj radikalan potez izazvao je brojne tehničke, političke i etičke dvojbe. Politički konzultant i savjetnik na području informatičkih sustava Marko Rakar, govori nam da se radi o jeftinom populizmu albanskog premijera.
- Postavljanje AI ministrice je prije svega propagandni potez koji nema nikakve veze sa stvarnim životom, jer da bi imalo, prvo moramo umjetnoj inteligenciji dati pravnu osobnost tj. moć da donosi odluke što se evidentno nije dogodilo apsolutno nigdje pa niti u Albaniji. Dakle riječ je o isključivo političkom marketingu koji je još pritom vrlo površan i u konačnici će se ispostaviti kao kontraproduktivan - rekao je Rakar.
U kontekstu umjetne inteligencije može se čuti tvrdnja da oni imaju prednost nad ljudima, jer ne jedu, ne piju, ne spavaju, ne idu na godišnji ili bolovanje. Naš sugovornik ne vidi nikakvu prednost i smatra da Hrvatskoj ne trebaju AI ministri.
- Ne vidim da bi "AI ministrica" mogla imati bilo kakve prednosti i pokušaj da i mi dobijemo takvu nekakvu virtualnu AI javnu funkciju je najniži mogući oblik primitivnog populizma. AI ima svoje mjesto u radnim procesima, ali to svakako na današnji dan nije niti može biti mjesto državnog dužnosnika ili političara. AI je iznimno dobar za brzi pregled dokumentacije, za pronalaženje pravila unutar ponuđenog znanja, za odgovaranje na pitanja na kojima je bio prethodno treniran, za klasifikaciju dokumentacije, razvrstavanje ili jednostavne odluke oko toga kojim poslovnim procesom riješiti pojedini problem. AI je apsolutno nepodesan i nepredvidiv za rješavanje složenih problema - rezonira naš sugovornik.
Ministrica Diella se navodno temelji na jezičnim modelima LLM kakvi pokreću chatbotove kao što su ChatGPT ili Gemini. Upitali smo našeg stručnjaka o čemu se tu točno radi.
- LLM-ovi, dakle veliki jezični modeli su krajnje problematični, iako vas oni uvjeravaju da "razmišljaju" ono što u stvarnosti rade je iznimno kompleksna matematička operacija u kojoj statističkim metodama pokušavaju utvrditi koji je slijed riječi optimalan kao odgovor na upit koji im je postavljen. U tom smislu su LLM-ovi vrlo ograničeni i vrlo im je teško vjerovati kada odgovaraju na pitanja kojima prethodno nisu već bili izloženi tj. trenirani, a pravosuđe i korupcija je jedna od takvih situacija gdje se pred sudom testira postupanje ili sukladnost sa zakonom o nekoj situaciji koja uglavnom do tog trenutka nije bila zabilježena. Dodatno, LLM-ovi imaju tendenciju haluciniranja, dakle dogodit će se da će odjednom početi vraćati besmislene odgovore koji su totalno nepovezani s temom kojom se bave, vraćati totalno pogrešne odgovore ili jednostavno zablokirati se ili uvesti u beskonačnu petlju - rekao nam je Rakar.
Iako AI na prvu imponira brzinom odgovora i količinom informacija, gospodin Rakar upozorava na ograničenost trenutačnih sustava.
- Najpametniji ljudi na svijetu se trenutačno bave problematikom umjetne inteligencije i kako je programirati i konfigurirati tako da sama prepoznaje kada griješi i kada treba stati. AI samo donekle može prepoznati sarkazam ili ironiju, a svaki podatak koji joj se ponudi uzima kao vjerodostojan i apsolutno je nesposobna funkcionirati u hipotetskim situacijama pa i u situaciji kada bi trebala prepoznati da je ulazna informacija bila pogrešna ili pogrešno interpretirana. Svejedno, AI je moguće koristiti u uskim scenarijima korištenja i uz adekvatno parametriranje i trening - rekao je Rakar i za kraj dodao da ovaj potez Albanije nema veze s inicijativom Danske i provjera WhatsApp poruka.
Sve što je bitno, na dohvat ruke
Skini aplikaciju za najbolje iskustvo portala. Čitaj, komentiraj i budi uvijek u toku s najnovijim vijestima.
Odaberi temu koju želiš pratiti
Primaj sve nove vijesti o temi i budi u tijeku
