U sjeni euforije oko filma Svadba, kroz naša kina gotovo neprimjetno prolazi (ako već nije prošao) film Mercy, pod hrvatskim naslovom Bez milosti, u režiji Timura Bekmambetova, s Rebeccom Ferguson i Chrisom Prattom u glavnim ulogama. U tom filmu sudnica postaje laboratorij budućnosti: prostor u kojem presuda više nije rezultat ljudske procjene, nego algoritamskog izračuna. Radnja prati policajca s poviješću alkoholizma, optuženog za ubojstvo vlastite supruge u alkoholiziranom stanju, te prikazuje svijet u kojem je kazneni sustav preoblikovan centraliziranim AI mehanizmima. Algoritam procjenjuje moralni rizik, određuje stupanj odgovornosti i preporučuje kaznu — sve bez nadzornog utjecaja ljudskog faktora. Dok sama ideja razotkriva nemoć suvremenih društava u kontroli porasta kriminala, cijeli proces AI-suda nastoji djelovati brzo, precizno i „objektivno“. No upravo se u toj „objektivnosti“ otvara prostor za duboku nelagodu.
Vrijednost filma nije samo u njegovoj fabuli i izvedbi, nego i u onome što nenametljivo razotkriva: u ideji da zakonska pravednost modernih društava polako dobiva novi temelj – računski, prediktivan i sustavno optimiziran. Posljednjih godina države širom svijeta već eksperimentiraju s automatizacijom pravosuđa: od algoritama za analizu rizika, do modela koji sugeriraju kazne ili rangiraju prijetnje. Zato Bez milosti ne djeluje kao fikcija, nego kao simptom procesa koji je već započeo.
Algoritam pravednosti: obećanje objektivnosti
Države uvode AI u pravosuđe iz jednog temeljnog razloga: vjeruju da će računalni modeli donijeti veću efikasnost, brzinu i ujednačenost presuda. Moderni pravosudni sustavi diljem svijeta suočavaju se s istim izazovima – zaostacima u predmetima, različitim standardima procjene, političkim pritiscima i subjektivnim razlikama među sucima. U takvom kontekstu algoritamska pravednost pojavljuje se kao privlačno obećanje „objektivnosti“: eliminirati varijabilnost i stvoriti sustav koji donosi navodno „neutralne“ odluke.
No taj narativ ima i svoju političku funkciju. U retorici reforme, algoritam se predstavlja kao neutralni akter, kao mehanizam koji „osigurava pravednost“ time što ne osjeća i ne sudi na temelju simpatija ili predrasuda. Time se stvara privid da je objektivna pravednost konačno postignuta kroz tehnologiju. U stvarnosti, međutim, algoritam postaje samo nova birokracija: kompleksan, netransparentan i teško nadziran sustav koji zamjenjuje staru ljudsku neujednačenost novom tehno-administrativnom logikom.
Film Bez milosti upravo tu napetost postavlja u prvi plan. Algoritam djeluje kao savršeni administrator podataka – dosljedan, brz, neumoran. No ta „dosljednost“ zapravo je ograničenje: on može obrađivati informacije, ali ne može razlikovati pouzdan podatak od manipuliranog, niti razumjeti moralnu težinu situacije u kojoj se pojedinac nalazi. Privlačno obećanje objektivnosti stoga skriva opasnu zamjenu: umjesto pravednosti dobivamo predvidljivost, a umjesto moralnog prosuđivanja – administrativni izračun koji slijedi logiku statističkog obrasca i linearnosti.
Granice linearne pravde
Računska točnost i pravednost nisu isto, iako se u algoritamskim reformama često tretiraju kao da jesu. Točnost znači uspješno prepoznavanje obrazaca u podacima; pravednost znači moralno vrednovanje ljudskih situacija. Algoritam može biti izuzetno točan u predviđanju ponašanja na temelju statistike, ali i dalje duboko nepravedan kada se suoči sa situacijama koje zahtijevaju kontekst, razumijevanje ili empatiju.
U filmu Bez milosti upravo to dolazi do izražaja. Sustav radi s podacima kao da svi imaju jednaku težinu: činjenice su „činjenične“, bez obzira jesu li autentične, manipulirane ili izvučene iz šireg konteksta. Algoritam ne vidi povijest odnosa, dinamiku straha, psihološka stanja, trenutke slabosti ili pritiske koji prethode činu. Sve se svodi na stabilne parametre i procjene rizika, što znači da moralna nijansa postaje nevidljiva.
Ljudska pravednost uvijek uključuje povijest slučaja – ne samo ono što se dogodilo, nego i kako se dogodilo, zašto se dogodilo i u kakvim okolnostima je pojedinac djelovao. Algoritam, međutim, ne može razumjeti motive ni značenje situacija; on može samo mjeriti korelacije. Zbog toga „moralni modeli“ zapravo nisu modeli morala, nego statističke projekcije koje izgledaju precizno, ali su slijepe za ono što je najvažnije – kompleksnost ljudskog života.
Ljudski život nije linearni sustav. U filmu AI sudac želi biti korektan, ali to je moguće samo unutar linearnog okvira logike činjenica. Međutim, unatoč „dobroj volji“, njegova se ograničenja pokazuju u rubnim slučajevima koji nose karakteristike nelinearnog sustava – onih koji ne slijede pravila statističkih obrazaca. U tom smislu, zločin je dobar primjer nelinearne logike jer po svojoj naravi više slijedi logiku kreativnog čina nego statističkog obrasca. Kao takav, zahtijeva drugačiji pristup koji AI teško može razviti. Upravo to ističe i ključni dijalog filma o razlici između „understanding“ (razumijevanje) i „comprehension“ (shvaćanje) u raspravi između optuženog policajca (Chris Pratt) i AI modela (Rebecca Ferguson).
Ograničenje linearne pravde je stoga jednostavno, ali fundamentalno: ništa u njezinoj arhitekturi ne omogućava razumijevanje. A bez razumijevanja nema ni pravednosti. Zato film upozorava da se, unatoč impresivnim tehničkim mogućnostima, algoritam uvijek kreće unutar uskog horizonta – on može izračunati rizik, ali ne i prepoznati istinu.
Država, moć i delegiranje presude
Pravosuđe je jedna od najdubljih jezgrenih institucija moderne države: prostor u kojem se određuje ne samo tko je kriv, nego i tko ima pravo donijeti tu odluku. Presuda je uvijek bila čin koji potvrđuje legitimnost vlasti – trenutak u kojem se društvo organizira oko jedne središnje istine: države koja ima monopol nad pravednošću. Zato je pitanje tko donosi presudu istodobno i pitanje tko ima moć. U filmu Bez milosti, kao i u ranim eksperimentima suvremenih sustava, ta se moć polako preusmjerava s ljudskog prosuđivanja na algoritamsku obradu rizika. U filmu je AI model istodobno sudac, tužitelj i obrana.
Time nastaje diskretan, ali dubok pomak. Ako algoritam donosi ključne elemente presude — ili ih barem određuje kroz numeričke procjene – tada država više nije izravni nositelj autoriteta. Ona postaje čuvar infrastrukture, a ne izvor moralnog suda. U trenucima kada AI sustav „predlaže“ kaznu, tko zapravo odlučuje? Sudac koji samo potvrđuje? Algoritam koji računa? Programer koji je jednom davno dizajnirao model? Proces se razlijeva, a s njim i odgovornost.
Upravo taj fenomen možemo nazvati „razrjeđivanjem odgovornosti“: nitko pojedinačno ne snosi moralnu težinu presude, jer se ona proizvodi kroz niz tehničkih procedura koje su, naizgled, neutralne. No neutralnost je iluzija. Kada presuda postane rezultat izračuna, država dobiva mogućnost prikrivenog upravljanja bez izravne odgovornosti. Svaka se odluka može opravdati algoritmom – entitetom koji ne može biti ispitan, prozvan ni moralno pozvan na odgovornost.
Iz filma se jasno iščitava ova opasnost: delegiranje presude nije samo delegiranje procedure, nego delegiranje moralnog čina. U trenutku kada država, pod egidom učinkovitosti, prestane biti subjekt presude, gubi i dio svoje društveno-političke suštine. A društvo koje više ne zna tko presuđuje, više ne zna ni tko vlada.
Etika bez milosti: u odsutnosti ljudske prosudbe
Milost je jedna od najstarijih kategorija ljudske pravednosti – od antičkih tragedija i hebrejske tradicije, preko rimskog prava i srednjovjekovnih sustava, pa sve do modernih kaznenih politika. U središtu joj stoji ideja da čovjek nikad nije samo zbir svojih postupaka: da postoje trenuci slabosti, straha, pogreške i unutarnjih lomova koji se ne mogu u cijelosti izraziti kroz pravni jezik. Ljudski sudovi kroz povijest zato su uvijek zadržavali prostor za olakotne okolnosti, intuitivnu procjenu, čak i za oprost – ne zato što su ljudi nesavršeni, nego zato što je pravednost nemoguća bez razumijevanja krhkosti ljudskog bića. Zakon koji izgubi vezu s pravednošću postaje ideološko slovo na papiru koje nikoga više moralno ne obvezuje.
Algoritamski sustavi upravo taj prostor brišu. U njihovoj arhitekturi nema mjesta za ono što je neizračunljivo: za trenutak oklijevanja, emocionalni lom, panični impuls ili moralno kajanje. Sustav ne vidi razliku između čovjeka koji djeluje iz zle namjere i čovjeka koji djeluje iz straha; oba ponašanja izgledaju isto ako ih promatramo statistički. Kada presuda ne poznaje milost, ona prestaje biti pravednost i postaje čista optimizacija – optimizacija rizika, ponašanja ili društvene učinkovitosti. „Činjenica“ postaje firewall protiv milosti.
Hrvatski prijevod naziva filma Mercy (Milost, Milosrđe) u Bez milosti dobro ističe taj hladni rez između algoritma i čovjeka. Sustav ne može čuti šutnju optuženika, ne može vidjeti njegovu moralnu ranjivost, niti može osjetiti ono što sudovi kroz stoljeća nazivaju „činom srca“. Time nestaje lice pravde. Pravosuđe bez milosti postaje proračunat sustav koji ne zna razlikovati tragediju od zločina.
U trenutku kada milost nestane iz pravnog procesa, nestaje i ljudska dimenzija pravde. Ostaje samo presuda – ali ne i razumijevanje.
Globalni trend: Pravosuđe kao sljedeći AI front
Dok je Bez milosti fikcionalni prikaz, njegov svijet sve više nalikuje globalnim političkim procesima koji se već odvijaju. Ako je prethodno desetljeće obilježila digitalizacija administracije, sljedeće će obilježiti automatizacija presude. Sve se češće pojavljuje ista konstanta: umjetna inteligencija više nije alat, nego temelj upravljanja društvom.
Sjedinjene Države predvode tu transformaciju kroz koncept „AI-first obrane“. Pentagon razvija sustave autonomnih dronova, prediktivnog ratovanja, real-time analitike i kvantno-AI modula – logiku u kojoj sigurnosne procjene prelaze sa stručnjaka na modele. Kada se sigurnost može delegirati AI-u, postaje samo pitanje vremena kada će isti pristup oblikovati pravosuđe.
Kina i Indija slijede paralelne putanje. Obje zemlje ubrzano implementiraju AI infrastrukturu u javne sustave: od energetike do upravljanja javnim službama. Automatizirano pravosuđe u takvim ekosustavima nije eksperiment, nego ideološka i tehnološka posljedica šireg modela upravljanja.
Zaljevske države idu još korak dalje. Ujedinjeni Arapski Emirati su među prvim državama svijeta koje su službeno uvele AI u sektor sudstva: modeli predviđaju ishod parnica, rangiraju sporove, procjenjuju rizik i sudjeluju u administrativnim presudama. U Abu Dhabiju i Dubaiju AI već djeluje kao „tihi sudac“ koji ubrzava i preoblikuje pravni proces. Ondje je jasno izražena ambicija da pravosuđe bude dio šire vizije države utemeljene na AI infrastrukturi.
U ovoj globalnoj dinamici postaje jasno: borba nije za moral, nego za infrastrukturu moći. A pravosuđe je sljedeće veliko bojno polje.
Presuda kao čovjekova odgovornost
Film Bez milosti upozorava na trenutak u kojem se jedan od najdubljih moralnih činova društva – donošenje presude – počinje prepuštati entitetima koji ne razumiju ljudsku krhku složenost. Algoritam pravednosti obećava brzinu, ujednačenost i objektivnost, ali njegove granice otkrivaju da pravednost nije izračun, nego odnos. Presuda nikada nije samo tehnički čin; ona određuje tko je subjekt moći.
Zato pitanje više nije tehnološko, nego civilizacijsko: kome ćemo delegirati sposobnost da odlučuje o krivnji? AI može biti pomoćnik, ali ne i nositelj moralnog autoriteta. Društvo koje dopusti da se pravednost svede na prediktivnu analitiku riskira izgubiti svoju sposobnost razumijevanja čovjeka.
Film Bez milosti suočava nas s nepoznanicama procesa u kojem se u pitanje stavljaju ljudske sudbine i poziva na oprez pri nekritičkom oslanjanju na AI u nelinearnim društveno-političkim kontekstima. U eri globalne utrke za AI infrastrukturom, ključni ulog nije brzina sustava, nego granica koju želimo sačuvati. A ta granica glasi: presuda je ljudska odgovornost.
Bit će zanimljivo vidjeti hoće li film Mercy doživjeti sličnu sudbinu kao i film Her iz 2013., s isto tako poznatim glumcima Scarlett Johansson i Joaquinom Phoenixom, u režiji Spikea Jonzea. Taj film prati čovjeka koji ulazi u vezu s inteligentnim operativnim sustavom, kompjuterskim entitetom sa ženskim glasom i osobnošću. I Her je, na sličan način, relativno neprimjetno prošao kroz kina, da bi svoju važnost počeo dobivati retroaktivno, u spoju s razvojem AI modela.
U konačnici se pokazalo da je film bio blaža verzija onoga što se počelo događati prošle godine s OpenAI-jevim modelom 4.0: mnogi su korisnici razvijali emocionalni odnos s tim modelom, da bi potom doživjeli šok kada je tvrtka odlučila ugasiti ga i zamijeniti novim, manje responzivnim sustavom. Uslijedili su brojni prosvjedi korisnika; gašenje modela nakratko je odloženo, no on je konačno ugašen 13. veljače – dan uoči Valentinova. Prosvjedi, međutim, nisu prestali: prema pisanju portala Business Insider, do 17. veljače više od 20.000 ljudi potpisalo je peticiju za njegov povratak.
Film Her tako je ispao blago proročanstvo onoga što se dogodilo trinaest godina nakon njegova izlaska. Vidjet ćemo što će se dogoditi s filmom Mercy.
