U septembru ove godine, nakon predsedničkog dekreta kojim je premijer Albanije Edi Rama dobio ovlašćenje da stvori virtuelnu ministarku zasnovanu na veštačkoj inteligenciji (AI), on je imenovao Diellu za “Ministarku javnih nabavki”. Ovom odlukom, Diella je postala prvi AI sistem na svetu koji obavlja funkciju na nivou kabineta vlade. Njen zadatak, prema Rami, jeste nadzor javnih nabavki i borba protiv korupcije, sa ciljem da donese veću transparentnost i efikasnost u javnom sektoru.

Građanima Albanije ime Diella nije nepoznato. Još od januara 2025. godine ona funkcioniše kao virtuelna asistentkinja integrisana u državnu digitalnu platformu e-Albania. Kroz nju, građani dobijaju uputstva za korišćenje onlajn usluga i pomoć pri podnošenju zahteva ili preuzimanju digitalnih dokumenata. Ali, iako se AI sistemi koriste u mnogim državama sveta za različite administrativne poslove, Diella je prvi slučaj u svetu u kojem je AI postavljen na ministarsku funkciju.

S obzirom na brzinu kojom je veštačka inteligencija postala deo naše svakodnevice, Diella može izgledati kao savršena ministarka. Ministarka koja radi na osnovu algoritama, ne prima mito, ne zapošljava rođake, ne ide na predizborne večere i ne očekuje nagrade za političku lojalnost.

Štaviše, Diella ne podleže ni umoru. Njen analitički kapacitet višestruko nadmašuje sposobnosti čitavog ljudskog tima. Algoritamski sistem poput Dielle može u roku od nekoliko minuta analizirati hiljade tendera, uporediti ponude, otkriti nepravilnosti u cenama ili uočiti skrivene veze između kompanija. Procesi koji bi u klasičnim revizijama trajali mesecima, mogli bi biti skraćeni na samo nekoliko minuta.

Kao rezultat, očekuje se da upotreba ovakvog AI sistema smanji administrativne troškove, ubrza proces revizije i ojača transparentnost u najosetljivijem segmentu javnih finansija. U najboljem scenariju, svaki učesnik na tenderu tretira se prema istim kriterijumima, čime se eliminiše prostor za samovolju. Dakle, Diella bi mogla da obezbedi efikasnost, nepristrasnost i jedinstvenu sposobnost otkrivanja zloupotreba. Za zemlju poput Albanije, koja se prema indeksu korupcije Transparency International nalazi na 80. mestu od 180 država, ovo predstavlja veliku nadu za iskorenjivanje korupcije u javnim nabavkama.

Ipak, uprkos potencijalnim prednostima, zabrinutost oko toga kako će ovaj algoritamski sistem funkcionisati je ogromna. U najgorem slučaju, ovaj eksperiment mogao bi da potkopa same temelje demokratije i da ugrozi digitalni suverenitet Albanije.

Algoritamska korupcija?

Postoji rašireno uverenje da su algoritmi objektivni, samo zato što su tehnologija. Ali u stvarnosti, svaki AI sistem odražava podatke na kojima je treniran. Ako su ti podaci pristrasni, netačni ili nepotpuni, onda algoritamski sistem te obrasce reprodukuje. Na primer, ako podaci o javnim nabavkama u Albaniji, na kojima je treniran sistem Diella, sadrže slučajeve zloupotreba, korupcije, diskriminacije ili predrasuda, taj sistem rizikuje da ih ponovo proizvede i dodatno ojača.

Drugim rečima, zaključci i odluke AI sistema zavise od podataka kojima se oni “hrane”. Kao posledica, sistem može generisati diskriminatorne ili pristrasne rezultate. Tako odluke koje Diella donosi građanima mogu na prvi pogled izgledati “objektivno”, dok u stvarnosti nose skrivene predrasude i rizikuju da vode ka pogrešnim odlukama.

Pored toga, sam izvorni kod Diellinog sistema – skup instrukcija napisanih u programskom jeziku, koji određuje logiku i funkcionisanje algoritama – nije transparentan. Izvorni kod je osnovna komponenta na kojoj počiva treniranje, modifikovanje i razvoj algoritamskog sistema. Kada izvorni kod AI sistema i način na koji on funkcioniše nisu transparentni i ne mogu da ih pregledaju nezavisni eksperti, tada ne postoji ni mogućnost da se identifikuju i isprave potencijalne greške ili sigurnosni propusti. To povećava rizik od tehničkih grešaka i čini sistem manje pouzdanim. Nedostatak transparentnosti u izvornom kodu Diellinog sistema stvara tehničku neobjašnjivost odluka i čini ceo sistem sumnjivim.

Dakle, ukoliko ne postoji transparentnost podataka za obuku, algoritama i izvornog koda AI sistema, korupcija koja već postoji u Albaniji može biti zamenjena “algoritamskom korupcijom” – koja je daleko teža za otkrivanje i objašnjavanje. Od korumpiranog ljudskog sistema mogli bismo preći na sistem koji je netransparentan i samo prividno objektivan. To predstavlja veliki tehnički problem, jer čak ni sami operateri Diellinog sistema, a kamoli građani, ne mogu da razumeju odluke koje on donosi.

Još jedan rizik je ugrožavanje odgovornosti. Demokratija se zasniva na lancu odgovornosti: građani biraju parlament, parlament kontroliše vladu, a ministri polažu račune za svoje odluke. Ali šta se dešava kada odluke donosi AI sistem poput Dielle? Ministar/ka može biti pozvan/a na interpelaciju, smenjen/a ili krivično gonjen/a. Diella, nasuprot tome, ne može biti ispitana, ne objašnjava svoje odluke i ne snosi ni političku ni pravnu odgovornost.

Trenutno, Albanija nema pravni okvir koji predviđa odgovornost AI sistema za pogrešne odluke koje mogu ugroziti prava građana. Time se stvara situacija u kojoj nije jasno ko snosi teret odgovornosti: ako se, recimo, tender dodeli nepravedno – protiv koga bi se podigla tužba? Ko bi odgovarao pred parlamentarnim odborima? Neki strani tim programera? Microsoft? Ili možda međunarodna nevladina organizacija koja je učestvovala u razvoju Dielle? Odgovornost u tom slučaju postaje nejasna, a AI se pretvara u mehanizam za izbegavanje političke kontrole.

Predsednik Albanije Bajram Begaj, u dekretu kojim ovlašćuje premijera Edija Ramu, u članu 2 navodi: “Premijer obavlja i odgovornosti za uspostavljanje i funkcionisanje virtuelnog AI ministra ‘Diella’.” Ista formulacija ponavlja se i u članu 1 dekreta o sastavu Saveta ministara. U praksi, ovo se može tumačiti tako da političku odgovornost za sve postupke Dielle snosi lično Rama.

Imenovanje jednog AI sistema u ulozi ministarke javnih nabavki oštro je kritikovala albanska opozicija. Predstavnici Demokratske partije (PD) argumentovali su da će “Diella” biti korišćena samo da bi se izbegla odgovornost za moguće nepravilnosti u javnim nabavkama.

Jedan demokratskiji i legitimniji pristup bio bi da se, pre imenovanja, stvori pravna osnova za njene postupke i odluke. Ako u budućnosti Diella, iz nepoznatih ili nepredvidivih razloga, donese proizvoljne, netačne ili štetne odluke, postavlja se pitanje kako će premijer Rama objasniti i opravdati te poteze pred Skupštinom Albanije i građanima.

Bez jasne i detaljne pravne osnove koja određuje nadležnosti, odgovornosti i granice Dielle, politička odgovornost u potpunosti pada na Ramu, izlažući ga pravnim, političkim i javnim kritikama. Ova situacija ne samo da ugrožava transparentnost i odgovornost institucija, već može i da podriva poverenje građana u procese donošenja odluka u javnim nabavkama.

Zbog toga je usvajanje zakona koji jasno definiše nadležnosti, odgovornosti i granice Dielle od suštinskog značaja. Takav korak bi izbegao moguća pogrešna tumačenja i ojačao institucionalni legitimitet Dielle.

Ugrožavanje digitalnog suvereniteta

Jedna dodatna briga odnosi se na činjenicu da je Diella razvijena na osnovu Velikih jezičkih modela (na engleskom: Large Language Models) kompanije Microsoft, jedne međunarodne korporacije. To znači da će odluke koje utiču na milione ili čak milijarde leka javnog novca biti obrađivane i filtrirane kroz jedan sistem algoritama razvijen uz pomoć strane korporacije. U ovom trenutku postavlja se ključno pitanje: da li je prihvatljivo da se jedna tako važna i suverena funkcija – kao što je upravljanje javnim novcem – delegira jednoj međunarodnoj kompaniji?

Problem nije samo u korišćenju stranih tehnologija, što je danas uobičajeno, već u mogućoj zavisnosti države od digitalne infrastrukture koju ne može u potpunosti da kontroliše. Ko, na primer, može da garantuje da je logika algoritma na kojoj funkcioniše Diella potpuno nepristrasna i zaštićena od stranih komercijalnih ili političkih interesa? Šta se dešava ako neka privatna kompanija posredno uspe da utiče na način na koji se raspodeljuju javni resursi, čak i kroz tehničke parametre algoritma?

Ako se Albanija u toj meri oslanja na strane platforme za kritične funkcije, zemlja rizikuje da izgubi deo kontrole nad podacima i procesima donošenja odluka. U ovom slučaju, radi se o izuzetno osetljivim podacima: javni tenderi, budžet, državni rashodi. Sve su to elementi koji direktno utiču na funkcionisanje države i ekonomsku stabilnost.

Pored toga, rizik od stvaranja presedana je veliki. Ako se danas jedno AI sredstvo poput Dielle ograničava samo na oblast javnih nabavki, sutra se slično može proširiti i na još važnije sfere, kao što su odlučivanje o državnom budžetu, određivanje prioriteta socijalnih politika ili čak pokretanje zakonodavnih reformi. U takvom scenariju, digitalni suverenitet države ozbiljno se dovodi u pitanje, jer političke odluke počinju da zavise od algoritamskih sistema koje u osnovi projektuju, razvijaju i kontrolišu strane privatne kompanije.

Na taj način, država rizikuje da stvori zavisnost od tehnologije stranih kompanija. Dugoročno, to znači da kontrola nad nacionalnim podacima, logikom raspodele sredstava i budućim politikama možda neće biti u potpunosti u rukama domaćih institucija, već uslovljena tehnologijama i interesima stranih kompanija.

Ova rasprava usko je povezana i sa konceptom nacionalne bezbednosti. Kao što država ne poverava vojsku ili nacionalnu odbranu trećoj strani, isto tako ne bi smela da dozvoli da upravljanje finansijama i strateškim državnim podacima bude pod kontrolom spoljnih aktera. U suprotnom, zemlja rizikuje da bude izložena mogućim manipulacijama – bilo ekonomskim, političkim ili geostrateškim.

Pitanje postaje još osetljivije kada se uđe u sferu sajber bezbednosti. Kada Diella postane srce upravljanja javnim nabavkama, ona automatski postaje prva meta sajber napada – bilo da dolaze od drugih država, kriminalnih grupa ili domaćih i međunarodnih konkurenata. Ako bi Diella bila napadnuta i paralizovana sajber napadom, čitav sistem javnih nabavki bio bi ugrožen: administrativni procesi ostali bi blokirani, osetljivi podaci o ugovorima i budžetu mogli bi biti ukradeni, manipulisani ili uništeni, a što je najvažnije – nastala bi duboka kriza poverenja građana i preduzeća, koji bi državu videli kao nesposobnu da zaštiti javne finansije i informacije.

Dovoljno je prisetiti se 2022. godine, kada je i sama Albanija postala žrtva velikog sajber napada koji je nedeljama paralizovao digitalne javne usluge. Taj presedan jasno pokazuje da pretnja nije hipotetička, već opipljiva realnost koja se može ponoviti, dok budući napadi mogu biti usmereni na još osetljivije sisteme – poput Dielle. Međunarodna iskustva dodatno pojačavaju ovu zabrinutost. 

Estonija je 2007. godine bila suočena sa masovnim napadom koji je paralizovao banke i državne institucije, dok su Sjedinjene Američke Države (SAD) 2021. godine doživele energetsku krizu nakon napada na kompaniju “Colonial Pipeline”. Ovi slučajevi pokazuju da su čak i najmoćnije države ranjive u tehnološkom smislu. Ako zemlje poput Estonije i SAD, sa naprednim digitalnim sistemima, nisu bile potpuno zaštićene, onda je država poput Albanije, sa ograničenim tehnološkim i finansijskim kapacitetima, još više izložena. Takva situacija predstavlja ne samo ugrožavanje digitalnog suvereniteta, već i ozbiljnu pretnju ekonomskoj i političkoj stabilnosti, kao i nacionalnoj bezbednosti u celini.

Zato digitalni suverenitet ne treba posmatrati samo kao pitanje vlasništva nad tehnologijom, već i kao neophodan element zaštite kritične nacionalne infrastrukture. Bez jasne strategije sajber bezbednosti i mehanizama koji garantuju potpunu nacionalnu kontrolu nad funkcionisanjem takvih sistema, svaka inicijativa digitalizacije javne uprave ostaje krhka i rizična. U tom smislu, Diella nije samo tehnološki projekat za borbu protiv korupcije, već i veliki test sposobnosti Albanije da sačuva svoj digitalni suverenitet.

Diella predstavlja hrabri eksperiment koji stavlja Albaniju u centar međunarodne pažnje po pitanju upotrebe veštačke inteligencije na nivou vlade. Njen potencijal da poveća transparentnost i suzbije korupciju u javnim nabavkama je nesumnjiv, ali jednako su realni i rizici povezani sa nedostatkom transparentnosti algoritama, nejasnoćom političke i pravne odgovornosti, kao i zavisnošću od stranih tehnologija. Zbog toga tehnologija treba da bude korišćena isključivo kao pomoćno sredstvo za poboljšanje i ubrzanje rada institucija, a ne kao zamena za političko donošenje odluka.

Garantovanje odgovornosti i legitimnosti zahteva jasan pravni okvir, detaljno izveštavanje pred parlamentom, nezavisnu reviziju algoritama i očuvanje digitalnog suvereniteta. Samo na taj način Diella može postati uspešna priča u borbi protiv korupcije, a da pri tom ne ugrozi temelje demokratije niti izloži zemlju zavisnosti od stranih tehnologija ili rizicima sajber bezbednosti.

Naslovna slika: Dina Hajrullahu / K2.0