Izjava suosnivača Oraclea Larryja Ellisona o društvu u kojem se sve snima i nadzire ponovo je otvorila pitanje granica veštačke inteligencije, masovnog nadzora i prava na privatnost u digitalnom dobu
Jedna rečenica izgovorena tokom prošlogodišnjeg događaja kompanije Oracle nastavlja da izaziva burne reakcije širom tehnološke industrije. Sada se ponovo našla u centru pažnje nakon što je TechRadar podsetio na njene potencijalno dalekosežne posledice.
„Građani će se ponašati najbolje moguće jer konstantno snimamo i prijavljujemo sve što se dešava“.
Ovu izjavu izneo je Larry Ellison, suosnivač i predsednik kompanije Oracle, govoreći o mogućnostima koje bi veštačka inteligencija mogla da donese sistemima nadzora i bezbednosti.
Iako je Ellison njegovu viziju predstavio kao način za smanjenje kriminala, povećanje bezbednosti i efikasnije funkcionisanje društva, kritičari upozoravaju da takav pogled otvara vrata scenariju koji više podseća na distopijsku naučnu fantastiku nego na poželjnu budućnost.
Suština Ellisonove ideje zasniva se na pretpostavci da bi napredni AI sistemi, povezani sa ogromnim mrežama kamera i senzora, mogli da prate gotovo sve aktivnosti u javnom prostoru. Veštačka inteligencija zatim bi automatski analizirala prikupljene podatke, identifikovala sumnjivo ponašanje i prijavljivala incidente bez potrebe za ljudskom intervencijom.
Ovakva tehnologija više nije samo teorijski koncept. Poslednjih godina AI sistemi za prepoznavanje lica, analizu video zapisa i obradu podataka u realnom vremenu postali su značajno napredniji. Kompanije poput Microsofta, Googlea, Mete i OpenAI-ja ulažu milijarde dolara u razvoj sistema koji mogu da razumeju i analiziraju svet kroz kamere, mikrofone i druge senzore.
Međutim, upravo tu počinje i najveća kontroverza.
Zagovornici privatnosti upozoravaju da postoji ogromna razlika između korišćenja AI sistema za specifične bezbednosne zadatke i stvaranja društva u kojem se svaki pokret, razgovor ili aktivnost potencijalno beleži i analizira.
U takvom okruženju građani više ne menjaju ponašanje zato što poštuju zakon ili društvene norme, već zato što pretpostavljaju da su stalno pod nadzorom.
To je koncept koji društveni naučnici već decenijama nazivaju „efektom panoptikona“, prema ideji zatvora u kojem zatvorenici nikada ne znaju da li ih neko posmatra, pa se ponašaju kao da su pod stalnim nadzorom.
Ellisonova izjava dolazi u trenutku kada se tehnološka industrija nalazi na prekretnici. Generativna veštačka inteligencija privukla je najveću pažnju javnosti tokom poslednjih nekoliko godina, ali mnogi stručnjaci smatraju da bi takozvana „fizička AI“ mogla da ima još veći uticaj na svakodnevni život.
Za razliku od chatbotova i generatora slika, fizička AI podrazumeva sisteme koji mogu da posmatraju stvarni svet, donose odluke i reaguju na događaje u realnom vremenu. Takve tehnologije već se koriste u pametnim gradovima, autonomnim vozilima, industrijskim postrojenjima i bezbednosnim sistemima.
Pitanje koje sada postaje sve važnije nije da li je takav nivo nadzora tehnički moguć, već ko će kontrolisati podatke, kako će se koristiti i gde će biti postavljene granice.
Istorija tehnološkog razvoja pokazuje da alati razvijeni za legitimne bezbednosne svrhe često vremenom dobijaju mnogo širu primenu. Sistemi za prepoznavanje lica, na primer, prvobitno su predstavljani kao način za identifikaciju kriminalaca i nestalih osoba, da bi kasnije bili korišćeni i za komercijalno praćenje korisnika, analizu ponašanja kupaca i druge svrhe koje nisu bile deo prvobitnih obećanja.
Zbog toga su Ellisonove reči izazvale snažne reakcije među organizacijama koje se bave digitalnim pravima i zaštitom privatnosti. Kritičari upozoravaju da ideja društva u kojem se „sve snima i prijavljuje“ podrazumeva koncentraciju ogromne količine moći u rukama vlada, korporacija ili institucija koje upravljaju takvom infrastrukturom.
S druge strane, pristalice naprednih bezbednosnih sistema tvrde da građani već danas dobrovoljno dele ogromne količine podataka putem pametnih telefona, društvenih mreža i povezanih uređaja, te da bi inteligentni sistemi nadzora mogli da doprinesu bezbednijem društvu.
Upravo zbog toga rasprava nije samo tehnološka, već i politička, pravna i društvena.
Veštačka inteligencija danas omogućava analizu količina podataka koje su pre samo nekoliko godina bile nezamislive. Kako te mogućnosti budu rasle, pitanje privatnosti verovatno će postati jedno od najvažnijih pitanja digitalnog društva.
A bez obzira na to da li je Ellisonova izjava bila zamišljena kao optimistična vizija ili upozorenje, ona je uspela da skrene pažnju na dilemu sa kojom će se suočiti gotovo svaka moderna država: koliko bezbednosti želimo da dobijemo i koliko privatnosti smo spremni da žrtvujemo zauzvrat, zaključuje TechRadar.
