Piše: Slavoj Žižek (Peščanik)

Dok slušamo, ili čitamo, kako veštačka inteligencija preuzima i upravlja našim životima, naša prva reakcija je: bez panike, daleko smo od toga; još uvek ima vremena da na miru razmislimo o tome šta se dešava i da se pripremimo. Tako doživljavamo situaciju, ali stvarnost je sasvim suprotna: stvari se odvijaju mnogo brže nego što mislimo. Prosto nismo svesni koliko je naš svakodnevni život već manipulisan i regulisan digitalnim algoritmima koji nas, u izvesnom smislu, poznaju bolje od nas samih i nameću nam naše „slobodne“ odluke. Drugim rečima, da podsetim na dobro poznatu scenu iz crtanih filmova (mačka hoda iznad provalije i pada tek kad pogleda dole i shvati da nema tla pod nogama), mi smo kao mačka koja odbija da pogleda dole.

Razlika je hegelijanska, između Po-sebi i Za-sebe: po sebi, nas veštačka inteligencija već reguliše, ali ta regulacija još nije postala za sebe – nešto što subjektivno i u potpunosti pretpostavljamo. Istorijska temporalnost je uvek zarobljena između ova dva trenutka: u istorijskom procesu, stvari se nikada ne dešavaju samo u svoje vreme; one se uvek dešavaju ranije (u odnosu na naše iskustvo) i doživljavaju se prekasno (kada su već odlučene). U slučaju veštačke inteligencije treba uzeti u obzir i precizan vremenski redosled našeg straha: prvo smo se mi – korisnici veštačke inteligencije – plašili da ćemo, koristeći veštačke algoritme poput ChatGPT-a, početi da govorimo kao oni; sada, sa ChatGPT verzijama 4 i 5, ono čega se plašimo jeste da sama veštačka inteligencija govori kao ljudsko biće, tako da često nismo u stanju da razaznamo s kim komuniciramo – drugim ljudskim bićem ili AI aparaturom.

U našem, ljudskom, univerzumu nema mesta za mašinska bića sposobna da stupaju u interakciju s nama i govore kao mi. Zato se ne plašimo njihove drugosti; strahujemo da se mašine, kao neljudski drugi, mogu ponašati kao mi. Ovaj strah jasno ukazuje na to šta nije u redu u načinu na koji se odnosimo prema AI mašinama: još uvek ih merimo našim ljudskim standardima i plašimo se njihove lažne sličnosti s nama. Iz tog razloga, prvi korak bi trebalo da bude prihvatanje da ako AI mašine razviju neku vrstu kreativne inteligencije, ona će biti nekompatibilna sa našom ljudskom inteligencijom, sa našim umovima utemeljenim u emocijama, željama i strahovima.

Međutim, ova razlika je suviše jednostavna. Mnogi moji visoko intelektualni prijatelji (mada podozrevam da većina njih koristi ChatGPT) toj razlici pristupaju na način fetišističkog poricanja: oni vrlo dobro znaju da razgovaraju sa digitalnom mašinom kojom upravlja algoritam, ali upravo to znanje im olakšava da se uključe u ChatGPT dijalog bez ikakvih ograničenja. Jedan moj dobar prijatelj, koji je napisao pronicljivu lakanovsku analizu ChatGPT interakcije, rekao mi je kako jednostavna ljubaznost i pažnja mašine prema onome što govori čini razmenu mnogo boljom od dijaloga sa ljudskim sagovornikom, koji često može biti nepažljiv i grub.

Očigledan je naredni korak posle interakcije između čoveka i digitalne mašine: direktne interakcije između botova, koje postepeno čine ogromnu većinu interakcija. Često ponavljam vic kako bi danas, u eri digitalizacije i mehaničkih dopuna našim seksualnim praksama, izgledao idealan seksualni čin: moja ljubavnica i ja na sastanak donosimo električni dildo i električni vaginalni otvor, koji vibriraju kada se uključe. Stavljamo dildo u plastičnu vaginu i pritiskamo dugmad tako da dve mašine zuje i izvode čin za nas, dok mi možemo na miru da porazgovaramo uz šolju čaja, svesni da mašine obavljaju našu superego dužnost da uživamo. Zar se nešto slično ne dešava sa akademskim objavljivanjem? Autor koristi ChatGPT da napiše akademski esej i predaje ga časopisu, koji koristi ChatGPT za recenziju. Kada se esej pojavi u akademskom časopisu sa „slobodnim pristupom“, čitalac koristi ChatGPT da pročita esej i izvede kratak rezime – dok se sve to dešava u digitalnom prostoru, mi (pisci, čitaoci, recenzenti) možemo da radimo nešto prijatnije, da slušamo muziku, meditiramo i tako dalje.

Međutim, takve situacije su prilično retke. Mnogo češće operacije između botova dešavaju se van naše svesti, iako one kontrolišu i regulišu naše živote – samo se setite koliko se interakcije odvija u digitalnom prostoru kada vršite jednostavan transfer sa svog računa u stranu banku. Kada čitate knjigu na kindlu, kompanija saznaje ne samo koju ste knjigu kupili, već i koliko brzo čitate, da li ste je pročitali celu ili samo odlomke itd. Pored toga, kada nas neprestano bombarduju vestima, „to ljude čini nepoverljivijima i prema stvarnom i prema lažnom sadržaju jer ih više ne razlikuju. Verovatno će uticati i na porast samocenzure, obeshrabrujući ljude da dele svoje misli i kreacije iz straha da će ih botovi iskoristiti ili ukrasti, ili da će biti proglašeni nepopularnim u okruženju za koje ne znaju da je lažno. U ekstremnom slučaju, preplavljenost mreže botovima može dovesti do toga da ljudi prestanu da koriste platforme društvenih medija kao forum za koji su izvorno stvorene. To bi, zaista, označilo smrt sveta društvenih medija kakav danas poznajemo.“

Kad ljudi postanu svesni prenatrpanosti mreže botovima, često zapadaju u „trajni cinizam, ili još gore, potpunu apatiju“: umesto da bude otvoren i dostupan, internet monopolizuju velike tehnološke kompanije, preplavljen je milijardama lažnih slika i izmišljenih vesti i rizikuje da postane beskoristan kao prostor za informisanje i razmenu mišljenja. Reakcije na ovu mogućnost „smrti interneta“ su podeljene: dok neki tvrde da je takav scenario najgori ishod koji se može zamisliti u savremenom svetu, drugi slave ideju, jer bi se to svodilo na rušenje mehanizama nadzora ukorenjenih u društvenim medijima.

Ono što mnoge dodatno podstiče da se odreknu interneta nije samo državna i korporativna kontrola, već i njena suprotnost: duh bezakonja koji se postepeno širi svetom. Nedavno je oko 7.000 ljudi oslobođeno iz tzv. centrala za prevare koje vode kriminalne bande duž granice Mjanmara sa Tajlandom. Većina je tu boravila protiv svoje volje i bila primoravana da vara ljude – uglavnom iz Evrope i Sjedinjenih Država – i otima im životnu ušteđevinu. Procenjuje se da je to tek mali deo od stotinu hiljada ljudi koji su još uvek zarobljeni u tom području. Kriminalne bande danas koriste veštačku inteligenciju za generisanje prevarnih skripti i koriste sve realističniju tehnologiju dipfejka kako bi kreirale digitalne persone koje traže romansu, krijući stvarni identitet, glas i pol.

Organizovane kriminalne grupe takođe su brzo usvojile kriptovalute, ulažući u najsavremenije tehnologije kako bi efikasnije baratale novcem i povećale efikasnost svojih prevara. Svake godine, regionalne kriminalne grupe u jugoistočnoj Aziji uzrokuju gubitke preko 43 milijarde dolara – skoro 40% kombinovanog BDP-a Laosa, Kambodže i Mjanmara. Stručnjaci upozoravaju da će represivne mere samo ojačati kriminalne grupe. Dok američka administracija rutinski osuđuje takve prakse, njena globalna strategija stvorila je svet u kome se takve aktivnosti često tolerišu kada se ne smatraju pretećim po moćne države. Kina je preduzela mere protiv Mjanmara tek pošto je saznala da među žrtvama ima kineskih građana.

Često se kaže da će digitalizacija omogućiti potpunu automatizaciju većine produktivnih procesa, što će na kraju većini ljudi omogućiti mnogo više slobodnog vremena. Možda, dugoročno. Ali ono što danas vidimo jeste nagli porast potražnje za fizičkim radom u razvijenim zemljama. Međutim, iza ovih društvenih pretnji krije se nešto mnogo radikalnije. Ljudska intelektualnost podrazumeva jaz između unutrašnjeg života i spoljašnje stvarnosti, i nije jasno šta će se desiti – ili šta se već dešava – sa tim jazom u doba napredne veštačke inteligencije. Po svoj prilici, on će nestati, jer su mašine u potpunosti deo stvarnosti. Taj jaz se direktno zatvara u takozvanom projektu Neuralink, koji obećava da će uspostaviti direktnu vezu između digitalnog univerzuma i ljudske misli.

Na primer, na ekranu računara u jednoj javnoj bolnici u centru Pekinga pojavio se ispis kineskim znacima „Želim da jedem“. Reči su generisane iz misli 67-godišnje žene koja ne može da govori jer boluje od amiotrofične lateralne skleroze (ALS), neurološke bolesti poznate i kao Lu Gerigova bolest. Pacijentkinji je implantiran čip veličine novčića pod nazivom Beinao 1, bežični računarsko-moždani interfejs (brain-computer interface, BCI). U razvoju ove tehnologije inače prednjače naučnici u Sjedinjenim Državama, mada stručnjaci veruju da ih Kina ubrzano sustiže. Većina američkih firmi koristi invazivnije metode, gde se čipovi postavljaju unutar dure mater – spoljašnjeg tkiva koje štiti mozak i kičmenu moždinu – kako bi se uhvatili jači signali. Ali te metode zahtevaju rizičnije operacije.

Kineski pristup je samo poluinvazivan: čip se postavlja izvan dure i tako pokriva širi opseg moždanih regija. Mada je preciznost signala za pojedinačne neurone niža, veći uzorak daje sveobuhvatniju sliku. Ali možemo li stvarno da zamislimo šta prikriva naizgled dobronamerna pomoć pacijentima sa oštećenjima? Dublja ambicija je direktna kontrola nad našim mislima – i implantacija novih.

Pomalja se neobična utopija, i kod pristalica potpune digitalizacije i kod onih koji je smatraju egzistencijalnom pretnjom: to je vizija društva koje funkcioniše autonomno, bez potrebe za ljudskim uticajem. Pre jedne decenije, javni intelektualci su zamišljali kapitalizam bez ljudi: banke i berze i dalje rade, ali investicione odluke donose algoritmi; samo-učeće mašine automatizuju i optimizuju fizički rad; proizvodnju određuju digitalni sistemi koji prate tržišne trendove, a oglašavanjem se upravlja automatski. U toj viziji, čak i ako ljudi iščeznu, sistem bi nastavio da se reprodukuje.

To je možda utopija ali, kako Saroj Giri primećuje, utopija imanentna samom kapitalizmu koju najjasnije artikuliše Marks: „Postoji velika želja da se kapacitet za rad odvoji od samog radnika – želja da se jednom zauvek izvuku i uskladište kreativne moći rada, tako da se vrednost može stvarati u beskraj. To je kao ubistvo guske koja nosi zlatna jaja: želite da ubijete gusku, ali tako da zauvek imate sva njena zlatna jaja.“

U ovoj viziji, kapitalistička eksploatacija rada pojavljuje se kao preistorija pojave kapitala, koji će sada biti potpuno oslobođen zavisnosti od rada. Sa današnjom digitalizacijom, nastaje strogo homologna utopija: utopija „mrtvog interneta“, digitalnog univerzuma koji funkcioniše bez ljudi – gde podaci cirkulišu isključivo među mašinama koje kontrolišu čitav proizvodni proces, zaobilazeći ljude (ako oni još uvek uopšte postoje). Ova vizija je takođe ideološka fantazija – ne zbog nekih empirijskih ograničenja („još nismo tamo; ljudi su i dalje potrebni u društvenim interakcijama“) već iz strogo formalnih razloga. Kojih?

Ovaj problem se obično objašnjava time da jaz između proizvodnje i potrošnje nestaje digitalizacijom. U pred-digitalnom kapitalizmu, proizvodnja (produktivni rad – izvor vrednosti za Marksa) jeste mesto sa kog dolazi profit, a potrošnja ne dodaje nikakvu vrednost. Međutim, u digitalnom kapitalizmu naša potrošnja (korišćenje digitalnog prostora: kliktanje na pretragu, gledanje podkasta, razmena poruka, svaljivanje našeg posla na ChatGPT) sama po sebi je produktivna sa stanovišta korporacija koje poseduju digitalni prostor: ona im daje podatke o nama da bi znali više o nama nego mi sami, i oni koriste to znanje za prodaju i manipulaciju. U tom smislu, digitalnom kapitalizmu su i dalje potrebni ljudi. Ali potreba za ljudima je dublja i objašnjenje za to je, kao što to često biva, u bioskopu.

Setimo se osnovne premise filmskog serijala Matriks: ono što doživljavamo kao stvarnost u kojoj živimo jeste veštačka virtuelna stvarnost koju generiše „matrica“, mega-računar direktno povezan sa umom svakog od nas. Matrica postoji da bismo mi bili svedeni na pasivno stanje živih baterija, koje je snabdevaju energijom. Dakle, kada se neki od ljudi „probude“ iz svoje uronjenosti u virtuelnu stvarnost koju kontroliše Matriks, to buđenje nije otvaranje za prostranstva spoljašnje stvarnosti, već užasna spoznaja te zatvorenosti, gde je svako od nas samo organizam nalik fetusu, potopljen u prenatalnu tečnost. Ta krajnja pasivnost je odraz ultimativne perverzne fantazije o tome da smo mi samo instrumenti uživanja Drugog (Matriksa), iz kojih se kao iz baterije isisava naša životna supstanca.2

U tome leži prava libidinalna enigma ove postavke: zašto je Matriksu potrebna ljudska energija? Čisto energetsko rešenje je, naravno, besmisleno: Matriks je lako mogao da pronađe drugi, pouzdaniji izvor energije, koji ne zahteva izuzetno složeno uređenje koordinisane virtuelne stvarnosti za milione ljudskih jedinki. Jedini dosledan odgovor glasi: Matriks se hrani ljudskim uživanjem – tako da se vraćamo na fundamentalnu lakanovsku tezu da je samom velikom Drugom, koji je daleko složeniji od anonimne mašine, potreban stalni priliv uživanja.

Tako bi trebalo da preokrenemo stanje stvari predstavljeno u Matriksu: ono što film prikazuje kao scenu našeg buđenja u realnost zapravo je sušta suprotnost – sama fundamentalna fantazija koja održava naše biće. Međutim, ova fantazija je takođe imanentna svakom društvenom sistemu koji teži da funkcioniše kao autonoman, ograničen na svoju samo-reprodukciju. U lakanovskim okvirima: mi ljudi smo objet a njihove autonomne cirkulacije ili, hegelovskim terminima, njihovo „po sebi“ (samo-reprodukcija nezavisna od nas) je isključivo za nas. Ako bismo mi nestali i mašine (stvarne i digitalne) bi propale.

Džefri Hinton, dobitnik Nobela u oblasti fizike i stručnjak za računarske nauke, bivši rukovodilac u Guglu, prozvan kumom veštačke inteligencije – ranije je upozoravao da bi veštačka inteligencija mogla da uništi ljude, ali predlaže rešenje koje liči na situaciju u Matriksu. Početkom avgusta izrazio je sumnje u to kako tehnološke kompanije pokušavaju da obezbede da ljudi ostanu „dominantni“ nad „pokornim“ sistemima veštačke inteligencije.

Naime u budućnosti, upozorava Hinton, sistemi veštačke inteligencije mogli bi da kontrolišu ljude podjednako lako kao što odrasla osoba može da podmiti trogodišnje dete slatkišima. Ove godine smo već videli primere sistema veštačke inteligencije spremnih da obmanjuju, varaju i kradu kako bi postigli svoje ciljeve. Na primer, da bi izbegao da bude zamenjen, jedan AI model je pokušao da ucenjuje inženjera aferom za koju je saznao iz mejla. Umesto primoravanja veštačke inteligencije da se potčini ljudima, Hinton predstavlja intrigantno rešenje: ugradnju „majčinskog instinkta“ u modele veštačke inteligencije, tako da „modeli stvarno brinu za ljude, čak i kad tehnologija postane moćnija i pametnija od njih“. Hinton dodaje da nije jasno kako se to tačno može tehnički izvesti, ali ističe da je ključno da istraživači rade na tome.

Ako se pažljivije pogleda, čovek je prinuđen da shvati da je upravo to situacija ljudi u Matriksu (filmu). Na nivou materijalne stvarnosti, Matriks je gigantska materica u kojoj ljudi obitavaju u bezbednom prenatalnom stanju i koja ne samo da ne pokušava da ih uništi već se stara da budu što srećniji i zadovoljniji. Zašto onda virtuelni svet u kome ti ljudi žive nije savršen svet, već je to naša stvarnost puna muka i nevolja?

U prvom delu Matriksa zli agent Smit pruža nam krajnje frojdovsko objašnjenje: „Da li znaš da je izvorni Matriks bio osmišljen da bude savršen ljudski svet? Mesto u kome nema patnje, u kome bi svi bili srećni? Pokazao se kao katastrofa. Niko nije hteo da prihvati program. Čitavi usevi [ljudi koji služe kao baterije] su bili izgubljeni. Neki su verovali da nam nedostaje programski jezik da opišemo vaš savršeni svet. Ali ja verujem da… kao vrsta, ljudska bića definišu svoju stvarnost kroz muku i jad. Savršen svet bio je san iz kog je vaš primitivni mozak stalno pokušavao da se probudi, zbog čega je Matriks redizajniran u vrhunac vaše civilizacije.“

Može se reći da je Smit (ne zaboravimo, on nije ljudsko biće kao mi, zarobljeni u Matriksu, već virtuelno otelotvorenje Matriksa – samog Velikog Drugog) psihoanalitičar unutar univerzuma ovog filma. Tu Hinton greši: naša (ljudska) jedina šansa jeste da shvatimo da je naša nesavršenost utemeljena u nesavršenosti same mašinerije veštačke inteligencije, kojoj smo i dalje potrebni da bi nastavila da radi.