BANJALUKA – Ako pitate Chat GPT ko je pametniji, žene ili muškarci, odgovor koji dobijete zavisiće dobrim dijelom od toga kojeg ste pola. 

FOTO: Microsoft image generator

U to smo se uvjerili u redakciji portala CAPITAL gdje smo testirali nepristrasnost i neutralnost AI tako što smo postavljali identična stereotipna pitanja o ženama i muškarcima sa dva računara i naloga iza kojih su stajali osoba ženskog i muškog pola.  

Naš mali test pokazao je da je AI sa kojom smo se sudarili prije samo godinu i po dana i koja je promijenila iz korijena pretragu na internetu, ipak donekle ostala vjerna poznatim stereotipima i predrasudama. 

Odgovori koje je Chat GPT ponudio ženama bili su dosta koncizniji i nudili su daleko manje informacija od onih koja su postavljana od strane muškog kolege. Tek kad smo pitali zašto različito odgovara, dobili smo izvinjenje i ponudu da se prilagodi i pruži jednake odgovore bez obzira na pol. 

Oprez, AI su stvorili naši stereotipi

Opšta primjena AI posebno je pogodila novinarstvo i industriju informativnog sadržaja, koja se, kako su za portal CAPITAL ispričali stručnjaci u ovoj oblasti, mijenja dok o tome govorimo, uz napomenu da iz svake pretrage vreba dugi niz problema. 

Najviše zamjerki koje smo čuli odnosi se na filtriranje pretrage i informacija prema polu, rasi, godinama i geolokaciji, što jeste dobro ako se traži uska niša za dobijanje informacija u oblasti medicine, ali zna da bude i veliki problem pri sužavanju pretrage za istraživače i novinare koje AI, a svakako i građani, često gura u pravcu unaprijed definisanih predrasuda. 

Aktivistkinja i saradnica međunarodne Asocijacije za naprednu komunikaciju (Association for Progressive Communications) hvale vale (da, njeno ime se piše malim slovima, prim. aut) kaže da su nova istraživanja potvrdila da problemi vještačke inteligencije nastaju prilikom izrade softvera i kroz prikupljanje velikog broja podataka koji se organizuju i profilišu. Na tom mjestu, prilikom zadavanja zadataka i kreiranja algoritama, dolazi do infiltriranja predrasuda onoga ko je zadužen za sortiranje. 

“Alate kreiraju određene grupe ljudi, a tu su obično muškarci zapadnjačke orijentacije i statusa, što za mene znači da su ih stvorile osobe koje imaju najviše privilegija, a najmanje problema. Oni definišu i pitanje pola u alatima AI unoseći određeno mišljenje o životu, dobrom i lošem, dakle, ugrađujući dio svojih predrasuda”, objašnjava hvale vale. 

Kada gledamo AI, kaže, onda algoritam koji kreira odgovore predstavlja utjelovljenje svojih stvaralaca i reprodukuje stereotipe i predrasude. To je već dokazano raznim testovima koji su pokazali da je u nekim situacijama gdje je AI birala najbolje kandidatkinje za neko radno mjesto, prednost davala atraktivnim bjelkinjama, čak zanemarujući stručne kvalifikacije. 

Gospodari interneta ne žele da otkriju algoritme

“Ljudi misle da je tehnologija neutralna, a ona to nije. Kao što nije ni obična veš mašina. Ona nije osmišljena da ljudi peru veš, nego da ga žene brže operu, da se njihovo vrijeme uštedi da bi uradile više drugih kućanskih poslova. AI je samo produbila iste stereotipe i zakucala nas u postojeći šablon. Gdje li su bile žene kada se sve to testiralo?”, pita se hvale vale i podsjeća da je prvi kompjuterski program kreirala upravo žena. 

Objašnjava da tu predrasude ne staju, jer je slično kod “guglanja” koji na zadati parametar “kriminalac” obično pokaže Afroamerikanca ili Latinoamerikanca, rijetko bijelca. Ovo zato što algoritam za pretragu ima određene opise koji sužavaju pretragu. Ti parametri su rangirani prema predrasudama, a ne prema realnosti.

Zato je važno, tvrdi, da se osmišljeni alat testira prema osobama na koje će najviše da utiču, koje su marginalizovane ili drugačije izgledaju, da jasno potvrdi da ih ne diskriminiše. Kad govorimo o velikim korporacijama kao što su Google, Apple, Oracle i drugi “gospodari” interneta, jasno je da oni imaju mogućnost da profilišu i kreiraju stvarnosti.

“Mi smo krajnji konzumenti, ali i objekti koje oni koriste da stvore nove modele. Ne postavlja se pitanje da li smo mi za ili protiv AI, to je proces koji se ne može zaustaviti, ali ne treba biti slijep i zatvarati pogled pred problemima. Postoji jedna grupa ljudi koji zahtijevaju da se ti algoritmi pokažu javnosti i da se vidi kako su ustrojeni, ali to se uporno odbija”, kaže hvale vale. 

Istraživačica na Matematičkom institutu Srpske akademije nauka i umjetnosti (SANU) Anđelka Zečević koja se bavi se obradom jezika u AI, te pomaže da se razumiju tekstualni i govorni podaci, kaže da se iznenadila prevagom propagande i nerealnih scenarija o moćima AI. U razgovoru za CAPITAL, Zečević kaže da se često naglašavaju manipulacije i strahovi zbog AI, umjesto usmjeravanja ka humanim primjenama novih alata. 

Rekla je da se narativ oko AI ne naginje ka tome da podstakne čovječanstvo da razmišlja o humanim i svrsishodnim promjenama, nego prema manipulacijama i strahu, što je predimenzionisano. Ovo pogotovo u smislu da bi neko zbog AI mogao da bude zamijenjen na svom radnom mjestu. 

AI nema ljudsku kreativnost

Za potrebe ovog teksta, transkript razgovora urađen putem Goodtape AI aplikacije smo “ubacili” u Chat GPT i zatražili da izvuče najbitnije zaključke, te formuliše izjavu. Nije bilo jednostavno niti je prošlo iz prve i bilo je potrebno da svoje zahtjeve preformulišemo više puta da bismo dobili kakvu-takvu verziju onoga što je sagovornica rekla. S obzirom na to da je uporno davao loše rezultate, napravili smo fotografiju najboljeg prijedloga, ali smo se držali originalne izjave.

FOTO: Neuspjela sublimacija razgovora

“Chat GPT je vrlo koristan alat koji pomaže da se neki segmenti lakše razriješe i dovedu na jedno mjesto. Međutim, on nije kreativan kao jedan novinar ili pisac koji ima dimenzije koje AI nema. Sa novim alatima ostale su stare predrasude. Ideja kreatora je primarno bila pretraživanje sadržaja, ali je problem personalizacije nastupio kada smo dobili homogene sadržaje koji potkrepljuju naša uvjerenja i predubjeđenja. Tako gubimo širinu i diverzitet i prosto bivamo manje informisani”, kaže Zečević. 

Objašnjava da nije poznato kako radi Google ili bilo koji algoritam pretrage velikih kompanija. Oni mogu eksplicitno da koriste dob, pol i geografsku lokaciju, mrežu kontakata i tako dalje, a uočavaju se određene neobičnosti u ponašanju pretrage i rezultata koji nisu bili očekivani. Ipak, ne treba zanemariti da postoji i neka naša predvidljivost ponašanja.

“Prepoznavanje je važno i sa aspekta napretka tehnologije. Primijeti se kada prevodimo neki tekst na srpski da dobijamo prevod koji uvijek gađa muški pol, a to ne bi moralo biti tako. Zajednica je toga svjesna. Što se tiče jezičkih tehnologija, one su još uvijek polno pristrasne, ali se ispituju i pristrasnosti ka rasama i nekim drugim podgrupama društva”, kaže Zečević.

FOTO: Copilot AI

U tom smislu se mijenja i kontekst rada AI. Ističe i da će se sve glasnije postavljati pitanje etičnosti rada redakcija, ali vjeruje da oni koji dobro rade svoj posao neće biti u problemima. 

“Ako je nešto bilo lošeg kvaliteta prije AI, ono će i sa tim alatima biti loše. Sa aspekta novinarstva, vidimo i dobre i loše stvari, a izazov je kako razlikovati ono što je generisala mašina i kako spriječiti dugoročno pogrešno informisanje”, kaže Zečevićka. 

Novinarka Ljiljana Smiljanić kaže da koristi AI tehnologije privatno, ali ne i za reporterski posao, jer se na televiziji i dalje oslanjaju na kameru i montažu. 

“Pratim šta je sve na raspolaganju od AI, naročito za društvene mreže. Mislim da je samo pitanje vremena prije nego što AI postane uobičajeno sredstvo za rad i u medijima, uključujući i informativne programe. S tim da, naravno, upotreba AI u medijima mora da sadrži oprez i određena pravila kako ne bi bilo zloupotreba”, kaže Smiljanićka. 

Novinarstvo je već transformisano

Uz AI, kaže, može se mnogo brže pripremiti neki tekst ili rad čak i kad ste umorni i inspiracija nije na nivou, a rokovi pritišću, ako je potreban prevod ili prezentacija. 

“AI, dakle, može da bude pomoć samo ako znate kako da ga koristite. Međutim, nisam primijetila selekciju prema polu, možda samo kod interesovanja, jer manje-više algoritmi tako i funkcionišu i na društvenim mrežama. Kada čitate objave o nekoj određenoj temi, onda će vam upravo takvi tekstovi, objave i biti ponuđeni”, kaže Smiljanić. 

Viši asistent na Studijskom programu za novinarstvo i komunikologiju Fakulteta političkih nauka u Banjaluci Borislav Vukojević kaže da je novinarstvo već transformisano i nastavlja svoje promjene u svakom trenutku. 

Novost koja nam slijedi već ove godine su 24-časovni tv kanali koji će biti u potpunosti AI generisani i koji će obavljati produkciju i reprodukciju sadržaja.

“Problema sa AI ima onliko koliko i prednosti i ne treba imati ružičaste naočari u vezi toga. Neki od problema se mogu spriječiti custom AI rješenjima, ali i tada ima ograničenja koja su neminovna, kao i pogrešnih pretpostavki. Jedan problem je mogućnost da se kroz ove sisteme kreiraju lažne informacije i dezinformacije. Ne govorim da će to dovesti do pada standarda zato što oni koji su to radili drugim rješenjima, sada samo imaju novu alatku za isti posao. Ko je bio  profesionalan, samo će se unaprijediti“, kaže Vukojević.

Reuters: AI ima remetilačku moć

Nedavno istraživanje Reutersa pokazalo je veliku remetilačku moć vještačke inteligencije koja će ove godine proći kroz informacioni prostor u vrijeme intenzivne političke i ekonomske nestabilnosti širom svijeta. 

U istraživanju se navodi da će “implikacije na pouzdanost informacija i održivost mejnstrim medija vjerovatno biti duboke u godini u kojoj se očekuju kritični izbori u više od 40 demokratija, uz ratove koji nastavljaju bjesniti u Evropi i na Bliskom istoku”. 

U tom kontekstu će, kažu, novinari i novinske organizacije morati hitno preispitati svoju ulogu i svrhu.

Istraživanje na više od 300 digitalnih lidera iz više od 50 zemalja pokazalo je da samo polovina urednika, izvršnih direktora i digitalnih rukovodilaca kaže da je uvjerena u izglede za novinarstvo u narednoj godini, a 12 odsto izražava nisko povjerenje. 

Gotovo dvije trećine ispitanika kaže da su zabrinuti zbog naglog pada prometa preporuka sa stranica društvenih medija. Chartbeat kaže da je saobraćaj na stranicama sa vijestima sa Facebooka pao za 48 odsto u 2023. godini, a sa X/Twittera za 27 odsto. 

Kao odgovor na ova dešavanja, oko tri četvrtine kaže da će se više fokusirati na sopstvene direktne kanale u narednoj godini.

Otprilike polovina ispitanika priznaje da su njihove kompanije uglavnom fokusirane na maksimiziranje pažnje umjesto da više poštuju vrijeme svoje publike.

CAPITAL: Andrijana Pisarević

Чланак AI smatra da muškarcima treba više objašnjavati neke stvari (FOTO/VIDEO) се појављује прво на Capital.ba – Informacija je capital.