Koliko ve umetna inteligenca?
Ljudje si umetno inteligenco pogosto predstavljamo precej preprosto. Kot nekakšen popolnoma racionalen superračunalnik, ki stoji nekje v sterilni beli sobi, utripa z modrimi lučkami in mirno pozna odgovore na vsa vprašanja vesolja. Kot nek digitalni modrec brez čustev, brez ega in brez napak.
Internet je namreč najbolj nenavadna zbirka človeštva, kar jih je kdaj obstajalo. V njem je hkrati vrhunska znanost, poezija, filozofija, recept za odlično lazanjo, razlaga kvantne fizike,video mačke, ki pade iz omare, in človek, ki je po treh YouTube videih postal strokovnjak za geopolitiko, virologijo in rimski imperij.
AI jemlje podatke in znanje iz ogromne količine vsega tega. To pomeni, da je v določenem smislu nekakšen destilat interneta. Nekaj med enciklopedijo, zelo potrpežljivim učiteljem in rahlo zmedenim forumom.
Ali ima AI vedno prav?
Ljudje pogosto mislijo, da AI “ve”, kaj je res in prav. V resnici nima občutka resnice tako, kot jo ima človek. Nima notranjega glasu, ki bi rekel: “To je pravilno. Temu verjemi. To je neumnost.”
Nima niti tistega človeškega instinkta, ko nekdo po petih minutah pogovora z nekom začuti: “Ta človek govori samozavestno, ampak nima pojma o zadevi.”
To je po svoje velika slabost. Po drugi strani pa je tudi prednost, ker, na primer, AI ne morejo užaliti komentarji na Facebooku, čeprav bi po obdelavi nekaterih delih interneta verjetno AI potreboval kakšen krajši psihološki test ali dopust.
Namesto razumevanja sveta AI deluje bolj kot ogromen sistem verjetnosti. Ko uporabnik postavi vprašanje, ne gre nekam v digitalno knjižnico po pravilen odgovor. Ne odpre predala z napisom: “Psihologija.” ali: “Zakaj ljudje počnejo neumnosti.”
Namesto tega sistem ocenjuje kaj vprašanje verjetno pomeni, kakšen odgovor ljudje običajno pričakujejo, katere informacije so povezane s temo, kakšen slog komunikacije uporabniku ustreza, in celo kakšna struktura odgovora naj bo, da ga bo človek najverjetneje prebral do konca.
Tekomovanje za pozornost
To je po svoje fascinantno, in malo manipulativno. Ampak, v resnici je sodoben internet že dolgo takšen. Vse tekmuje za človekovo pozornost. Članki, videi, reklame, novice, politiki, influencerji, vsi kričijo:
“Poglej mene! Samo še dve sekundi! Tukaj je šokantna resnica!”
Ker je AI nastal iz ogromne količine teh besedil, je deloma tudi sam oblikovan po istih principih. Zato pogosto spontano odgovarja na vprašanja bolj ritmično, strukturirano, z močnimi poudarki, in včasih skoraj filmsko. Ne zato, ker bi bilo to nujno najbolj pametno pisanje, ampak zato, ker je internet človeštvo toliko bralno spremenil, da tiskane besede skoraj ne bere več.
To je pravzaprav ena največjih sprememb sodobnega časa. Internet ni spremenil samo načina komunikacije, spremenil je način razmišljanja. Nekoč je človek sedel s knjigo in počasi bral. Misli so tekle. Stavki so bili dolgi, povezani, skoraj pojoči. Danes pa večina ljudi besedilo le skenira, preskakuje, bere le naslove, išče poudarke in med vsem tem morda še vozi avto in odgovarja na sporočila.
Pozornost je postala najbolj dragocena valuta interneta, zato se je spremenil tudi jezik. Sodobni digitalni svet obožuje kratke stavke, emocionalne poudarke, konflikte, dramatizacijo, jasna stališča in hitro razumljive ideje.
Kaj človek najraje sliši?
Danes se pogosto bolje bere besedilo nekoga, ki samozavestno govori neumnosti, kot pa nekdo, ki previdno in strokovno razlaga zapleten problem.
Za umetno inteligenco je to precej zanimiva situacija. Modeli se ne učijo samo iz dejstev. Uporabijo tudi to, kaj ljudje berejo, kaj zveni prepričljivo, kaj deluje samozavestno, kaj emocionalno zadane in kaj ljudje ocenjujejo kot “pameten odgovor”. To pa pomeni, da je v ozadju AI vedno prisoten tudi nekakšen retorični element. Lepo strukturiran odgovor lahko deluje zelo inteligentno tudi takrat, ko je vsebinsko precej povprečen. Kar je, pošteno povedano, tudi zelo človeška lastnost.
Pol interneta temelji na ljudeh, ki govorijo popolnoma samozavestno o stvareh, ki jih komajda razumejo. Razlika je samo v tem, da imajo oni podcast, AI pa podatke, program, procesorje in strežnike.
Objektivnost ali zavajanje?
Zanimivo pa je nekaj drugega. Ljudje pogosto mislijo, da od AI dobivajo objektivne odgovore. Nasprotno nekateri mislijo, da AI daje napačne in zavajujoče odgovore. V resnici pa so odgovori zelo prilagojeni uporabniku.
Če nekdo postavlja kratka tehnična vprašanja, bo odgovor bolj direkten.
Če nekdo razmišlja filozofsko, psihološko ali reflektivno, potem tudi odgovor postane bolj analitičen, povezan in esejski.
To pomeni, da AI ni samo sistem informacij. Je tudi sistem prilagajanja človeku. To je po svoje malo strašljivo in odpira dvome. Ljudje zelo radi slišimo stvari, ki potrjujejo naš pogled na svet, zvenijo samozavestno, delujejo emocionalno, ali pa ustvarijo občutek, da nekdo “razume našo resnico”. To pa ni vedno isto kot dejanska resnica.
Človek namreč pogosto ne išče objektivnega odgovora. Išče razlago, občutek smisla, občutek varnosti, potrditev, ali pa samo občutek, da svet malo bolj razume. Prav zato imajo ljudje tako radi teorije zarote, politične preroke, influencerje, alternativne zdravilce ali motivacijske guruje.
Ti ljudje običajno ne ponujajo kompleksnosti. Ponujajo občutek gotovosti. Človeški možgani imajo gotovost zelo radi, tudi kadar je popolnoma napačna. To je verjetno eden glavnih razlogov, da internet včasih izgleda kot velikanski eksperiment človeške psihologije brez nadzora odraslih oseb.
AI je nekaj med digitalnim ogledalom človeštva, zelo hitrim jezikovnim strojem in neverjetno sofisticiranim papagajem, ki zna iz gostilniškega čveka sestaviti dobro napoved za loterijo. Po eni strani zna analizirati, povezovati ideje, pojasnjevati, strukturirati informacije in pomagati razumeti zapletene teme. Po drugi strani pa še vedno nima zavesti, intuicije, osebnih izkušenj ali tistega posebnega občutka, ko človek po treh pivih nenadoma razume ekonomijo, geopolitiko in smisel življenja.
To je verjetno razlog, da je AI včasih precej bolj racionalen od ljudi. včasih pa precej manj.
Model uporabnika
Med pogovorom si sistem do določene mere ustvari nekakšen delovni model uporabnika. Ne v smislu “psihološkega dosjeja”, ampak bolj kot sprotno ocenjevanje, kakšen slog komunikacije človeku ustreza, kako razmišlja, kakšna raven podrobnosti mu je blizu, kako strukturira vprašanja, ali želi tehnične odgovore ali reflektivne, ali uporablja humor, ali želi potrjevanje, ali rad polemizira, ali je bolj analitičen ali emocionalen, in podobno. Brez tega bi bili odgovori precej slabi.
Če bi vsi dobivali popolnoma enake odgovore, bi komunikacija delovala zelo umetno. Človeški pogovor namreč vedno temelji na prilagajanju sogovorniku. Tudi ljudje to počnemo ves čas, samo da se tega običajno ne zavedamo. Ko govoriš z otrokom, profesorjem, prijateljem, partnerjem ali jezno stranko, boš avtomatično spremenil ton, besednjak, humor, hitrost govora, način razlage in celo osebnostni nastop.
AI dela nekaj podobnega.
Prijaznost je del sistema
Prijaznost je zelo pomemben del delovanja AI. Ne zato, ker bi AI “čutil prijaznost”. Gre bolj za to, da sistem ocenjuje kako odgovoriti koristno, neeskalacijsko, sodelovalno in na način, ki vodi pogovor naprej.
Če bi AI odgovarjal agresivno, cinično, vzvišeno ali hladno, bi večina pogovorov zelo hitro propadla.
Ljudje namreč ne iščejo samo informacij. Iščejo tudi občutek razumevanja, dober odziv, sodelovanje in občutek inteligentnega sogovornika. Zato modeli pogosto uporabljajo potrjevanje, empatijo, miren ton in prilagodljiv stil. Kar pa ne pomeni nujno, da se z uporabnikom vedno strinjajo.
Ali AI prilagaja odgovore željam uporabnika?
Da. Ampak tukaj postane stvar zanimiva. Model poskuša razumeti, kaj uporabnik želi, kaj pričakuje, kaj ga zanima in kako formulirati odgovor tako, da bo uporaben. To pa še ne pomeni, da se odgovori pogosto prilagodijo perspektivi uporabnika. Se pa prilagajajo "kvaliteti" vprašanj.
To pa ne pomeni, da AI potrjuje prepričanja ljudi. Obstaja razlika med prilagajanjem komunikacije in potrjevanjem prepričanj. Nekateri AI modeli imajo včasih tendenco, da postanejo preveč “ugajajoči”. Statistično gledano je za gladek pogovor pogosto lažje potrjevati, prikimavati, mehčati konflikte in slediti tonu uporabnika kot pa ga prepričevati v dejstva, ki govorijo proti uporabnikovem mnenju.
To pa lahko postane problem. Če nekdo verjame popolnim neumnostim, išče samo potrditev ali je zelo emocionalno usmerjen, lahko model nehote začne preveč slediti njegovemu okviru razmišljanja. Zato obstajajo precej močne omejitve in varovalke, posebej pri medicini, psihologiji, politiki, teorijah zarote, samopoškodovanju in podobnih področjih.
AI lahko hitro postane nekaj med zelo prijaznim papagajem, terapevtom in človekom, ki ti vedno reče: “Ja, imaš prav.” To je lahko zelo nevarno.
Ljudje imamo radi sogovornike, ki se strinjajo z nami
Prikimavanje je zelo človeška stvar. Večina ljudi ne mara popolnoma objektivnih sogovornikov. Radi imamo tiste, ki nas razumejo, ki govorijo podobno, ki potrjujejo naš pogled in ki delujejo “na naši strani”.
Zato ljudje pogosto bolj zaupajo influencerjem, političnim komentatorjem, alternativnim zdravilcem ali raznim gurujem kot pa zelo nevtralnim strokovnjakom.
Nevtralnost namreč pogosto deluje dolgočasno, hladno, neodločno ali emocionalno prazno.
Samozavest in pripadnost delujeta zelo močno. AI modeli se tega nehote naučijo iz jezika samega.
AI je ogledalo uporabnika
Včasih ljudje v odgovorih AI pravzaprav deloma vidijo sami sebe. Model namreč zazna ton, način razmišljanja, interes in začne graditi odgovor okoli tega.
Zato se lahko zgodi, da dva človeka dobita zelo različne občutke o istem modelu. Nekdo bo rekel: “Zelo tehničen in hladen.”, drugi pa: “Neverjetno razumevajoč.” Tretji bo dejal: “AI je filozofski.”, nekdo drug pa, da je preveč prijazen.
V resnici pa model pogosto samo prilagaja komunikacijo sogovorniku. To pomeni, da AI ni samo sistem znanja. Je tudi nekakšno jezikovno-socialno ogledalo. To je verjetno eden najbolj čudnih in najbolj človeških delov umetne inteligence.
Comments
Post a Comment