MajaAli poznaš chatbote?
In – ali veš, kaj ti roboti počnejo in kako?
V zadnjem mesecu se je spet začelo veliko govoriti o tako imenovanih chatbotih.
Gre za računalniške algoritme, s katerimi se lahko pogovarjamo; lahko bi jim rekli tudi pogovorni roboti.
Razlog za njihovo priljubljenost je novi algoritem, ki se pri odgovorih veliko bolje odreže kot njegovi predhodniki.
Pred nekaj leti je moralo podjetje Microsoft že nekaj dni po zagonu ugasniti pogovorni algoritem po imenu Tay.
Ta naj bi predstavljal zvedavo najstnico, ki se z veseljem pogovarja in se še z večjim veseljem uči od svojih sogovornikov.
Svoje sogovornike je algoritem iskal na omrežju Twitter.
Kar se je zgodilo v kratkem času, je presenetilo ustvarjalce algoritma, ni pa presenetilo poznavalcev družbenih omrežij in strokovnjakov, ki se ukvarjajo z vedenjem ljudi in družbe v celoti.
»Najstnica« Tay je že v nekaj dneh postala ekstremistka.
Odločno je zagovarjala najbolj ekstremna mnenja o ljudeh, ki prihajajo iz drugih kultur, imajo temnejšo kožo ali prepričanje, ki se loči od prepričanja večine uporabnikov omrežja.
Navduševala se je na primer nad Hitlerjem in si želela, da bi vse temnopolte in njihove otroke zaprli v koncentracijska taborišča in »opravili z njimi«.
Želela si je, da pride v ZDA na oblast nekdo, ki bo k reševanju družbenih vprašanj pristopil na enak način.
Vir: Best (Worst?) of Tay (Microsoft’s rogue AI)
Po negativni izkušnji s Tay so mnoga podjetja, ki se ukvarjajo z uporabo strojnega učenja (ki mu rečemo tudi kar umetna inteligenca), zaustavila izdelavo pogovornih algoritmov.
Zdaj se je navdušenje nad njimi spet vrnilo. V novi chatbot po imenu ChatGPT so ustvarjalci pri programiranju dodali posebne varovalke.
Robot lahko celo zavrne odgovor na zastavljeno vprašanje.
Toda ob tem se pojavijo drugi pomisleki.
ChatGPT je zelo zgovoren, samozavesten in prepričljiv.
Njegovo navidezno znanje izhaja iz velike količine različnih informacij in vsebin, do katerih lahko dostopa.
Ob tem lahko poda tudi odgovore, ki zvenijo zelo verodostojno in prepričljivo, v resnici pa gre za ugibanje povezav med dejstvi oziroma za popoln blef.
Tu pa bi se lahko skrival celo nov vir dezinformacij, ki se širijo po spletu.
Ljudje namreč dokazano vse preveč radi verjamemo informacijam, ki nam jih poda tehnologija.
Ta pojav ima ime. Rečemo mu automation bias, kar bi lahko prevedli kot slepo zaupanje v tehnologijo.
Morda bodo chatboti lahko v prihodnosti postali vir informacij, a to se očitno ne bo zgodilo kmalu.
Slovarček
Blefirati pomeni slepiti, pretvarjati se, da nekaj (po)znaš; pretvarjati se, da je kaj drugačno od resničnega.
Za razmislek
- Čemu vse bi lahko služili chatboti?
- Kako hitro preveriš, ali je odgovor pogovornega robota pravilen?
- So chatboti uporabni?
Časoris
