Gervigreind: rusl inn, rusl út

Gervigreind gerði tæplega 800 alsaklausa Breta að sakamönnum, um 240 enduðu í fangelsi. Aðrir misstu æru og tiltrú samborgaranna, einhverjir tóku eigið líf og fjölskyldur splundruðust.

Gervigreindin sem ósköpin orsakaði er forrit sem breski pósturinn, Post Office, keypti um aldamótin til að fylgjast með fjárreiðum pósthúsa vítt og breitt um Bretaveldi. Sjálfstæðir verktakar sjá um rekstur pósthúsanna, kallaðir póstmeistarar, samkvæmt samningi. Auk póstþjónustu fara lífeyrisgreiðslur í gegnum pósthúsin.

Gervigreindin, forritið, heitir Horizon og er frá jap­anska fyr­ir­tæk­inu Fujitsu. Fljótlega eftir innleiðingu ,,uppgötvaði" gervigreindin að ekki væri allt með felldu í fjölmörgum pósthúsum. Engum datt í hug að kannski væri forritið gallað. Breski pósturinn kærði fjölmarga póstmeistara og réttarkerfið tók upplýsingar gervigreindarinnar góðar og gildar. Saklausir fengu dóm. Skilningslaus gervigreind réð ferðinni. Útkoman var réttarmorð.

Hörmungarsagan er rakin í sjónvarpsseríu með hetjunni sem afhjúpaði hneykslið. Skapari gervigreindarinnar biðst afsökunar. 

Málið dautt?

Ekki alveg. Gervigreind á pari við Horizon-forritið ræður ferðinni víðar en hjá breska póstinum. Allar hamfaraspár um hlýnun jarðar af mannavöldum byggja á gervigreind. Forrit, yfirleitt kölluð tölvulíkön, mæla fyrir um að jörðin verði óbyggileg eftir 10, 20 eða 50 ár. Forritin byggja á á forsendum forritara. Allur þorri þeirra er á launum við að búa til heimsendaspár. Ef spárnar eru ekki nógu dramatískar er forsendum breytt.

Þetta er allur galdurinn við gervigreindina. Rusl inn og rusl út.

Nei, bíðum við. Er ekki komin gervigreind sem skilur mælt mál, getur brugðist við upplýsingum og breytt forsendum, t.d. í samræmi við nýjustu vísindarannsóknir?

Í raun ekki. Gervigreind er, og verður aldrei, neitt meira en forsendurnar sem henni eru gefnar. Gervigreindin getur prjónað sér nýjar forsendur úr öllum heimsins gagnabönkum, en hún verður aldrei ríkari af skilningi þótt magn upplýsinga aukist og úrvinnslan batni. 

Upplýsingar, hráar staðreyndir, eru eitt. Skilningur er allt annað. Til að skilja þarf upplýsingar en upplýsingar eru ekki skilningur.

Sumir trúa að gervigreind umbreyti heiminum. Hér er eitt dæmi:

Gervigreind sem getur greint hvern og einn nemanda, þekkir sögu þeirra, þarfir og sérsniðið námsefni og námseftirlit.

Nei, gervigreind getur ekki ,,þekkt" nokkurn nemanda, enn síður ,,þarfir" viðkomandi. Til að þekkja einhvern þarf meira en upplýsingar.

Eitt einkenni skilnings er hann er háður aðstæðum sem eru meira en safn upplýsinga. En það eina sem fer inn í gervigreind eru upplýsingar. Afurð gervigreindar er aðrar upplýsingar. Upplýsingarnar sem fara inn meðhöndlar gervigreindin með forriti, fyrirskipanir sem kallast forsendur. Upplýsingarnar sem koma út eru nefndar niðurstöður. Þær geta verið réttar, rangar eða út í bláinn.

Jafnvel þó að allar heimsins upplýsingar fái meðhöndlun samkvæmt allra bestu forsendum er óvíst með útkomuna, hvort hún haldi máli.  

Í mannheimi er ýmislegt annað en upplýsingar. Fegurð til dæmis og ást. Réttlæti líka, eins og póstmenn í Bretlandi fundu á eigin skinni er þeir fóru á mis við það. 

 

 

 

 

 

 

 

Athugasemdir

[Rúnar Már Bragason, 17.1.2024 kl. 10:05]

Vel orðað og góð greining. Túlkun hluta er það sem gervigreind er ófær um enda bara gervi. Það að koma með niðurstöðu út frá ákveðnum breytum er ekki það sama og túlkun á efninu.

[Arnór Baldvinsson, 17.1.2024 kl. 14:42]

Þetta var nú bara ósköp venjulegt bókhaldsforrit með alvarlegum villum og hafði ekki nokkurn skapaðann hlut að gera með gerfigreind!  Þú þarft að afla þér þekkingar áður en þú ferð að blaðra um hluti, sem þú augljóslega veist nákvæmlega ekkert um.  Ekki að það hafi nokkurntíma stoppað fólk, sem er illa haldið af athyglissýki og framleiðir "staðreyndir" um allt og alla.  Eins og svo oft áður framleiðir þú staðreyndir fyrir fólk, sem byggja á algjöru kunnáttu- og þekkingarleysi og enginn af já-fólkinu góða nennir að skoða svolítið ofan í kjölinn, því þá raknaði prjónaskapurinn fljótt upp!