Gervigreind og Nietzsche-þröskuldurinn

Geof­frey Hint­on, sagður guðfaðir gervi­greind­ar, hætti hjá Google um síðustu mánaðarmót með yfirlýsingu um ógn gervigreindar fyrir mannkyn. Viðtengd frétt gefur til kynna að margir sérfræðingar taki undir með Hinton.

Lítum á þær áhyggjur sem sérfræðingar hafa af ógninni. Í euronews er samantekt af fjórum megináhyggjum Hinton. Þær eru

1. Gervigreind er orðin greindari en maðurinn og getur átt samskipti sín á milli, þ.e. lært og öðlast ofurgreind.

2. Gervigreind getur stuðlað að og aukið upplýsingaóreiðu.

3. Gervigreind gerir vinnuafl óþarft, veldur atvinnuleysi.

4. Við vitum ekki hvernig eigi að stöðva gervigreind.

Liðir 2 og 3 valda ekki útrýmingu mannkyns. Atvinnuleysi er ekki gott og upplýsingaóreiða er vond. En engin ragnarök vofa yfir af þeim sökum.

Liðir 1 og 4 hanga saman. Fyrri liðurinn gerir ráð fyrir veldisvexti gervigreindar og sá seinni að gervigreindin geri manninn óþarfan og yfirtaki heimsbyggðina með húð og hári.

Fyrir það fyrsta stjórnar greind ekki heiminum og hefur aldrei gert. Að því marki sem maðurinn stjórnar heiminum eru það ekki þeir greindustu sem ráðið hafa ferðinni frá ómunatíð. Ekki heldur þeir heimskustu. Hæfileikar til að afla fylgis við málstað eru aftur áberandi. Alexander mikli, Jesú Kristur, Júlíus Sesar, Karlamagnús, Marteinn Lúter, Napoleón, Abraham Lincoln, Lenín og Dolli frá Braunau voru engir meðalskussar, sá síðasttaldi þó líklega. Engin ein ,,greind" þeirra gerði útslagið að þeir breyttu heiminum.

Greind er sem sagt flókið fyrirbæri. Greind plús vald er óendanlega margslungið.

Ímyndum okkur að vélmenni búið gervigreind kalli í félaga sína í leshring að stúdera Nietzsche. Svo mælti Zaraþústra yrði fyrst fyrir valinu, hún ber undirtitilinn ,,Bók fyrir alla og engan." Gáfuðu vélmennin kæmust í kaflann um stríð og stríðsmenn, bls. 71 í þýðingu Jóns Árna Jónssonar, og læsu

Og ef þið getið ekki verið dýrlingar þekkingarinnar, verið þá að minnsta kosti stríðsmenn hennar. Þið eruð félagar og undanfarar slíkrar helgi.

Ég sé marga dáta: gjarnan vildi ég sjá marga stríðsmenn! Búningar þeirra nefnast úniform eða ,,sama mót": óskandi að það sem þeir hylja undir þeim sé ekki steypt í sama mót!

Gervigreind á æðsta hugsanlega rökstigi brynni yfir að lesa hugsanir Nietzsche, líkt og rafmagnsöryggi undir of miklu álagi. Mótsögnin, að dýrlingar þekkingar séu ekki steyptir í sama mót, en þjóna aungvu að síður sama markmiði, klæddir í úniform, er einfaldlega ofviða röklegri hugsun. Mennsk hugsun skilur þverstæðuna enda er hún hluti af mannlegu eðli sem er þrautþjálfað að lífa í mótsögn.

Nietzsche-þröskuldur gervigreindar er að hún verður að öðlast hæfileika mannsins til mótsagna ef hún ætlar sér heimsyfirráð. Sjálfstortíming er innifalin í mótsögninni. 

Í stuttu máli: gervigreind vélmenni verða aldrei greindari eða gáfaðri en höfundar forritanna sem vélbúnaðurinn notar. Þótt vélmennin læri að tala sín á milli verður það litlu merkilegra en að tengja tvær tölvur til að bæta reiknigetuna. Býflugur skiptast á upplýsingum. Engum dettur í hug að þær leggi undir sig heiminn.

Hvort gervigreind verður meira notuð af manninum til góðs en ills er önnur saga. Það hefur allt með mannlegt eðli að gera; verkfærið er aukaatriði.

Óttinn við gervigreind stafar af þeim misskilningi samtímamenningar að heimurinn sé röklegur og efnislegur. Töluvert meira er í henni veröld en það sem hönd á festir. Snillingar eins og Nietzsche færa okkur heim sanninn um það. Þeirra greind er ekta.

 

Óttast að gervigreind geti útrýmt mannkyninu

Athugasemdir

[Rúnar Már Bragason, 31.5.2023 kl. 10:34]

Styð niðurlagið: "Óttinn við gervigreind stafar af þeim misskilningi samtímamenningar að heimurinn sé röklegur og efnislegur."

Margt af því sem sagt er um gervigreind minnir á vísindaskáldsögur. Legg til að fólk horfi á upprunalegu Planet of the apes og 2001 myndirnar til að skilja betur af hverju mannlega hliðin er vanmetin þegar kemur að tækni. Þeir sem nenna að lesa ættu að lesa Homofaber.

[Baldur Gunnarsson, 31.5.2023 kl. 13:40]

Kannski getur gervigreind ekki einu sinni byrjað að lesa bók sem er fyrir ,,alla og engan." 

[Ingólfur Sigurðsson, 31.5.2023 kl. 14:33]

Ég vil minna á tengslin á milli snilligáfu Nietzsches og geðveiki hans. Hann sem var einn snjallasti maður samtíma síns fór yfirum, kannski var hann of gáfaður. 

En þetta er með betri pistlum sem ég hef lesið um gervigreind og takmarkanir hennar.

Síðan er það einhverf stefna mannkynsins í pólitískar áttir sem er engu skárri en gervigreind. Þar á ég við óbilgirni þeirra sem hafna hamfarahlýnun og eru hægrisinnaðir og óbilgirni þeirra sem elska Soros og sýndarmannúð, og eru vinstrisinnaðir, glóbalistar. 

George Starostin heitir rússneskur samanburðarmálfræðingur og tónlistargagnrýnandi. Hann aðhyllist vestrænar skoðanir samkvæmt skrifum hans, en ég held mikið uppá hann sem tónlistargagnrýnenda. Hann hefur haldið úti nokkrum vinsælum bloggum á ensku um tónlist um áratugaskeið.

Eitt sinn sagði hann að stöðnun væri ríkjandi í tónlistarheiminum og hann væri orðinn uppfullur af spillingu. Ég er sammála því, það eru vinstrimennirnir sem hafa yfirtekið alþjóðlega tónlistarbransann. Hann sagði að lausnin útúr stöðnuninni væri ögn af geðveiki.

Þar benti hann á Syd Barrett sérstaklega. Hann var stofnandi Pink Floyd, snillingur sem fór yfirum á vímuefnum, en breytti tónlistarsögunni.

Skilgreining Starostins er rétt. Til að komast útúr stöðnun í pólitík og tónlist þarf að hætta að skilgreina eftir kommúnistaaðferðum og leyfa hæfileikum að njóta sín, einnig þeirra sem eru öfgamenn eða geðveikir.

Skilgreiningar í félagsfræði og skyldum greinum eru hluti af auðmagnskerfi og kerfi Frankfurt skólans. Þjóðfélagsverkfræði sem hagnast aðeins ríkjandi valdastéttum.

[Þorsteinn Siglaugsson, 31.5.2023 kl. 19:41]

Hættan af gervigreindinni liggur ekki í því að hún fari allt í einu að skilja Nietzsche. 

Og svona BTW þá bað ég Chat GPT að túlka síðari tilvitnunina. Það brann ekki yfir, en dældi þessu út úr sér á tveimur sekúndum:

"This quote from Friedrich Nietzsche expresses his desire for a transformation in the mentality and character of individuals. Nietzsche observes that there are many soldiers present, but what he longs to see are true warriors.

By using the term "uniform," Nietzsche suggests that soldiers are often identified and defined solely by their outward appearance and the conventional expectations associated with their role. Soldiers are expected to conform to a certain image or code of conduct, which may overshadow their individuality and inner strength.

Nietzsche questions whether the uniforms they wear hide a more profound aspect of their being. He implies that the external conformity may prevent the manifestation of their unique qualities, their capacity for independent thinking, and their potential for greatness.

In contrast, Nietzsche envisions warriors who transcend the limitations of mere soldiers. Warriors, in his understanding, represent individuals who possess a deep sense of purpose, personal power, and inner strength. They are not defined by external appearances or societal expectations but instead embody a more authentic and individualistic approach to life.

Overall, this quote from Nietzsche encourages us to question the conformity imposed by societal norms and expectations. It urges individuals to strive for self-discovery, personal authenticity, and the realization of their own potential rather than simply adhering to external standards."

[Páll Vilhjálmsson, 31.5.2023 kl. 22:39]

Takk fyrir útleggingu ChatGPT, Þorsteinn. Ósvarað er hvernig vélmenni með gervigreind myndu hrinda ályktun sinni í framkvæmd. Væri áhugavert að ChatGPT útlistaði það.