Það er ekki kassi, það er fata

Ég ætlaði að taka upp samtal og gleymdi að ýta á record. Við vorum heppnir, við vorum rétt að byrja. En það var samt áminning um eitthvað sem við enduðum á að tala um í næstum hálfan annan tíma: að við höfum enga tryggingu fyrir neinu. Ekki einu sinni fyrir því að hinn aðilinn sé raunverulega til staðar.

Í nýjasta þætti af Temjum tæknina ræddi ég við Pietro Segreto, doktorsnema við Tor Vergata-háskólann í Róm. Hann rannsakar hvernig gervigreind breytir útgáfugeiranum. Við höfðum talað saman tveimur vikum áður og fundið strax að það samtal hefði átt að vera þáttur. Svo við héldum engu eftir.

Hvað gerir útgefandi eiginlega?

Ég byrjaði á barnalegu spurningunni: verður til útgáfugeiri eftir tíu ár?

Pietro sneri henni við. Spurningin er ekki hvort bækur lifi af, heldur hvað útgefandi sé í raun og veru. Ef þú bindur útgefandann við hlutinn, við bókina, þá ertu að misskilja starfið. Útgefandi er sá sem velur. Sá sem finnur efni, ákveður hvað eigi að birta, vinnur það og kemur því á framfæri. Hann orðaði það svona: útgefandinn er "someone that makes a choice".

Það sem breytist, sagði hann, er ekki valið heldur leiðin. Stóru fræðiútgefendurnir, Elsevier, Springer, Wiley, eru þegar hættir að selja þér bara bækur. Þeir selja þér þjónustu ofan á gögnin sín. Þeir leigja gögnin til stóru gervigreindarfyrirtækjanna. Útgefandinn uppgötvar að fyrirtækið hans er í raun gagnasafnið hans, og spurningin verður hvernig hann vinnur úr því.

Þarna kom fyrsta tengingin sem sat í mér. Fyrir ekki svo löngu sendi ég Pietro skjal: yfirferð mína yfir nokkur þúsund ár af mannkynssögu út frá rituðum heimildum. Ástæðan er einföld. Það sem við vitum um fortíðina vitum við af því að einhver skrifaði það niður og einhver geymdi það. Skrifarinn, munkurinn, prentarinn. Þeir voru hliðverðir þekkingar milli kynslóða. Þeir völdu hvað bærist áfram.

Ég held að útgáfa muni snúast miklu, miklu meira um eitthvað sem ég kalla í huganum S-tier sannprófun. Gæðaeftirlit. Raunprófun á upplýsingum. Þverfaglegt eðli er ekki lengur valkostur, það er forsenda. Þú getur ekki lengur falið þig á einni grein.

Glerkassinn frá 1423

Ég var að skrifa smásögu upp úr lokaritgerðinni minni og sagði Pietro frá henni.

Sagan gerist í ættbálki sem fær glerkassa. Í kassanum er öll þekking mannkyns fram til ársins 1423. Þú getur spurt kassann og hann svarar, en hann veit ekkert eftir 1423. Og samfélagið staðnar. Það hættir að finna upp. Það hættir að spyrja. Það stendur kyrrt, því kassinn kann allt sem þarf að kunna.

En auðvitað fæðist stúlka sem er svolítill uppreisnarseggur. Hún spyr ekki kassann. Hún fer sjálf og fiktar og finnur eitthvað nýtt. Svo kemur hún með það til kassans og kassinn segir: ég veit ekki hvað þetta er. Geturðu kennt mér? Kennt þér hvað? Ég skil þetta ekki.

Þegar vélin sá eitthvað sem hún hafði aldrei séð áður, eitthvað sem var ekki í þjálfunargögnunum, þá spurði hún: geturðu kennt mér? Geturðu þjálfað mig?

Það er nákvæmlega það sem við erum að gera. Með þessu hlaðvarpi, með öllu saman, erum við að búa til ný þjálfunargögn sem fyrsta kynslóð manna sem talar við stór mállíkön. Ég held að við vanmetum þjálfunargögnin að baki þessum líkönum og ofmetum á sama tíma hvað þau geta sagt okkur um samfélag sem þau hafa sjálf aldrei lifað í. Líkönin hafa engin gögn um mannlegt samfélag sem býr með gervigreind. Þau gögn erum við að skrifa, núna, í fyrsta sinn.

Við göngum með skuggunum okkar

Einhvers staðar í samtalinu bað Pietro mig að skilgreina gervigreind. Ekki vísindalega skilgreiningu, heldur mína eigin, hvernig ég finn hana.

Ég sagði: þetta er ég að tala við gögn. Þetta er skuggi, framlenging af mér að tala við gögn. Og þegar þú áttar þig á því, þá geturðu magnað sjálfan þig.

Það er ekki gervigreind í þeim skilningi sem orðið gefur til kynna. Við erum bara að ganga með skuggunum okkar allan daginn, því þetta er tölfræðilegur skuggi. Og skugginn er gerður úr fortíðinni. Gögn koma alltaf úr því sem þegar er liðið. Þetta er vél sem horfir aftur á bak.

Pietro orðaði þetta betur en ég: gögnin eru skugginn þinn, en það ert samt þú sem þarft að ákveða leiðina fram á við. Vélin endurraðar, umorðar og endurtekur það sem við eigum þegar. Það sem hún getur ekki er framsýnin. Sú sjaldgæfa, erfiða geta að horfa fram á tíma sem engin gögn ná yfir. Það er, held ég, mannlega starfið.

Ég hef gengið í gegnum tímabil þar sem mér leið eins og þetta myndi allt fara hræðilega. Ekki þunglyndi, en svona "guð minn góður, þetta verður skelfilegt". Ég fór líka í gegnum það sem ég kalla faglega sorg. En ég er kominn í sáttafasann núna. Og sáttin kom með skilningnum: skugginn er ekki sá sem stýrir. Ég stýri.

Afmælið hennar Mathildar

Yngsta dóttir mín verður sex ára um miðjan júní. Við verðum á ferðalagi um helgina, svo ég gerði henni afmælisapp.

Ég settist niður með henni og við áttum lítið samtal. Notuðum tal-í-texta. Hvað viltu á afmælinu þínu? Einhyrninga. Lög. Svo sagði ég kerfinu mínu: búðu til afmælisapp fyrir hana, ég vil tónlist, myndir og myndbönd. Það var allt og sumt sem ég lagði inn. Og um kvöldið var þetta komið upp á sjónvarpsskjáinn í afmælinu, með tíu sérsömdum lögum og fljúgandi einhyrningum.

Pietro spurði, og hann mátti til, hvort þetta væri raunverulega sköpun. Því á endanum sé þetta bara framleiðsla á einhverju sem hefur sést áður.

Ef við förum eftir þrengstu skilgreiningunni á sköpun er sú leið erfið fyrir okkur öll. Tónlist er endurunnin. Sögur eru endurunnar. Við erum mótuð af öllu sem við höfum heyrt og séð. En sköpunin í afmælisappinu, hún var ekki í keyrslunni. Hún var í samtalinu. Neistinn varð til milli mín og Mathildar, í spurningu frá föður til barns: hvað viltu á afmælinu þínu? Það var öll sköpunin sem þurfti. Restin var vinna.

Og kerfið mitt veit að það er ekki hluti af því samtali. Ég sat bara með símann og tók upp hrátt samtal milli mín og hennar. Því það sem gervigreindin þarf er ímyndunarafl, forvitni, draumar, innblástur. Hún þarf sálina okkar. Það er þaðan sem hún fær eitthvað til að vinna úr.

Þetta er sama hugsun og liggur í skólanum heima. Kennari er stofnun, en mikilvægustu kennararnir í lífi dætra minna erum við, ég og konan mín. Þær herma eftir okkur. Þær eru skugginn okkar, alveg eins og líkanið er skugginn minn. Líf þeirra mótast af því sem þær upplifa á hverjum degi í gegnum okkur. Þess vegna snýst þetta minna um hvaða tæki þær fá í hendurnar og meira um hvernig við lifum fyrir framan þær.

Það er ekki kassi, það er fata

Hér kom leiðréttingin sem gaf þættinum nafn.

Í sögunni minni áttar litla samfélagið sig á einu undir lokin. Þetta er ekki kassi. Þetta er fata. Kassi er lokaður, bundinn við 1423. Fata er eitthvað sem þú heldur áfram að fylla. Hlutverk hverrar kynslóðar er að bæta góðu efni í fötuna fyrir þá næstu.

Og það er nákvæmlega það sem útgefendur hafa alltaf gert. Frá því fyrsta sem var nokkurn tíma gefið út. Það var fyrsti dropinn í fötu upplýsinganna. Þetta eru sömu upplýsingarnar og alltaf, sama þekkingin að færast milli handa. Það er ekkert nýtt við gervigreindina að þessu leyti. Hún keyrir bara hraðar.

Mér finnst það róandi. Ekki vegna þess að ekkert hafi breyst, heldur vegna þess að starfið er það sama og það hefur alltaf verið. Velja vel. Sannreyna. Bæta í fötuna. Skugginn hraðar keyrslunni, en hann ákveður ekki hvað á heima í fötunni. Það gerum við.

Þetta verður ekki sléttur vegur. Mannsævin er stutt og við erum að fást við eina dýpstu tæknibreytingu mannkynssögunnar, og við sjáum ekki fyrir endann á henni. Opus 4.8 kom í síðustu viku, og það er bara enn eitt lagið ofan á. Fyrir mörg heimili, mörg fyrirtæki, marga, verður þetta hörð ferð, og hún tekur kynslóðir. En vélin lærir ekki fyrir okkur. Hún man bara það sem var. Það er okkar að ákveða hvað kemur næst, og að setja það góða í fötuna áður en við réttum hana áfram.

Undir lokin sagði Pietro: ef einhver horfði á okkur utan frá værum við bara að gefa frá okkur einhver hljóð. Tveir menn að tala saman gegnum ljósleiðara, frá Ítalíu til Íslands. Hann kallaði samtalið soul stone, sálarstein, sem ég gæti smellt inn í kerfið mitt og leyft því að dreifast inn í allt sem ég geri.

Kannski er það rétt. En þá er það að minnsta kosti dropi sem ég valdi sjálfur.

Þetta er bloggdrög, skrifuð upp úr hreinsuðu vinnuumriti þáttarins með aðstoð gervigreindar og ritstýrð í minni rödd. Samtalið fór fram á ensku; tilvitnanir eru þýddar og þarf að bera saman við hljóðið áður en færslan fer í lokaútgáfu. Þátturinn er enn í vinnslu.