Bókasafnið - mar. 2024, Blaðsíða 34

34 Helgi Sigurbjörnsson
að ræða almennar gervigreindir á borð við ChatGPT, Bard, eða Pi höfum við engan möguleika
á að komast að því hvaða gögn voru notuð til að þjálfa gervigreindina.
Óráðsía
Það getur komið fyrir að gervigreindir búi til svör sem eiga sér enga stoð í raunveruleikanum
og vitni í heimildir sem ekki eru til. Þá er talað um að gervigreindin sé með ofskynjanir (e.
hallucinate) en kannski væri betra að segja að þær séu með óráðsíu, enda er ekki um neina
skynjun að ræða. Eftir því sem spjallmennin þróast áfram eru þeim settar fastari skorður til
þess að lágmarka óráðsíuna og vara við henni. Í þessum tilfellum er gott að hafa í huga að
„takmark“ gervigreindarinnar er ekki að segja satt. Í raun er hún ekki að svara spurningum
okkar, heldur greina þau gögn sem hún hefur verið mötuð á og giska svo á þau orð sem eru
líklegust til að hæfa fyrirspurninni. Eða með orðum ChatGPT ef við getum trúað því:
In summary, I function by processing input text, predicting and generating text based
on the patterns and knowledge I’ve learned from vast amounts of pre­training data, and
fine­tuned to be more useful and safe. My goal is to assist users in generating human­like
text and engaging in natural language conversations.
Þessi uppsetning og skilgreining spjallmennisins sem einhverskonar textavélar kemur þó
ekki í veg fyrir að spjallmenni á borð við ChatGPT muni að öllum líkindum taka við hlutverki
leitarvélanna hjá okkur.
Gervigreind mun samkvæmt helstu sérfræðingum breyta sérhverjum iðnaði, vinnuferli og
ég bara veit ekki hverju öðru. Eitt er víst, hún er þegar farin að taka við af leitarvélum og
mun hafa mikil áhrif á starf okkar upplýsingafræðinga.
Spjallmenni eða leitarvélar?
Gervigreindin hefur þegar hafið innreið sína á gresjur leitarvélanna. Fyrst með Siri, Alexu
og Ok Google, en síðar með þróaðri útgáfum á borð við Bard gervigreind Google og Taka
spjallmenni Tiktok. Þá er töluvert af gervigreindum á leiðinni sem er ætlað að vinna með og
leita í fræðiefni. Má þar nefna gervigreindina Scopus AI sem Elsevier er að þróa. Sú gervi­
greind hefur verið þjálfuð á því fræðiefni sem Elsevier hefur aðgang að. Þá má einnig nefna
IRIS.ai sem er þjálfuð á fræðiefni í opnum aðgangi.
Ein gervigreind sem við getum talað um er spjallmennið Assistant sem haldið er úti af
fyrirtækinu Scite_ https://scite.ai/ sem vill vera kallað ChatGPT fyrir vísindi. Eftir því
sem ég fæ best séð er virkni þessara nýju leitartækja í fræðigeiranum nokkuð svipuð, en
þekkingargrunnur þeirra kann að vera mjög mismunandi. Ef við tökum virkni Assistant
by Scite_ sem dæmi, þá hefur hún aðgang að vísindagreinum og getur unnið svör út úr
þeim. Hún á það líka til að fá óráðsíu (þó það gerist sjaldnar en þegar ég fór fyrst að skoða
þetta tæki) eins og ChatGPT og vísa í heimildir sem ekki eru til. En uppsetning hennar er
með þeim hætti að auðvelt er að greina á milli heimilda og óráðsíu, því gerviheimildirnar
færast ekki inn í heimildalistann hjá henni. Notandi spyr Assistant einhverrar spurningar