Íslenskt mál og almenn málfræði - 01.01.2023, Síða 132

Mín niðurstaða er sú að þrátt fyrir marga aðdáunarverða eiginleika
muni þessi mállíkön aldrei öðlast alvöru málhæfni í núverandi mynd.
Þetta er vegna galla í kerfinu — sífellt meira magn gagna getur ekki af sjálfu
sér töfrað fram fullkomið málkerfi. Ég er þeirrar skoðunar að mál líkön séu
ekki fær um að skilja orsakasamhengi, sem er mikilvægur þáttur í því að
ná tengslunum á milli málsins annars vegar og hugmynda okkar um heim -
inn hins vegar. Við manneskjur getum metið og skilið tilteknar setningar
sem við höfum aldrei heyrt áður vegna þess að við erum gædd alvöru
skapandi málkerfi og höfum þróað með okkur skilning á orsakasamhengi.
Þó held ég að mállíkön gætu orðið að mikilvægu tæki í málvísindum á að
minnsta kosti tvennan hátt — í gagnasöfnun annars vegar og í samanburðar -
rannsóknum á málhæfni manna og véla hins vegar — og mun ég fjalla um
þetta í lokakaflanum.

2. Generatíf vél og skapandi mannshugur
Vélnám (e. machine learning) er svið gervigreindar þar sem tölvukerfi læra
að bæta frammistöðu sína í tilteknu verkefni með því að greina gögn og laga
sig að þeim frekar en að treysta á skýra forritun. GPT-4, sem Chat GPT er
byggt á, er stórt mállíkan þjálfað á gríðarlegu textamagni til að finna töl -
fræðileg mynstur í þeim (Wong 2023). Kerfið er generatíft (e. generative) —
um er að ræða málmyndunarlíkan — í þeim skilningi að það treystir ekki
á fyrirfram hönnuð sniðmát fyrir svörin sem það setur saman heldur
myndar (e. generates) svör á nýjan hátt í hvert skipti sem notandinn spyr
um eitthvað. ChatGPT hefur þó ekki hugrænt líkan af heiminum (Marcus
2022) og textinn sem forritið myndar byggir á eins konar námundun (e.
approximation) allra staðreynda og texta sem það hefur plægt í gegnum,
m.ö.o. tölfræðilegum líkindum um það hvaða orð væru líkleg til að koma
á eftir orðunum strax á undan (Chiang 2023). Eins aðdáunarvert og þetta
er sem tölvunarfræðilegt afrek eru svör líkansins frekar óáreiðanleg, því
að vegna skorts á líkani af heiminum er kerfið ófært um að túlka heiminn
og draga áreiðanlegar ályktanir um hann (sjá Chiang 2023 og Bogost
2022). Ef notandinn þekkir efnið sem spurt er um ekki fyrir getur hann
ekki verið viss um að svörin sem ChatGPT veitir honum séu rétt og því
er gagnsemi kerfisins takmörkuð.
Noam Chomsky, Ian Roberts og Jeffrey Watumull setja fram harka-
lega gagnrýni á ChatGPT í nýlegri grein í The New York Times: „[W]e
know from the science of linguistics and the philosophy of knowledge
that [LLMs] differ profoundly from how humans reason and use lan-
Mikael Lind132