Lesbók Morgunblaðsins - 29.10.2005, Blaðsíða 20

20 | Lesbók Morgunblaðsins ˜ 29. október 2005
Á
ður en lagt er af stað með að
reyna að skapa meðvitaða vél
hljótum við að þurfa að spyrja:
Hvað er það þá nákvæmlega
sem við erum að reyna að gæða
kerfið? Hverju þarf að bæta við
það?
„Þegar gervigreindarsviðið varð til upp úr
miðri síðustu öld einblíndu menn mjög á rökleg
ferli hugsunar, þau ferli sem okkur mannfólk-
inu finnst flókin og erfið. Þetta leiddi til þess að
menn fóru t.d. að rannsaka leiki eins og skák,
sem talin hafa verið til vitnis um hugræna yfir-
burði mannsins yfir
aðrar dýrategundir.
Það kom í ljós að ekk-
ert geigvænlega erfitt
var að líkja eftir ýmsum röklegum ferlum, búin
voru til svokölluð sérfræðikerfi (e. expert
systems) sem gátu greint sjúkdóma, fundið olíu
og leyst önnur slík verkefni. Þeim var að vísu
alltaf beitt af sérfræðingum og það sem reynd-
ist flóknara var að láta þessi kerfi sjá stærra
samhengi þannig að þau vissu t.d. að dauðir
hlutir geta ekki fengið rauða hunda, þótt það
séu rauðar doppur á sumum þeirra. Þetta
vandamál eru menn enn að glíma við í dag. Að
sjá hlutina í samhengi er það sem við köllum oft
heilbrigða skynsemi og eins og er hefur enginn
þorað að takast á við að gæða vél heilbrigðri
skynsemi, með örfáum undantekningum. Ef við
reynum að beita þeim aðferðum sem notaðar
eru til að tákna þekkingu í leikjum lendum við í
verulegum vandræðum. Nú eru rannsóknir á
skynjun að færast í aukana, ásamt túlkun á
skynhrifum og samspili milli skynfæra. Það má
segja að það sé ef til vill fyrsta stig meðvitundar
að vita af umhverfi sínu, það er að segja þessi
hjúpur upplýsinga sem streymir stöðugt í gegn-
um skynfærin og heilbrigð skynsemi hjálpar
okkur að sortera og vinna úr. En stóran hluta
þess sem hugur okkar gerir dags daglega erum
við ekki meðvituð um. Ef það er blaut málning á
veggjunum sem við stöndum við munum við
ekki baða út handleggjunum til að sýna hvernig
fuglar fljúga án þess að færa okkur fyrst frá
veggnum. Við þurfum ekki einu sinni að hugsa
um það; undirmeðvitundin – sem er ein tegund
meðvitundar – sér um það. Þegar þetta bregst
líður okkur eins og hálfvitum. Á hverri sekúndu
er hugur manns að taka tugi slíkra ákvarðana.
Skilningur á samhenginu sem fæst gegnum
samspil skynfæra hins vakandi huga er næsta
skref í áttina að skilja meðvitund.“
Er almenna þekkingin ekki að mestu leyti
áunnin? Manneskjur hafa ósköp litla „heil-
brigða skynsemi“ þegar þær koma í heiminn og
svo tekur það manneskjurnar, sem eru mjög
flókin kerfi, langan tíma að byggja hana upp.
Gæti vél öðlast þekkinguna fyrirfram eða þyrfti
að gera henni kleift að þróast og læra?
„Hugsanlega. Það gæti líka einfaldlega verið
hagstæðast að láta slíka vél þróast. Það getur
líka verið að það sé í eðli sínu nauðsynlegur
þáttur í því að búa til svona kerfi. Í stað þess að
bæta við einum kubbi í senn, eins og þegar mað-
ur byggir hlutina í höndunum, getur maður sett
einhvers konar segulmagn milli kubbanna og
hrist þá í lokuðum kassa. Ef segulmagnið milli
kubbanna er rétt og reglurnar sem segja til um
það hvernig segulmagnið breytist yfir tíma og
út frá hliðaráhrifum annarra kubba þá getur
komið höll út úr kassanum. En sú röksemda-
færsla að við verðum að fara þessa leið hefur
hins vegar athyglisverðar afleiðingar: Regl-
urnar sem stjórna samsetningu heilans eru kóð-
aðar í genum. Það dettur engum í hug að hægt
sé að smíða heildargenamengi lífveru í hönd-
unum. Þá þurfum við að smíða eftirlíkingu þess
þróunarkerfis sem bjó til genamengið. Til að
smíða það þarf ansi langan tíma og ansi mikið
reikniafl. Við það seinkar þeim degi að við get-
um búið til eftirlíkingu af mannshuganum, um
hugsanlega hundrað ár eða meira. Aftur á móti
held ég að það geri sér enginn grillur um að við
getum smíðað mannsheila í höndunum, með
1010 taugafrumur sem hver um sig hefur milli
tvö og fimm þúsund tengingar. Við hljótum því
að spyrja þeirrar spurningar hversu nauðsyn-
legar þessar smæstu einingar, taugarnar, séu
til þess að kerfið virki eins og það gerir. Við get-
um smíðað skýjakljúf án þess að raða hverju
einasta sandkorni á sinn stað svo fremi sem
mótin og stálgrindin þjóni sínu hlutverki.“
Greindin er eins og vistkerfi
Hvert er sambandið milli greindar, sem tekist
hefur að gæða tölvur að einhverju marki, og
meðvitundar eins og við þekkjum hana? Hvaða
skilning leggur þú í þessi hugtök?
„Greind er hæfileiki kerfis til að breyta um-
hverfinu úr einni stöðu í aðra þar sem seinni
staðan er eitthvert markmið sem sett var í upp-
hafi. Meðvitundarhugtakið er, eins og fram hef-
ur komið í mörgum fyrirlestranna, hægt að
túlka á ýmsa vegu. Ég hef áhuga á öllum þess-
um túlkunum enda er meðvitundin margþætt
fyrirbæri en ég myndi ekki segja að þau hafi öll
sama vægi þegar kemur að því að smíða vélar í
mynd okkar. Viss tegund meðvitundar er nauð-
synleg til þess að greind geti birst í þeirri mynd
sem við þekkjum hana best, það er að segja eins
og hún birtist í dýrum og mönnum. Sú greind er
reyndar ólík því sem margir í gervigreind eru
að vinna með. Það sem hefur gerst á seinni ár-
um er að sviðið hefur greinst í sundur og farið
er að rannsaka ýmsa smærri þætti greindar
þótt heitinu „gervigreind“ hafi verið haldið. Það
eru stundaðar rannsóknir á líkönum af tauga-
frumum, tölvusjón, áætlanagerð, talgreiningu
og fleiru. Ég held að almenningur eigi oft erfitt
með að kyngja að þessir þættir séu kallaðir
greind, svona einir og sér og er sjálfur mun
hrifnari af hugmyndinni um heildræna gervi-
greind sem byggist á því að greind felist, eðli
sínu samkvæmt, í samspili margra þátta, mjög
samstiga samspili. Eftir því sem við tökum
fleira í burtu líkist hluturinn sífellt minna
greind. Við getum líkt greindinni við vistkerfi
eða hagkerfi: Því fleiri þætti sem við fjarlægj-
um úr kerfunum þeim mun minna líkjast þeir
hagkerfi eða vistkerfi. Á einhverjum punkti
myndu flestir segja að þetta væri ekki lengur
hagkerfi, þótt fræðilega séð falli það ef til vill
enn innan hagfræðisviðsins. Mjög fáir eru að
vinna í því að reyna að setja saman stór kerfi en
það er einmitt sú aðferð sem ég held að sé væn-
legust til árangurs við rannsóknir á greind og
meðvitund.“
Hversu langt erum við komin á veg með að
skapa heildræna gervigreind?
„Mjög skammt. En við stöndum á miklum
tímamótum einmitt núna vegna þess að hugsun
er útreikningar og reiknigeta er alltaf að falla í
verði. Ef við lítum aftur til Charles Babbage og
„mismunavélarinnar“ (e. difference engine)
hans eða Konrad Zuse og Z1, sem var fyrsta
stafræna tölvan, sjáum við að það hefur verið
veldisvöxtur í reiknigetu per krónu síðustu
rúmlega hundrað ár. Það þýðir að eftir um það
bil tuttugu ár munum við geta keypt tölvu með
reiknigetu mannsheilans á eitt hundrað þúsund
krónur. Þess vegna eru næstu tuttugu árin
mjög spennandi og merkilegur tími í sögu
gervigreindar og skilnings okkar á greind og
hugsun almennt. Ég reikna reyndar með að það
taki talsvert lengri tíma að öðlast fullan skilning
á meðvitundinni, en ég tel að flestum stóru
spurningunum varðandi greind verði svarað
innan þrjátíu ára.“
Meðvitund manns og amöbu
Á greinarmunurinn sem þú gerir milli greindar
og meðvitundar eitthvað skylt við þann grein-
armun sem sumir fræðimenn gera á milli með-
vitundar um heiminn og meðvitundar um sjálf-
ið?
„Alls ekki. Ég myndi aldrei skilja svona á
milli viðfangsefna meðvitundar, vitundar eða
þekkingar. Ég tel að meðvitund um umhverfi
og meðvitund um sjálfið sé hvort tveggja með-
vitund um raunveruleg fyrirbæri. Meðvitund er
hins vegar ekki það sama og upplifunin sjálf,
það er að segja hvernig við upplifum hlutina.
Kerfi, hvort sem það er maður, kakkalakki eða
amaba, getur verið meðvitað um eitthvað í um-
hverfinu án þess að upplifa það. Hjá okkur virð-
ist hins vegar upplifun vera nátengd meðvit-
undinni.
Með upplifun á ég við það sem er kallað
„phenomenal experience“, sú upplifun sem
breytist svo geigvænlega þegar við sofnum, er-
um undir áhrifum áfengis eða í roti. Öll efnaferli
og rafferli í heilanum virka svo að segja eins,
hvort sem við erum sofandi eða vakandi, en það
sem breytist er upplifun okkar af því sem er að
gerast í kringum okkur. Auðvitað er heilastarf-
semin önnur þegar við liggjum í roti en þegar
við erum vakandi en í eðli sínu hagar hver taug
sér alveg eins, hún sendir bara og tekur á móti
rafboðum. Samt gerist eitthvað þegar við rönk-
um við okkur sem fær okkur til að segja ég er
hér og ég er til. Það er í eðli sínu öðru vísi en
það sem gerist nú þegar við kveikjum á jafnvel
hinu flóknasta tæki.“
Lítur þú svo á að meðvitund geti aðeins orðið
til í ákveðinni tegund efnis, til dæmis því sem
líkaminn og heilinn er gerður úr, eða í hvaða
efni sem er? Ef við teljum að hægt sé að gæða
tölvu meðvitund þá takmarkast möguleikinn
væntanlega ekki alfarið við lífrænt efni.
„Ég er efnishyggjumaður að því leyti til að ég
vil ekki gera upp hug minn fyrr en búið er að
rannsaka þetta. Spurningin er: Hvernig verður
upplifun, til? Hvað þarf til til að kerfi geti upp-
lifað hluti eins og við segjumst öll upplifa þá?
Augljóslega verða meðvitund og upplifun til í
efnisheimi og ef við álítum að það sé hægt að
endurtaka það sem á sér stað í heilanum inni á
rannsóknarsetri þá getum við ímyndað okkur
að það megi hugsanlega gera á tvennan hátt.
Annars vegar getum við gert ráð fyrir því að
upplifun muni verða til í kerfi, ef við röðum hlut-
unum rétt saman, út frá víxlverkunaráhrifum
þeirra. Þetta er verkhyggjuskýringin (e.
functionalist). Þá gildir einu hvaða frumeindir
eða sameindir eru notaðar, það sem skiptir máli
er spil og samspil eininganna í kerfinu. Hins
vegar getum við haldið því fram að það sé eitt-
hvað í eðli lífræns efnis sem gerir upplifun
mögulega og þess vegna þurfum við að finna
réttu efnin og setja þau saman. Uppröðunin
hlýtur auðvitað alltaf að skipta máli en spurn-
ingin er hvort efnið sjálft skipti líka máli. Það er
hægt að setja spurninguna í einfaldan búning
sem þá spurningu hvort við getum látið venju-
legar borðtölvur upplifa hluti ef við hefðum
rétta forritið. Þá spurningu glími ég meðal ann-
ars við í fyrirlestrinum.“
Löggjöf um siðferðilega stöðu vélmenna
Hvaða siðferðilegu afstöðu hefurðu til viðleitni
mannvera til að skapa meðvitað kerfi?
„Ef við smíðum vélmenni sem er í einu og öllu
eins og manneskja nema að því leyti að það get-
ur ekki fundið til þá er það vélmenni bara verk-
færi. Kerfi sem er meðvitað í vélrænum skiln-
ingi, það er að segja kerfi sem veit án þess að
upplifa, getur ekki fundið til og er þar af leið-
andi ekki siðferðisvera. Aftur á móti á það eftir
að koma í ljós hvort yfirleitt sé mögulegt að búa
til vél sem er í einu og öllu eins og manneskja
utan frá séð án þess að vera með einhvers konar
tilfinningar og upplifanir. Ég hugsa að það séu
um fimmtíu til hundrað ár þar til við getum
svarað þessu.“
Hvernig getum við sagt með vissu hvort slíkt
vélmenni hefði upplifanir?
„Það er góð spurning. Það er ákveðið vanda-
mál hérna á ferðinni sem við munum aldrei
losna við. Það væri hugsanlega hægt að leiða
líkur að því með því að gera skipulagða upp-
skurði á mannsheila og bera hann saman við
hegðun kerfisins sem við erum að smíða – skoða
gaumgæfilega hverjar samsvaranirnar eru á
milli upplifunar og efnislegra eiginleika kerf-
anna. En slíkt væri glæpastarfsemi – við meg-
um ekki gera uppskurði í tilraunaskyni á
mannsheilum – og sviðið mun alltaf „líða“ fyrir
það. Það næsta sem við komumst þessu er að
smíða stór gervigreindarkerfi og reyna að gæða
þau upplifunum. Til þess að komast að því hvort
þau upplifa yrðum við auðvitað að gefa þeim
hæfileika til að tala.“
En ef við vitum að vél hefur upplifanir, þótt
hún líti ekki endilega út eins og manneskja, höf-
um við þá ekki siðferðilegar skyldur gagnvart
henni?
„Það væri virkilega undarlegt fyrirbæri. Ég
held að við ættum mjög erfitt með að bera
kennsl á slíka vél sem upplifandi kerfi og að
ákvarða hvernig við ættum að bregðast við. Áð-
ur en við komumst á það stig finnst mér líklegt
að við munum rannsaka og skilja betur hvernig
upplifanir kakkalakkar, flugur og aðrar einfald-
ar lífverur hafa samanborið við menn. Fáir eiga
í siðferðisvandræðum með að stíga á kakka-
lakka og það er spurning hvort þessi fyrstu
meðvituðu kerfi sem hefðu upplifanir myndu
ekki vera líkari kakkalakka en okkur. Það væri
mjög merk uppgötvun ef við svo kæmumst að
því, eða gætum leitt líkur að því, að kakkalakk-
ar hefðu engar upplifanir. Það myndi líklega
þýða að gervimeðvitund – tækist okkur að
smíða eina eða tvær slíkar – yrðu að hafa eigin-
leika flóknari dýrategunda. Þá myndu tilraunir
með slík kerfi verða meir vandkvæðum bundn-
ar. Hins vegar finnst mér reyndar líklegt að í
framtíðinni verði lög sett um siðferðislega stöðu
vélmenna löngu áður en þau fara að finna til –
einfaldlega vegna þess að þau munu líkjast okk-
ur nægilega til að við upplifðum þau sem sið-
ferðis- og tilfinningaverur. Það yrði hreinlega
óbærilegt að lifa í heimi sem verndaði ekki slík-
ar vélar með lögum.“
Af kjötvélum og vélmennum
Eftir Steinar Örn Atlason
og Þórdísi Helgadóttur
thordith@hi.is
Steinar Örn er heimspekinemi og
Þórdís er BA í heimspeki.
Í dag klukkan 14 flytur Kristinn R. Þórisson
fimmta fyrirlesturinn í fyrirlestraröðinni
„Veit efnið af andanum? Af manni og meðvit-
und“ sem nefnist ,,Vélvitund, meðvitund og
sjálfsvitund í kjötvélum og vélmennum“.
Kristinn er með doktorsgráðu í gervigreind-
arfræðum frá MIT og gegnir stöðu dósents
við Háskólann í Reykjavík auk þess sem hann
er annar forstöðumanna Gervigreindarset-
urs HR. Í fyrirlestri sínum mun Kristinn
skýra frá nokkrum skilgreiningum á meðvit-
undinni út frá sjónarhóli gervigreindarinnar
og leitast við að sýna fram á hvernig hægt er
að skapa meðvitund í vélmenni. Fyrirlest-
urinn fer fram í Odda, stofu 101, hann er öll-
um opinn og aðgangur er ókeypis. Hér á eftir
fer viðtal við Kristin.
Kristinn R. Þórisson „Greind er hæfileiki kerfis til að breyta umhverfinu úr einni stöðu í aðra þar sem
seinni staðan er eitthvert markmið sem sett var í upphafi.“