Lesbók Morgunblaðsins

Ulloq
Ataaseq assigiiaat ilaat
Saqqummersitaq pingaarneq:

Lesbók Morgunblaðsins - 29.10.2005, Qupperneq 20

Lesbók Morgunblaðsins - 29.10.2005, Qupperneq 20
20 | Lesbók Morgunblaðsins ˜ 29. október 2005 Á ður en lagt er af stað með að reyna að skapa meðvitaða vél hljótum við að þurfa að spyrja: Hvað er það þá nákvæmlega sem við erum að reyna að gæða kerfið? Hverju þarf að bæta við það? „Þegar gervigreindarsviðið varð til upp úr miðri síðustu öld einblíndu menn mjög á rökleg ferli hugsunar, þau ferli sem okkur mannfólk- inu finnst flókin og erfið. Þetta leiddi til þess að menn fóru t.d. að rannsaka leiki eins og skák, sem talin hafa verið til vitnis um hugræna yfir- burði mannsins yfir aðrar dýrategundir. Það kom í ljós að ekk- ert geigvænlega erfitt var að líkja eftir ýmsum röklegum ferlum, búin voru til svokölluð sérfræðikerfi (e. expert systems) sem gátu greint sjúkdóma, fundið olíu og leyst önnur slík verkefni. Þeim var að vísu alltaf beitt af sérfræðingum og það sem reynd- ist flóknara var að láta þessi kerfi sjá stærra samhengi þannig að þau vissu t.d. að dauðir hlutir geta ekki fengið rauða hunda, þótt það séu rauðar doppur á sumum þeirra. Þetta vandamál eru menn enn að glíma við í dag. Að sjá hlutina í samhengi er það sem við köllum oft heilbrigða skynsemi og eins og er hefur enginn þorað að takast á við að gæða vél heilbrigðri skynsemi, með örfáum undantekningum. Ef við reynum að beita þeim aðferðum sem notaðar eru til að tákna þekkingu í leikjum lendum við í verulegum vandræðum. Nú eru rannsóknir á skynjun að færast í aukana, ásamt túlkun á skynhrifum og samspili milli skynfæra. Það má segja að það sé ef til vill fyrsta stig meðvitundar að vita af umhverfi sínu, það er að segja þessi hjúpur upplýsinga sem streymir stöðugt í gegn- um skynfærin og heilbrigð skynsemi hjálpar okkur að sortera og vinna úr. En stóran hluta þess sem hugur okkar gerir dags daglega erum við ekki meðvituð um. Ef það er blaut málning á veggjunum sem við stöndum við munum við ekki baða út handleggjunum til að sýna hvernig fuglar fljúga án þess að færa okkur fyrst frá veggnum. Við þurfum ekki einu sinni að hugsa um það; undirmeðvitundin – sem er ein tegund meðvitundar – sér um það. Þegar þetta bregst líður okkur eins og hálfvitum. Á hverri sekúndu er hugur manns að taka tugi slíkra ákvarðana. Skilningur á samhenginu sem fæst gegnum samspil skynfæra hins vakandi huga er næsta skref í áttina að skilja meðvitund.“ Er almenna þekkingin ekki að mestu leyti áunnin? Manneskjur hafa ósköp litla „heil- brigða skynsemi“ þegar þær koma í heiminn og svo tekur það manneskjurnar, sem eru mjög flókin kerfi, langan tíma að byggja hana upp. Gæti vél öðlast þekkinguna fyrirfram eða þyrfti að gera henni kleift að þróast og læra? „Hugsanlega. Það gæti líka einfaldlega verið hagstæðast að láta slíka vél þróast. Það getur líka verið að það sé í eðli sínu nauðsynlegur þáttur í því að búa til svona kerfi. Í stað þess að bæta við einum kubbi í senn, eins og þegar mað- ur byggir hlutina í höndunum, getur maður sett einhvers konar segulmagn milli kubbanna og hrist þá í lokuðum kassa. Ef segulmagnið milli kubbanna er rétt og reglurnar sem segja til um það hvernig segulmagnið breytist yfir tíma og út frá hliðaráhrifum annarra kubba þá getur komið höll út úr kassanum. En sú röksemda- færsla að við verðum að fara þessa leið hefur hins vegar athyglisverðar afleiðingar: Regl- urnar sem stjórna samsetningu heilans eru kóð- aðar í genum. Það dettur engum í hug að hægt sé að smíða heildargenamengi lífveru í hönd- unum. Þá þurfum við að smíða eftirlíkingu þess þróunarkerfis sem bjó til genamengið. Til að smíða það þarf ansi langan tíma og ansi mikið reikniafl. Við það seinkar þeim degi að við get- um búið til eftirlíkingu af mannshuganum, um hugsanlega hundrað ár eða meira. Aftur á móti held ég að það geri sér enginn grillur um að við getum smíðað mannsheila í höndunum, með 1010 taugafrumur sem hver um sig hefur milli tvö og fimm þúsund tengingar. Við hljótum því að spyrja þeirrar spurningar hversu nauðsyn- legar þessar smæstu einingar, taugarnar, séu til þess að kerfið virki eins og það gerir. Við get- um smíðað skýjakljúf án þess að raða hverju einasta sandkorni á sinn stað svo fremi sem mótin og stálgrindin þjóni sínu hlutverki.“ Greindin er eins og vistkerfi Hvert er sambandið milli greindar, sem tekist hefur að gæða tölvur að einhverju marki, og meðvitundar eins og við þekkjum hana? Hvaða skilning leggur þú í þessi hugtök? „Greind er hæfileiki kerfis til að breyta um- hverfinu úr einni stöðu í aðra þar sem seinni staðan er eitthvert markmið sem sett var í upp- hafi. Meðvitundarhugtakið er, eins og fram hef- ur komið í mörgum fyrirlestranna, hægt að túlka á ýmsa vegu. Ég hef áhuga á öllum þess- um túlkunum enda er meðvitundin margþætt fyrirbæri en ég myndi ekki segja að þau hafi öll sama vægi þegar kemur að því að smíða vélar í mynd okkar. Viss tegund meðvitundar er nauð- synleg til þess að greind geti birst í þeirri mynd sem við þekkjum hana best, það er að segja eins og hún birtist í dýrum og mönnum. Sú greind er reyndar ólík því sem margir í gervigreind eru að vinna með. Það sem hefur gerst á seinni ár- um er að sviðið hefur greinst í sundur og farið er að rannsaka ýmsa smærri þætti greindar þótt heitinu „gervigreind“ hafi verið haldið. Það eru stundaðar rannsóknir á líkönum af tauga- frumum, tölvusjón, áætlanagerð, talgreiningu og fleiru. Ég held að almenningur eigi oft erfitt með að kyngja að þessir þættir séu kallaðir greind, svona einir og sér og er sjálfur mun hrifnari af hugmyndinni um heildræna gervi- greind sem byggist á því að greind felist, eðli sínu samkvæmt, í samspili margra þátta, mjög samstiga samspili. Eftir því sem við tökum fleira í burtu líkist hluturinn sífellt minna greind. Við getum líkt greindinni við vistkerfi eða hagkerfi: Því fleiri þætti sem við fjarlægj- um úr kerfunum þeim mun minna líkjast þeir hagkerfi eða vistkerfi. Á einhverjum punkti myndu flestir segja að þetta væri ekki lengur hagkerfi, þótt fræðilega séð falli það ef til vill enn innan hagfræðisviðsins. Mjög fáir eru að vinna í því að reyna að setja saman stór kerfi en það er einmitt sú aðferð sem ég held að sé væn- legust til árangurs við rannsóknir á greind og meðvitund.“ Hversu langt erum við komin á veg með að skapa heildræna gervigreind? „Mjög skammt. En við stöndum á miklum tímamótum einmitt núna vegna þess að hugsun er útreikningar og reiknigeta er alltaf að falla í verði. Ef við lítum aftur til Charles Babbage og „mismunavélarinnar“ (e. difference engine) hans eða Konrad Zuse og Z1, sem var fyrsta stafræna tölvan, sjáum við að það hefur verið veldisvöxtur í reiknigetu per krónu síðustu rúmlega hundrað ár. Það þýðir að eftir um það bil tuttugu ár munum við geta keypt tölvu með reiknigetu mannsheilans á eitt hundrað þúsund krónur. Þess vegna eru næstu tuttugu árin mjög spennandi og merkilegur tími í sögu gervigreindar og skilnings okkar á greind og hugsun almennt. Ég reikna reyndar með að það taki talsvert lengri tíma að öðlast fullan skilning á meðvitundinni, en ég tel að flestum stóru spurningunum varðandi greind verði svarað innan þrjátíu ára.“ Meðvitund manns og amöbu Á greinarmunurinn sem þú gerir milli greindar og meðvitundar eitthvað skylt við þann grein- armun sem sumir fræðimenn gera á milli með- vitundar um heiminn og meðvitundar um sjálf- ið? „Alls ekki. Ég myndi aldrei skilja svona á milli viðfangsefna meðvitundar, vitundar eða þekkingar. Ég tel að meðvitund um umhverfi og meðvitund um sjálfið sé hvort tveggja með- vitund um raunveruleg fyrirbæri. Meðvitund er hins vegar ekki það sama og upplifunin sjálf, það er að segja hvernig við upplifum hlutina. Kerfi, hvort sem það er maður, kakkalakki eða amaba, getur verið meðvitað um eitthvað í um- hverfinu án þess að upplifa það. Hjá okkur virð- ist hins vegar upplifun vera nátengd meðvit- undinni. Með upplifun á ég við það sem er kallað „phenomenal experience“, sú upplifun sem breytist svo geigvænlega þegar við sofnum, er- um undir áhrifum áfengis eða í roti. Öll efnaferli og rafferli í heilanum virka svo að segja eins, hvort sem við erum sofandi eða vakandi, en það sem breytist er upplifun okkar af því sem er að gerast í kringum okkur. Auðvitað er heilastarf- semin önnur þegar við liggjum í roti en þegar við erum vakandi en í eðli sínu hagar hver taug sér alveg eins, hún sendir bara og tekur á móti rafboðum. Samt gerist eitthvað þegar við rönk- um við okkur sem fær okkur til að segja ég er hér og ég er til. Það er í eðli sínu öðru vísi en það sem gerist nú þegar við kveikjum á jafnvel hinu flóknasta tæki.“ Lítur þú svo á að meðvitund geti aðeins orðið til í ákveðinni tegund efnis, til dæmis því sem líkaminn og heilinn er gerður úr, eða í hvaða efni sem er? Ef við teljum að hægt sé að gæða tölvu meðvitund þá takmarkast möguleikinn væntanlega ekki alfarið við lífrænt efni. „Ég er efnishyggjumaður að því leyti til að ég vil ekki gera upp hug minn fyrr en búið er að rannsaka þetta. Spurningin er: Hvernig verður upplifun, til? Hvað þarf til til að kerfi geti upp- lifað hluti eins og við segjumst öll upplifa þá? Augljóslega verða meðvitund og upplifun til í efnisheimi og ef við álítum að það sé hægt að endurtaka það sem á sér stað í heilanum inni á rannsóknarsetri þá getum við ímyndað okkur að það megi hugsanlega gera á tvennan hátt. Annars vegar getum við gert ráð fyrir því að upplifun muni verða til í kerfi, ef við röðum hlut- unum rétt saman, út frá víxlverkunaráhrifum þeirra. Þetta er verkhyggjuskýringin (e. functionalist). Þá gildir einu hvaða frumeindir eða sameindir eru notaðar, það sem skiptir máli er spil og samspil eininganna í kerfinu. Hins vegar getum við haldið því fram að það sé eitt- hvað í eðli lífræns efnis sem gerir upplifun mögulega og þess vegna þurfum við að finna réttu efnin og setja þau saman. Uppröðunin hlýtur auðvitað alltaf að skipta máli en spurn- ingin er hvort efnið sjálft skipti líka máli. Það er hægt að setja spurninguna í einfaldan búning sem þá spurningu hvort við getum látið venju- legar borðtölvur upplifa hluti ef við hefðum rétta forritið. Þá spurningu glími ég meðal ann- ars við í fyrirlestrinum.“ Löggjöf um siðferðilega stöðu vélmenna Hvaða siðferðilegu afstöðu hefurðu til viðleitni mannvera til að skapa meðvitað kerfi? „Ef við smíðum vélmenni sem er í einu og öllu eins og manneskja nema að því leyti að það get- ur ekki fundið til þá er það vélmenni bara verk- færi. Kerfi sem er meðvitað í vélrænum skiln- ingi, það er að segja kerfi sem veit án þess að upplifa, getur ekki fundið til og er þar af leið- andi ekki siðferðisvera. Aftur á móti á það eftir að koma í ljós hvort yfirleitt sé mögulegt að búa til vél sem er í einu og öllu eins og manneskja utan frá séð án þess að vera með einhvers konar tilfinningar og upplifanir. Ég hugsa að það séu um fimmtíu til hundrað ár þar til við getum svarað þessu.“ Hvernig getum við sagt með vissu hvort slíkt vélmenni hefði upplifanir? „Það er góð spurning. Það er ákveðið vanda- mál hérna á ferðinni sem við munum aldrei losna við. Það væri hugsanlega hægt að leiða líkur að því með því að gera skipulagða upp- skurði á mannsheila og bera hann saman við hegðun kerfisins sem við erum að smíða – skoða gaumgæfilega hverjar samsvaranirnar eru á milli upplifunar og efnislegra eiginleika kerf- anna. En slíkt væri glæpastarfsemi – við meg- um ekki gera uppskurði í tilraunaskyni á mannsheilum – og sviðið mun alltaf „líða“ fyrir það. Það næsta sem við komumst þessu er að smíða stór gervigreindarkerfi og reyna að gæða þau upplifunum. Til þess að komast að því hvort þau upplifa yrðum við auðvitað að gefa þeim hæfileika til að tala.“ En ef við vitum að vél hefur upplifanir, þótt hún líti ekki endilega út eins og manneskja, höf- um við þá ekki siðferðilegar skyldur gagnvart henni? „Það væri virkilega undarlegt fyrirbæri. Ég held að við ættum mjög erfitt með að bera kennsl á slíka vél sem upplifandi kerfi og að ákvarða hvernig við ættum að bregðast við. Áð- ur en við komumst á það stig finnst mér líklegt að við munum rannsaka og skilja betur hvernig upplifanir kakkalakkar, flugur og aðrar einfald- ar lífverur hafa samanborið við menn. Fáir eiga í siðferðisvandræðum með að stíga á kakka- lakka og það er spurning hvort þessi fyrstu meðvituðu kerfi sem hefðu upplifanir myndu ekki vera líkari kakkalakka en okkur. Það væri mjög merk uppgötvun ef við svo kæmumst að því, eða gætum leitt líkur að því, að kakkalakk- ar hefðu engar upplifanir. Það myndi líklega þýða að gervimeðvitund – tækist okkur að smíða eina eða tvær slíkar – yrðu að hafa eigin- leika flóknari dýrategunda. Þá myndu tilraunir með slík kerfi verða meir vandkvæðum bundn- ar. Hins vegar finnst mér reyndar líklegt að í framtíðinni verði lög sett um siðferðislega stöðu vélmenna löngu áður en þau fara að finna til – einfaldlega vegna þess að þau munu líkjast okk- ur nægilega til að við upplifðum þau sem sið- ferðis- og tilfinningaverur. Það yrði hreinlega óbærilegt að lifa í heimi sem verndaði ekki slík- ar vélar með lögum.“ Af kjötvélum og vélmennum Eftir Steinar Örn Atlason og Þórdísi Helgadóttur thordith@hi.is Steinar Örn er heimspekinemi og Þórdís er BA í heimspeki. Í dag klukkan 14 flytur Kristinn R. Þórisson fimmta fyrirlesturinn í fyrirlestraröðinni „Veit efnið af andanum? Af manni og meðvit- und“ sem nefnist ,,Vélvitund, meðvitund og sjálfsvitund í kjötvélum og vélmennum“. Kristinn er með doktorsgráðu í gervigreind- arfræðum frá MIT og gegnir stöðu dósents við Háskólann í Reykjavík auk þess sem hann er annar forstöðumanna Gervigreindarset- urs HR. Í fyrirlestri sínum mun Kristinn skýra frá nokkrum skilgreiningum á meðvit- undinni út frá sjónarhóli gervigreindarinnar og leitast við að sýna fram á hvernig hægt er að skapa meðvitund í vélmenni. Fyrirlest- urinn fer fram í Odda, stofu 101, hann er öll- um opinn og aðgangur er ókeypis. Hér á eftir fer viðtal við Kristin. Kristinn R. Þórisson „Greind er hæfileiki kerfis til að breyta umhverfinu úr einni stöðu í aðra þar sem seinni staðan er eitthvert markmið sem sett var í upphafi.“

x

Lesbók Morgunblaðsins

Direct Links

Hvis du vil linke til denne avis/magasin, skal du bruge disse links:

Link til denne avis/magasin: Lesbók Morgunblaðsins
https://timarit.is/publication/288

Link til dette eksemplar:

Link til denne side:

Link til denne artikel:

Venligst ikke link direkte til billeder eller PDfs på Timarit.is, da sådanne webadresser kan ændres uden advarsel. Brug venligst de angivne webadresser for at linke til sitet.