Hugur - 01.01.1995, Side 70

68
John R. Searle
HUGUR
að þótt forrit Schanks sé ekki öll sagan um skilninginn, þá geti það
verið hluti af henni. Gott og vel, það er sjálfsagt hugsanlegt, en við
höfum ekki hina minnstu ástæðu til að halda að þetta sé satt. í
dæminu voru leiddar líkur að því - þótt vissulega væri það ekki
sannað - að forritið skipti einfaldlega engu máli fyrir skilning minn á
sögunni. Þegar kínverskan átti í hlut hafði ég allt sem gervigreind
gæti látið mér í té með forriti, og ég skildi ekki neitt; í enska
tilvikinu skildi ég allt, og enn er engin ástæða til að ætla að minn
skilningur hafi haft neitt með tölvuforrit að gera, þ.e. með
reiknanlegar aðgerðir á formlega skilgreind tákn. Það sem dæmið
sýnir er, að á meðan forrit er skilgreint með reiknanlegum aðgerðum á
algerlega formlega skilgreind tákn, þá skipta aðgerðirnar engu
verulegu máli fyrir skilninginn. Þær er sannarlega ekki nægjanlegt
skilyrði, og við höfum ekki hina minnstu ástæðu til að ætla að þær
sé nauðsynlegt skilyrði eða Ieggi skilningnum eitthvað mikilsvert til.
Takið eftir því að röksemdafærslan gengur ekki einfaldlega út á að
ólíkar vélar geti haft sama inntak og úttak en samt unnið eftir ólíkum
formlegum reglum - það er alls ekki kjarni málsins. Kjarni málsins er
öllu heldur sá, að það er sama eftir hvaða algerlega formlegu reglum
tölvan vinnur, þau verða aldrei nægjanleg skilyrði skilnings, því
maður getur fylgt þessum formlegu reglum án þess að skilja neitt.
Engin rök hafa verið færð fyrir því að slíkar reglur séu nauðsynlegar
eða leggi skilningnum hið minnsta til, því það hafa ekki verið færð
nein rök fyrir því að ég vinni yfirleitt eftir neinu formlegu forriti
þegar ég skil ensku.
Gott og vel, en hvað er til staðar í tilviki ensku setninganna en
ekki þeirra kínversku? Svarið blasir við, ég veit hvað ensku
setningarnar merkja, en hef ekki minnsta grun um hvað þær kínversku
merkja. En í hverju er þetta fólgið og hvers vegna getum við ekki
komið þessu í vél, hvað svo sem þetta annars er? Ég kem að þessari
spurningu seinna, en fyrst langar mig að halda áfram með dæmið.
Ég hef haft tækifæri til að leggja þetta dæmi fyrir nokkra þeirra
sem vinna við gervigreind, og þótt undarlegt megi virðast þá er
enginn einhugur um hvernig bregðast skuli við. Ég hef fengið
ótrúlega fjölbreytileg svör, og hér á eftir mun ég velta þeim
algengustu fyrir mér (ég útlista þau og tilgreini landfræðilegan
uppruna þeirra).