Dagblaðið Vísir - DV - 14.02.2014, Blaðsíða 17

Helgarblað 14.–17. febrúar 2014 Fréttir 17
Nemi rannsakar
siðferði vélmenna
Heimspekineminn Þorbjörn Kristjánsson segir gervigreind hafa þróast hratt á síðustu árum„Hvernig ná þessar
reglur að höndla
það þegar mannlegi
þátturinn, mannleg
ákvarðanataka er smátt
og smátt fjarlægð?
Ú
tlit er fyrir að vitvélar gæddar
gervigreind muni skipa æ
meiri sess í lífi okkar allra
á komandi áratugum en
þær eru nú þegar notaðar í
hverskyns iðnaði, hernaði og störf-
um sem snúa að aðhlynningu. Rann-
sóknir á sviði gervigreindar hafa ver-
ið í ákveðnum veldisvexti á síðustu
árum og vilja sumir vísindamenn
meina að ef fram fer sem horfir geti
gervigreind náð mannlegri greind
áður en langt um líður. Þetta vekur
upp ýmsar spurningar, ekki síst hjá
sálfræðingum, félagsfræðingum og
heimspekingum sem eru í auknum
mæli farnir að rannsaka þetta svið.
Þorbjörn Kristjánsson, 26 ára
meistaranemi í heimspeki við há-
skólann í Árósum í Danmörku, hefur
mikinn áhuga á þeim siðferðilegu
spurningum sem vakna þegar kem-
ur að þróun gervigreindar og vit-
véla. Hann vann nýlega verkefni sem
sneri meðal annars að því að finna
og greina áhættuþætti og mögulega
misnotkun á gervigreind. Verkefnið
var unnið undir leiðsögn Kristins
Þórissonar, framkvæmdastjóra Vit-
vélastofnunar Íslands og dósents
við Háskólann í Reykjavík, en ný-
sköpunarsjóður námsmanna styrkti
verkefnið. Blaðamaður DV hitti Þor-
björn á dögunum og ræddi við hann
um námið, áhugann á þróun gervi-
greindar og mögulegar framtíðar-
spár.
Endalok mannkyns?
Áhugi Þorbjörns á félagshegðun vél-
menna [e. Social robotics] kviknaði
þegar hann kynntist hinum svokall-
aða Pensor-hópi í Árósaháskóla.
„Ég mætti á nokkra fundi hjá þeim
og áttaði mig á því að þetta er svið
sem hefur ekki verið rannsakað mik-
ið innan heimspekinnar. Þarna voru
heimspekingar, sálfræðingar, félags-
fræðingar og aðrir fræðimenn saman
komnir til þess að velta upp mjög
áleitnum spurningum þegar kemur
að þróun þessarar tækni, eins og til
dæmis í tengslum við notkun dróna í
stríðsrekstri, siðfræði stríðs, og þessa
gríðarlegu tækni- og gervigreindar-
væðingu í stríðsrekstri,“ segir Þor-
björn sem féll fyrir efninu.
Gervigreind hefur verið skil-
greind sem þau vísindi og verkfræði
sem snúast um að búa til greindar
vélar. Eftir því sem tækninni fleygir
fram verða siðferðilegar spurningar
sífellt áleitnari. „Ég held persónu-
lega að það sé of lítið pælt í siðferði-
lega þættinum,“ segir Þorbjörn og
bætir því við að notkun og þróun
gervigreindar veki upp fjölmargar
siðferðisspurningar. „Nick Bostrom,
prófessor við Oxford-háskóla, hefur
til dæmis nefnt að þessi tækniþróun
geti þýtt endalok mannkyns ef ekki
er haldið rétt á spöðunum.“
Í grein sinni „Existential Risks:
Analysing Human Extinction
Scenarios and Related Hazards,“
greinir Bostrom á ítarlegan hátt
ýmsar áhættur við þróun og
notkun gervigreindar og örtækni
[e. Nanotechnology]. Hann bendir
á möguleikann á því að gervigreind
taki á einhverjum tímapunkti fram
úr mannlegri greind en það geti
mögulega leitt til þess að maðurinn
verði undir í samkeppni við eigið
sköpunarverk. „Þessar fullyrðingar
eru ef til vill öfgakenndar, en engu
að síður bendir Bostrom á þætti sem
við þurfum að vera vel vakandi fyrir,“
segir Þorbjörn.
Siðferðiskennd véla
Á meðal þess sem menn velta fyrir
sér þegar kemur að gervigreind er
hver beri ábyrgðina þegar vitvélar
gera alvarleg mistök. „Við erum
með skýra lagalega og siðferðislega
ábyrgð þegar maður verður öðrum
manni að bana, en hvernig viljum
við útskýra ábyrgðina þegar vél verð-
ur manni að bana?“ spyr Þorbjörn
og nefnir frægt dæmi frá árinu 1981
þegar vélknúinn armur í bílaverk-
smiðju varð starfsmanni að bana.
„Armurinn greindi starfsmanninn
ranglega sem hindrun og ýtti við
honum með þeim afleiðingum að
hann lést.“
Sem betur fer sé þetta nánast
einsdæmi, „en þetta vekur upp
spurningar um ábyrgð. Er ábyrgðin
framleiðendanna, þeirra sem stjórna
vélunum, eða er ef til vill hægt að
setja ábyrgðina með einhverju móti
á vélarnar sjálfar? Síðasti punktur-
inn hljómar ótrúlega, en hann er sér-
lega áhugaverður þegar við förum að
pæla í framtíðarþróun á gervigreind
og aukinni sjálfvirkni.“ Í þessu ljósi
segir Þorbjörn að það sé áhugavert
að velta fyrir sér hvort hægt sér að
forrita vélar sem séu með einhvers
konar siðferðiskennd. Rannsóknir á
því hófust árið 2007 í Suður-Kóreu.
„Það má velta fyrir sér hvað það
getur haft í för með sér.“
Drónar í stríðum
Á síðustu árum hafa fréttir af drón-
um [fjarstýrðum flugvélum] sem
bandaríski herinn notar til að gera
árásir á skotmörk í fjallahéruðum
Pakistan, Jemen og í fleiri löndum,
vakið upp ýmsar siðferðisspurn-
ingar. Þannig hafa mannréttinda-
samtökin Amnesty International
sagt að með árásunum sé verið að
brjóta gegn alþjóðalögum en Banda-
ríkjamenn þvertaka fyrir það. Drón-
unum er stýrt úr herstöðvum sem
eru í órafjarlægð frá skotmörkunum
sjálfum. Útlit er fyrir að drónarnir
verði sífellt sjálfvirkari en Þorbjörn
segir að nú þegar sé búið að þróa
dróna sem geti tekið á loft sjálfir,
fundið skotmarkið, varpað sprengj-
um og snúið til baka, allt án þess að
maðurinn komi að beinni stjórnun.
Þorbjörn segir að langmest af því
fjármagni sem fari í rannsóknir og
þróun gervigreindar komi frá fyrir-
tækjum og stofnunum tengdum
hernaði. „Það er vissulega dálítið
ógnvænleg þróun og það er enn
fremur siðferðisleg spurning út af
fyrir sig.“ Notkun vélmenna í stríði
veki upp fjölmargar spurningar inn-
an siðfræðinnar, þá sérstaklega í
stríðssiðfræði. „Það eru fjölmargar
reglur sem eru undirstaðan að því
sem kallað er innan siðfræðinnar
„réttlátt stríð“. „Hvernig ná þessar
reglur að höndla það þegar mann-
legi þátturinn, mannleg ákvarðana-
taka er smátt og smátt fjarlægð?“
Sem dæmi megi nefna að ein
regla í stríði segi til um að gera
skuli greinarmun á hermönnum og
óbreyttum borgurum þegar barist
er. „Ef við gerum ráð fyrir síaukinni
sjálfvirkni dróna eftir því sem gervi-
greindartækninni fleygir fram,
hvernig sjáum við fyrir okkur að vélin
muni virða þessa reglu? Gæti gervi-
greindarvélmenni gert upp á milli
hermanns og óbreytts borgara á víg-
vellinum? Þetta er bara ein af mörg-
um reglum sem eiga við um „réttlátt
stríð“ og ein af mörgum siðfræði- og
siðferðisspurningum sem vakna við
aukna vitvélavæðingu í stríði.“
Heimilisvélar
En hvenær getum við átt von á því
að vitvélar verði orðinn hluti af
okkar daglega lífi? „Nú þegar eru
komnar vitvélar til heimilisnota.
Til að mynda vélmenni sem kallast
WowWee Rovio og Spykee. Þetta
eru vélmenni sem tengjast beint
inn á WiFi heimilanna og er fyrst
og fremst ætlað að þjóna hlutverki
þjófavarnar og eftirlits, sem og að
vera til afþreyingar fyrir eigendurna.
Þessi vélmenni eru búin gervigreind
og geta numið hreyfingu, auk þess
að geta keyrt sjálfkrafa um húsið og
eru búin upptöku og hljóðbúnaði.“
Það hefur hins vegar verið sýnt
fram á að með því að hakka sig inn á
net viðkomandi heimilis má hakka
sig inn á vélmennið sjálft og jafn-
vel taka yfir stjórn þess. Þannig er
ákveðin áhætta á að stofna friðhelgi
einkalífsins í hættu. Þorbjörn segir
erfitt að spá fyrir um framtíðina
þegar kemur að þróun á gervigreind
og hönnun vélmenna. „Miðað við
það sem ég hef skoðað tel ég lík-
legt að við gætum séð auknari sjálf-
virkni í gervigreind, auknari hreyfi-
getu, og mögulega vélmenni búin
siðferðisgreind, sérstaklega ef við
gefum okkur það að veldisvöxturinn
sem hefur verið í gervigreind haldi
óheftur áfram.“
Vélmenni í mannsmynd
Þorbjörn segir þau vélmenni sem
þróuð hafa verið almennt ekki vera
í mannsmynd en þó séu dæmi
þess. Hann nefnir vélmennið Atlas
sem þróað var af DARPA, stofn-
un sem tilheyrir varnarmálaráðu-
neyti Bandaríkjanna. „Það er mjög
líkt manninum, með búk, höfuð,
fjóra útlimi, og hefur til dæmis ver-
ið notað við hreinsunarstörf í Fuku-
shima-kjarnorkuverinu.“ Hann seg-
ir ástæðuna fyrir því að menn vilji
þróa vélmenni í mannsmynd ein-
falda: „Menn vilja að viðkomandi
vél sé hæf til að framkvæma fjöl-
breytt verkefni, þar sem meðal
annars er þörf á mennskri hreyfi-
getu. Þannig er Atlas ætlað að að-
stoða björgunarteymi í „search and
rescue“-verkefnum, opna dyr og
stjórna ýmsum tækjum og tólum, í
aðstæðum sem maðurinn gæti ekki
lifað af í.“
Þorbjörn segir að vélmenni
með mannlega ásýnd og eiginleika,
hafi allt önnur áhrif á tilfinningalíf
manna en önnur tækni, svo sem
símar eða tölvur. Hann tekur dæmi
af vélmennum sem þróuð hafa ver-
ið og eru notuð í umönnun aldraðra,
eða til að þjóna sem meðferðaraðili
barna með einhverfu, svo dæmi
séu tekin. „Gervigreind þessara vél-
menna er þannig að þau hafa félags-
skilning á við manninn. Vélmenni
í notkun í dag, til dæmis véldúkkur
eins og Baby Alive, gæludýr eins og
KittyCat og meðferðarvélmenni eins
og Paro, geta átt í samskiptum við
menn, skilið þá og jafnvel sett sig í
þeirra spor.“
Þetta geti vissulega haft jákvæðar
afleiðingar, eins og bætt andleg
heilsa með notkun Paro-vélmennis-
ins hefur sýnt fram á, en gefi einnig
tilefni til varúðar. „Vélmenni með
slíka hæfileika – sérstaklega ef fram-
þróun í gervigreind fleygir fram
sem horfir – hafa þann möguleika
að valda tilfinningalegum eða
andlegum skaða. Aukin tilfinninga-
tengsl manna og vélmenna hefur
hingað til verið vanmetinn áhættu-
þáttur, en gefur fullt tilefni til frek-
ari rannsókna.“ Þorbjörn segir næstu
verkefni ennþá á hugmyndastigi en
er staðráðinn í að halda áfram að
skoða samskipti manna og véla. n
Jón Bjarki Magnússon
jonbjarki@dv.is
Ýmsar siðferðisspurningar
Þorbjörn Kristjánsson hefur mik-
inn áhuga á þeim siðferðislegu
spurningum sem vakna þegar
kemur að þróun gervigreindar og
vitvéla. MynD Sigtryggur Ari