Morgunblaðið - 14.12.2017, Síða 50

50 FRÉTTIRTækni
MORGUNBLAÐIÐ FIMMTUDAGUR 14. DESEMBER 2017
BAKSVIÐ
Stefán Gunnar Sveinsson
sgs@mbl.is
Hugmyndin um hið sjálfvirka vél-
menni, sem eyðir lífi án nokkurrar
umhugsunar eða eftirsjár, er þekkt
minni úr vísindaskáldskap síðari
tíma. Má þar til dæmis nefna kvik-
myndirnar um Tortímandann, sem
Arnold Schwarze-
negger gerði góð
skil á sínum tíma,
RoboCop-seríuna
og Matrix-þrí-
leikinn.
Þó að einungis
sé um að ræða vís-
indaskáldskap,
hefur tækni og
þróun gervi-
greindar fleygt
óðum fram á síð-
ustu árum. Þykir líklegt að þess verði
ekki langt að bíða að sú þróun nái því
stigi að hægt verði að hanna vopn
sem eru alsjálfvirk að því leyti að
gervigreind muni sjá um að velja
skotmörk og taka þau út. Á ensku
hefur verið talað um Lethal Auto-
nomous Weapons sem þýða má sem
mannskæð sjálfvirk vopn, en einnig
hefur hugtakið „drápsvélmenni“ ver-
ið notað til styttingar.
Þetta þykir mörgum vera var-
hugaverð þróun, en „drápsvél-
mennin“ voru í brennidepli á sér-
stakri ráðstefnu, sem Sameinuðu
þjóðirnar stóðu fyrir í síðasta mánuði
undir merkjum afvopnunarráðstefn-
unnar um tiltekin hefðbundin vopn.
22 fullvalda ríki hafa kallað eftir því
að algjört bann verði sett á þróun
þessara alsjálfvirku vopnakerfa, en
slíkar hugmyndir eru enn sem komið
er bara á viðræðustiginu.
„Óheillaspor fyrir mannkynið“
Gunnar Dofri Ólafsson lögfræð-
ingur ritaði meistararitgerð sína um
þau alþjóðalög sem gilda um sjálfvirk
vopn. Hann segir helsta muninn á
þeim og öðrum drápstólum sem mað-
urinn hefur þróað vera tölvustýr-
inguna, eins og til dæmis í dróna-
flugvélum, sem rutt hafa sér til rúms
á síðustu árum. „Mannshöndin kem-
ur hvergi að ákvörðunartökuferlinu
hjá drápsvélmennum þegar búið er
að sleppa þeim á vettvang,“ segir
Gunnar Dofri. Á bak við árásir drón-
anna sé maður sem taki ákvörðun
um það að deyða, en um leið og
drápsvélmennin hafa verið gangsett
er enginn maður sem segir þeim fyr-
ir verkum.
Gunnar Dofri segir vert að hafa í
huga að vígbúnaðartækni sé ekki
komin á þetta stig enn sem komið er.
„Ég held hins vegar að það væri
óheillaspor fyrir mannkynið ef þessi
tæki verða að veruleika, sem er þó
hvorki ómögulegt né ólíklegt að þau
geri.“
Gæti stuðlað að stríðsglæpum
Gunnar Dofri bætir við að helsti
vandinn sé sá að ólíkt því sem marg-
ir halda, þá gildi mjög flóknar reglur
um hernað og brot á þeim, svonefnda
stríðsglæpi. „Stríðsglæpir eru ekki
bara stórfellt þjóðarmorð eða nauðg-
anir í hernaði, heldur einnig þegar
t.d. hermenn beina vopnum sínum að
óbreyttum borgurum, án þess að
hafa lögmætt skotmark, sem væri þá
aðrir hermenn.“
Þetta vefjist hins vegar oft fyrir
hermönnunum sjálfum sem starfi við
flóknar aðstæður. Gunnar Dofri seg-
ir að það sé alls ekki víst að gervi-
greind muni geta gert betur, þar
sem enn sem komið er eigi hún í erf-
iðleikum með að greina á milli
dauðra hluta og manna. „Það bendir
aftur til þess að gervigreind, sem
beitt er í hernaði, muni mjög líklega
lenda í erfiðleikum með að gera
greinarmun á óbreyttum borgurum
og skæruliðum,“ segir Gunnar Dofri
og bætir við að eðli hernaðar hafi
breyst mjög frá því sem var þegar
Genfarsáttmálarnir, alþjóðalögin
sem gilda um hernað, voru sam-
þykktir. „Við erum ekki lengur að
tala um að menn í herbúningum
skjóti á aðra menn í herbúningum.
Menn á vígvellinum eru nú oft
klæddir eins og óbreyttir borgarar,
og það gæti reynst erfitt ef ekki
ómögulegt að forrita þessar vélar
þannig að þær geti gert þennan
greinarmun.“
Ábyrgðin tekin úr sambandi
Gunnar Dofri segir það einnig
vera varhugavert út frá lagalegum
forsendum að með þróun dráps-
vélmenna sé ábyrgðin á því að taka
mannslíf tekin úr sambandi. „Það er
sama hvað gjöreyðingarvopn þú tek-
ur í dag, einhvers staðar er maður
sem tekur ákvörðun um það að beita
þeim.“ Þegar um er að ræða sjálf-
virkt vopnakerfi, sem kannski 800
mismunandi forritarar hafa komið
að, vandast spurningin um það hvern
megi draga til ábyrgðar ef það frem-
ur stríðsglæp. Þannig verði til athöfn
án ábyrgðar. „Það að taka mannslíf
er ákvörðun sem einhver maður á að
þurfa að velta fyrir sér,“ segir Gunn-
ar Dofri að lokum.
Munu drápsvélmennin taka völd?
 Þróun gervigreindar gæti leitt til þess að alsjálfvirk vopnakerfi verði tekin í gagnið á næstu árum
 22 ríki vilja að hönnun „drápsvélmenna“ verði alfarið bönnuð  Áleitnar spurningar um ábyrgð
Drápsvélmenni Sjálfvirk vopnakerfi sem engu eira eru vinsælt minni úr vísindaskáldskap, og má þar nefna sem
dæmi kvikmyndabálkinn vinsæla um Tortímandann með Arnold Schwarzenegger í aðalhlutverki.
Ljósmynd/Flugher Bandaríkjanna
Drónar Predator-dróni Bandaríkjahers á flugi yfir Afganistan. Enn sem
komið er stýrir mannshöndin flugi og árásum flugdróna af þessu tagi.
Gunnar Dofri
Ólafsson
Sex vísindamenn, sem hafa tengsl
við íslensk fyrirtæki og íslenskt
fræðasamfélag, eru í hópi 3.500
áhrifamestu vísindamanna heims,
samkvæmt nýjum lista greiningar-
fyrirtækisins Clarivate. Þetta eru
Vilmundur Guðnason, Þorsteinn
Loftsson, Lena Peltonen, Albert
Vernon Smith, Kári Stefánsson,
Valgerður Steinþórsdóttir, Guðmar
Þorleifsson, Unnur Þorsteinsdóttir
og Bernharð Örn Pálsson. Þau eru
ýmist með tengsl við Háskóla Ís-
lands, DeCode og/eða Hjartavernd.
Listinn nær til þeirra vísinda-
manna innan hverrar fræðigreinar
sem mest er vitnað til í greinum í
alþjóðlegum vísindatímaritum.
Á lista yfir áhrifamestu vísindamennina
Hafsteinn Guðfinnsson, sérfræð-
ingur hjá Hafrannsóknastofnun,
flytur í dag erindi um vöktun eitr-
aðra svifþörunga við Ísland.
Í frétt á vef Hafrannsóknastofn-
unar segir að fjöldi og útbreiðsla
eiturþörunga, sem geta orsakað
eitranir í skelfiski, hafi verið vökt-
uð í átta íslenskum fjörðum frá
árinu 2005. Svifþörungar eru meg-
inæti kræklings, þessi vöktun teng-
ist ræktun og tínslu kræklinga og
veiðum á skeljum til manneldis og
er hún samvinnuverkefni Hafrann-
sóknastofnunar, Matvælastofnunar
og kræklingaræktenda.
Meðal þess sem vöktunin hefur
leitt í ljós er að eitraða þörunga er
að finna í öllum þeim fjörðum sem
vöktunin nær til. Vegna þess hefur
þurft að fresta tínslu kræklings vik-
um, jafnvel mánuðum saman.
Erindið verður flutt kl. 12:30 á 1.
hæð í húsnæði Hafrannsóknastofn-
unar á Skúlagötu 4.
Eiturþörungar við
Ísland vaktaðir
GLEÐILEG VERKFÆRAJÓL!
Skútuvogi 1c 104 Reykjavík Sími 550 8500 Fax 550 8510 www.vv.is
Hleðsluborvél EY 7441 LF
Aðeins 23.990 kr. til jó
Aðeins13.990 kr. til jóla
PRO
192 stk. verkfærasett
2S
la