Morgunblaðið - 28.12.2019, Blaðsíða 52

52 MORGUNBLAÐIÐ TÍMAMÓT 29.12. 2019
Áður en leiðtogafundurinn The New Work
Summit, um framtíðina á vinnumarkaði með
áherslu á tækifærin og hætturnar við breyting-
arnar í ýmsum greinum iðnaðar samfara inn-
reið gervigreindar, var haldinn í febrúar 2019
bað The New York Times þátttakendur í hon-
um að svara spurningum að þeirra vali um
tækni. Svörin hafa verið yfirfarin og stytt.
Hvað er mikilvægasta skrefið sem
tæknigeirinn getur tekið til að skapa
traust gagnvart gervigreind?
Ashton B. Carter
stjórnandi Belfer-stofnunarinnar um vísindi
og alþjóðamál í Kennedy-skólanum við Har-
vard-háskóla og 25. varnarmálaráðherra
Bandaríkjanna.
Árið 2013 þegar ég var næstæðsti ráðamaður
í varnarmálaráðuneytinu gaf ég út stefnumark-
andi tilskipun um sjálfstýrð vopn, sem enn er í
gildi. Bandaríkin taka sín gildi með inn á víg-
völlinn og í tilskipuninni segir að maður þurfi að
taka þátt í og bera ábyrgð á ákvörðunum þar
sem leiðsagnar gervigreindartækni nýtur við
um beitingu banvænna vopna. Sami siðferðis-
legi áttavitinn ætti að ráða beitingu gervi-
greindar í viðskiptum þegar kemur að mati á
greiðslugetu, fangelsisdómum og persónu-
vernd. Ábyrgð krefst gagnsæis. Eftir ævistarf í
þróun tækni tel ég að gagnsæi í þágu ábyrgðar
eigi að vera tæknilegt skilyrði við smíði
gervigreindaralgríms.
Rana el Kaliouby
meðstofnandi og framkvæmdastjóri
Affectiva.
Í dag er gervigreind blind á fólk. Vitaskuld
sér hún okkur, en hún gerir sér enga grein fyrir
hvernig okkur líður. Og þegar við eigum sam-
skipti við tæknina hverfa öll blæbrigði og gnótt
tilfinninga okkar inn í netgeiminn. Það er gríð-
arleg hindrun þegar kemur að því að búa til
traust og efla samskipti — ekki bara milli fólks
og gervigreindar, heldur einnig við annað fólk.
Hvernig getum við treyst tækni, sem sviptir
okkur því sem gerir okkur að mönnum.
Danika Laszuk
forstjóri Betaworks Camp.
Tæknisamfélagið þarf að fara að taka sið-
ferðishliðina á því sem það býr til alvarlegar.
Vöxturinn í gervigreind og 5G-tækni mun til
dæmis fara að geta af sér nýja markaði og jafn-
vel heilu iðngreinarnar þegar þróun þeirra
verður lengra komin. Ný veftækni eins og
bálkakeðjan býr yfir möguleikanum á að búa til
lýðræðislegra og öruggara net þar sem not-
endur hafa meiri stjórn og ábyrgð er dreift af
meiri jöfnuði.
Uppgangurinn undanfarið í gervimiðlum og
blandveruleikatólum (veruleikaauðgun) er
bæði spennandi og tilefni til að taka skref aftur-
ábak. Í gegnum stafrænt gerð Instagram-líkön
eins og Lil Miquela, grípandi veröld Fortnite og
normalíseringu þess að fólk eigi reglulega í
skiptum við ómennsk verkfæri á borð við Alexu
hefur orðið til gerviveruleiki þar sem mannleg
reynsla er mögnuð, aukin og ögrað með sam-
skiptum okkar við greindar vélar.
Tristan Harris
meðstofnandi og framkvæmdastjóri Center
for Humane Technology.
Langmikilvægasta leiðin til að byggja traust
gagnvart gervigreind er að samræma við-
skiptalíkönin vistháttum þeirra, sem hagsmuni
eiga, og með því að tryggja að þeir starfi þannig
að þeir geri ráð fyrir mögulegri áhættu og
skaða í ákvörðunum sínum. Í tækniframtíðar-
sýn manna eru þau mistök iðulega gerð að
ímynda sér góðkynja gervigreind, sem með dul-
arfullum hætti stekkur út úr tilraunastofunni til
að leysa vandamál okkar á meðan horft er fram
hjá því hvernig viðskiptalíkön fyrirtækjanna,
sem nota gervigreindartæknina, eru í viðjum
slæmra hvata. Ef neikvæð áhrif Facebook und-
anfarið ár hafa kennt okkur eitthvað er það að
við ættum aldrei að vanmeta skaðann af við-
skiptalíkönum á villigötum.
Dov Seidman
stofnandi og framkvæmdastjóri LRN.
Viðfangið í viðskiptum er ekki lengur bara
viðskipti. Viðfangið í viðskiptum er nú sam-
félagið. Heimurinn er samtengdur og við getum
ekki lengur verið hlutlaus í afstöðu okkar. Þess
vegna er óhjákvæmilegt að taka ábyrgð á því
sem tæknin gerir mögulegt og hvernig hún er
notuð. Það mun þurfa meira en hugbúnað til að
endurvekja traust.
Við þurfum að móta „siðprýðiforrit“ með for-
ustu sem hefur að leiðarljósi okkar helstu sam-
eiginlegu gildi og tryggir að tæknin standi und-
ir sínum fyrirheitum; að auka færni okkar,
auðga líf, færa okkur saman í raun og gera
heiminn opnari og jafnari. Það þýðir að sjá ekki
bara „notendur“ og „smelli“ heldur raunveru-
legt fólk, sem á skilið sannleikann og hægt er að
treysta til að taka sínar eigin upplýstu ákvarð-
anir.
Meredith Whittaker
meðstofnandi og meðstjórnandi AI
Now Institute.
Það er erfitt að treysta því sem þú getur
hvorki séð né sannreynt. Gervitæknin er ekki
sýnileg þorra okkar, falin bak við fyrir-
tækjaleynd og samofin bakvinnslu, dulin fólk-
inu, sem hún hefur mest áhrif á. Svona er þetta
jafnvel þótt gervigreindarkerfi fáist í auknum
mæli við að taka félagslega mikilvægar ákvarð-
anir á borð við hver er ráðinn, hver fær að
ganga laus gegn greiðslu, til þess í hvaða skóla
barnið þitt fær að ganga. Við þurfum nauðsyn-
lega á leiðum að halda til að hægt sé að kalla
gervigreind og þá sem græða á þróun hennar til
ábyrgðar gagnvart almenningi. Þar með ætti að
telja ytri endurskoðun og próf, sem myndu
tryggja að gervigreindarfyrirtæki væru háð
eftirliti og vottun fyrir opnum tjöldum hvað
varðar innviði og vinnubrögð.
Það þyrfti líka að tengja nærsamfélög til að
tryggja að þeir, sem eru í mestri hættu á að
skaðast hafi eitthvað um það að segja hvenær,
hvernig eða hvort ætti að nota slík kerfi. Á með-
an verið er að reisa þessa hornsteina trausts
þarf að eiga sér stað samstarf í tæknisamfélag-
inu, það er of mikið í húfi til að reiða sig á þátt-
töku af fúsum og frjálsum vilja. Regluverk mun
nánast örugglega verða nauðsynlegt þar sem
þörf verður á grundvallarbreytingum á
hugsuninni „hleypa af stokkunum, endurtaka,
hagnast“ sem nú er viðtekin í greininni.
Deep Nishar
meðeigandi og í yfirstjórn SoftBank Vision
Fund.
Gervigreindarkerfi eiga að vera mannkyni
stoð og stytta, ekki að ógna því — gera okkur
kleift að losa okkur undan íþyngjandi verk-
efnum þannig að við getum sinnt verkum sem
skipta meira máli. Greindarkerfi eru þegar far-
in að liðsinna okkur við að finna ný umhverfis-
væn efni, aðstoða lækna við ákvarðanir um
meðferð, gera framleiðsluferli skilvirkara í
verksmiðjum og hraða lyfjaþróun. Viðhorf okk-
ar ætti að mótast af bjartsýni, ekki ótta.
Sara Menker
stofnandi og framkvæmdastjóri Gro
Intelligence.
Aðeins er hægt að koma á trausti ef fyrir
hendi er gagnsæi og ábyrgð. Tæknisamfélagið
þarf að koma saman og búa til ramma, sem
leyfir gagnsæi um leið og hugverkarétturinn er
virtur og færni forritanna til að læra, þróast og
taka stöðugum breytingum. Gagnsæi er fyrsta
skrefið til ábyrgðar og ábyrgð er lykilatriði,
sérstaklega þegar kemur að sviðum eins og
heilbrigðismálum, mat og menntun þar sem
gervigreind getur valdið grundvallarbreyting-
um.
Adena Friedman
forseti og framkvæmdastjóri NASDAQ.
Eins og sagt er þá er traust áunnið og fæst
ekki gefins. Reynsla okkar á mörkuðum hefur
sýnt að gagnsæi er einn af lyklunum að trausti.
Til að skapa traust þurfa þeir, sem nota gervi-
greind til að búa til nýja færni, að taka til at-
hugunar hversu miklu á að deila — með við-
skiptavinum sínum og öðrum hlutaðeigandi —
um það sem fer í forritin, innra gangverk og
það sem kemur út úr vélrænum námstólum
þeirra. Markmiðið til að ávinna traust ætti að
vera að svipta dularhjúpnum af ferlinu við að
skapa nýja færni, ekki láta eins og um sé að
ræða nýjan galdur, sem viðskiptavinir geti ekki
skilið. Í mínum huga mun gervigreind, ef tekst
að tryggja gagnsæi, þegar upp er staðið gera
kleift í öllum iðngreinum að ná því besta út úr
mönnum og vélum saman til að búa til betri,
öruggari og snjallari lausnir fyrir viðskiptavini.
Reid Hoffman
meðstofnandi og formaður framkvæmda-
stjórnar LinkedIn, meðeigandi í Greylock
Partners.
Það er mikilvægt að leggja umtalsvert fé í
rannsóknir og þróun öryggis í sambandi við
gervigreind — þannig að afrakstur gervi-
greindar leiði til jákvæðra niðurstaðna fyrir
mannkyn og áhættan takmörkuð. Til gervi-
greindaröryggis telst gagnsæi varðandi algrím
og vinnslu. Gervigreindaröryggi mun ná til
tækni til að skilja réttlæti og sanngirni upplýs-
ingagrunna, sem notaðir eru til að gera vélum
fært að læra. Öryggi í sambandi við gervigreind
mun einnig snúast um að gera vel grein fyrir
innan hvaða ramma vélarnar vinna. Í greininni
ættu menn að vinna saman að gervigreindarör-
yggi til að afraksturinn verði sem mestur fyrir
heiminn.
David Limp
yfirvaraforseti tækja- og þjónustudeildar
Amazon.
Fólk hefur varann á sér gagnvart nýjum
hlutum og gervigreind fellur undir þá skilgrein-
Gervigreind á eftir
að hafa mikil áhrif á
líf okkar. Hún mætir
tortryggni og vekur
spurningar um
traust, endur-
menntun og störf
framtíðarinnar.
18 leiðtogar svara spurningum um traust,
endurmenntun og framtíðina á vinnumarkaði.
STEFNAN MÖRKUÐ
Forystumenn
í viðskiptum
taka út
gervigreind