Rauhacast: Pitääkö robottiaseet kieltää?
- Kuuntele jakso SoundCloudissa, Spotifyssa tai Apple Podcastsissa.
Rauhacastissa Timo Virtalan haastateltavana on tällä kertaa Amnesty Internationalin Suomen osaston toiminnanjohtaja Frank Johansson. He selvittävät, mitä ovat tappajarobotit. Miksi ne pitää kieltää?
(Teksti jatkuu podcast-upotuksen jälkeen.)
Suomella näytön paikka: YK:ssa olisi tarve moraaliselle esitaistelijalle
Amnesty Internationalin Suomen toiminnanjohtaja Frank Johansson peräänkuuluttaa Suomelta aktiivisempaa roolia YK:n keskusteluissa robottiaseiden kieltämisestä.
“Nyt tarvittaisiin joku valtio tai valtioryhmittymä, joka lähtisi ajamaan voimakkaammin tätä asiaa. Se on ainoa tapa miten tätä saadaan edistettyä.”
Sopimuksen takana on vaikuttava joukko tukijoita: 125 maasta koostuva sitoutumattomien maiden liike, kolmisenkymmentä valtiota, yli neljätuhatta tekoälytutkijaa, 140 kansalaisjärjestöä, 26 Nobelin rauhanpalkinnon saanutta henkilöä ja YK:n pääsihteeri. Myös Euroopan parlamentti on hyväksynyt julkilausuman neuvotteluiden aloittamiseksi kieltosopimuksen aikaansaamiseksi.
“Mutta sellaista champpionia, esitaistelijaa, joka lähtisi oikeasti ajamaan ja viemään tätä eteenpäin, ei näissä neuvotteluissa ole löytynyt.”
Esitaistelijan puuttumisen lisäksi ongelmana on koronapandemia, joka on keskeyttänyt kokoukset. Suomen hallitukselta odotetaan nyt keskusteluihin kirjallisia vastauksia. Mikäli tilanne sallii, kokoukset lähtevät käyntiin taas ensi vuonna.
Johanssonin mukaan Suomi on ollut asiassa passiivinen, vaikka pyrkimys robottiaseiden kieltämiseen on mainittu hallitusohjelmassa hyvinkin selväsanaisesti. Kokouksissa Suomi ei ole kuitenkaan ainakaan toistaiseksi kantaansa ilmaissut.
Teurastajadronet
Tappavien autonomisten aseiden ydinongelma nostetaan karmivasti esille lyhytelokuvassa Slaughterbots. Siinä esitellään kämmenelle mahtuva drone, joukkotuhoase, joka voidaan ohjelmoida tuhoamaan ihmisiä tietyn poliittisen vakaumuksen, etnisen taustan, asuinpaikan tai vaikka seksuaalisuuden perusteella.
Yhtenä elokuvan tekijöistä on Stuart Russell, Kalifornian yliopiston tietojenkäsittelytieteen professori, maailman johtava tekoälyasiantuntija. Videon lopussa hän korostaa, ettei kyse ole pelkästä spekulaatiosta.
“Elokuvan teknologia on olemassaolevien teknologioiden yhdistelmä ja pienennös. Tekoälyllä on valtava potentiaali hyödyttää ihmiskuntaa, myös maanpuolustusta, mutta jos annamme koneille mahdollisuuden päättää ihmisten tappamisesta, seuraukset turvallisuudellemme ja vapaudellemme ovat tuhoisat.”
Ongelma on moraalinen, ei tekninen
Kansainväliselle Punaiselle Ristille neuvonantajana toimiva Neil Davison määrittelee tappajarobotit eli tappavat autonomiset aseet aseiksi, jotka valitsevat ja hyökkäävät kohteensa itsenäisesti, ilman ihmisen apua. Hänen mukaansa näitä aseita on jo käytössä.
Tällaisia aseita kehittävät ainakin Yhdysvallat, Iso-Britannia, Kiina, Etelä-Korea, Israel ja Venäjä. Yhdysvaltalaisen uutisblogialusta Vox.com’in laatimalla videolla korostetaan, ettei kyseessä ole tekninen, vaan juridinen ja eettinen kysymys. Teoriassa mikä tahansa kauko-ohjattu asejärjestelmä, niin maalla, merellä kuin ilmassakin, voidaan asentaa iskemään omatoimisesti.
Frank Johansonin mukaan on ratkaisevaa, onko robotille käskyn antaja olemassa vai ei. Jos käskyn antajaa ei ole, kuka kantaa vastuun seurauksista?
“Kyse on siitä, että heille on annettu monimutkaisten algoritmien kautta jonkinnäköinen oppimisluuppi, eli he pystyvät lukemaan sen tilanteen ja valitsemaan vaihtoehtoja ja toimimaan tietyllä tavalla, ja voivat joka kerta tehtyään jotain oppia tekemisistään ja todennäköisesti jopa niin, että kaikki nämä robotit oppivat myös koko ajan toisiltaan.”
Juridisesti ja moraalisesti tämä on Johanssonin mukaan täydellistä harmaata vyöhykettä. Onko vastuussa ohjelmointiyritys, yksittäinen ohjelmoija, omistaja, valtio vai komentaja, joka laittaa robotin kentälle?
Frank Johansson tunnustaa olevansa ylipäätäänkin teknologiaskeptinen henkilö. “Kaikki meidän tekeminen: kaupassakäyminen, maksaminen, verotoimistossa asiointi… me tarvitaan digitaalista maailmaa, ja se pyörii vain ja ainoastaan sillä sähköllä.” Olemme tavattoman riippuvaisia hyvin hauraasta teknologiasta, jatkaa Johansson, jossa “pienikin tapahtuma jossain pystyy sekoittamaan monien miljoonien ihmisten elämät ihan täydellisesti.”
“Mitä enemmän ajattelen, että tuolla liikkuisi omaa ajatteluaan jatkuvasti kehittäviä robotteja, jotka ovat ohjelmoituja tappamaan, sitä pelottavammaksi tämä tulee. Emme todellakaan tiedetä, mihin se johtaa.”
Riskinä uusi asevarustelukilpailu
Tappavien autonomisten aseiden kehitys on alkutekijöissään ja ongelma on vasta hahmottumassa. Olemmeko asiassa liian aikaisin liikkeellä? Frank Johanssonin mukaan asia on juurikin päin vastoin.
“Jos me katsotaan teknologian kehitystä, vaikkapa mobiiliteknologiaa tai sosiaalista mediaa, niin ongelma on aina ollut, että lainsäätäjä on ollut pari askelta jäljessä. Yliopistoista poimitaan ne parhaat aivot näihin teknologiayrityksiin. Heillä on parempaa osaamista kuin heitä säätelevillä viranomaisilla, ja sen takia viranomaiset eivät pysy tässä vauhdissa mukana.”
Johansson pelkää, että jos joudumme vielä odottelemaan viidestä kuuteen vuotta, niin näitä aseita kehitellään jo 10-15 maassa. “Vaarana on se, että tästä tulee jonkinnäköinen uusi asevarustelukilpailu. Nähdään, että tällaiset aseet on niin voimakas etu tavanomaisessa sodankäynnissä, että kaikki haluavat niitä. Sen takia rajoittamisella on enemmänkin kiire, kuin että tässä kannattaisi odottaa.”
Ydinaseilla on jo valmistajansa, tuotantoketjunsa ja lobbarinsa, jotka jarruttavat ja demonisoivat hyvin aktiivisesti ydinaseiden kieltosopimusta. Frank Johansson on samaa mieltä. “Se on juuri näin. Sellaista, jota on jo olemassa, ja jota jo käytetään, niin sen askeleen taakse ottaminen on paljon vaikeampaa.”
Kuuntele Rauhacast!
Rauhacast on Rauhanliiton rauhaa ja turvallisuuspolitiikkaa käsittelevä podcast-sarja. Tämä jakso on tuotettu kansainvälisen tappajarobottien vastaisen kampanjan (Campaign to Stop Killer Robots). Täältä Rauhanliiton sivuilta löydät myös lisää tietoa robottiaseista.
Joko kuuntelit Rauhacastin aiemmat jaksot? Löydät ne Rauhanliiton sivuilta, SoundCloudista, Spotifysta ja Apple Podcastsista.
Timo Virtala
Rauhanliiton blogi tuo näkökulmia rauhanpolitiikkaan ja -kulttuuriin. Osana blogia julkaisemme Rauhacast-podcastia. Esitetyt näkökulmat eivät välttämättä vastaa Rauhanliiton näkemyksiä.
