Kun presidentti Obaman valinta CIA: n seuraavaksi päälliköksi John Brennan ilmestyi eilen senaatin komiteaan, yksi kysymys korvasi kaikki muut hänen vahvistuskuulemisessaan:
Kuinka tehdään päätökset lähettää tappaja-drooneja epäiltyjen terroristien jälkeen?
Miten ja mistä syystä tiettyjen drone-iskujen tilaaminen miksi, on suurelta osin mysteeri, mutta ainakin yksi asia on selvä - päätöksiä tekevät ihmiset, jotka toivottavasti painivat ajatuksella tappavan ohjuksen lähettämisestä. miehitettyyn rakennukseen.
Mutta entä jos ihmiset eivät olisi mukana? Entä jos yhden päivän elämää tai kuolemaa koskevat päätökset jätetään koneille, jotka on varustettu kuormitetulla tiedolla, mutta myös oikean ja väärän tunne?
Moraalinen omituisuus
Sitä ei ole toistaiseksi haettu. Sitä ei tapahdu pian, mutta ei ole epäilystäkään siitä, että kun koneet tulevat älykkäämmiksi ja autonomisemmiksi, keskeinen osa niiden muutosta on kyky oppia moraalia.
Itse asiassa se ei välttämättä ole niin kaukana. Gary Marcus, kirjoittaessaan äskettäin New Yorkerissa, esitteli skenaarion yhdestä Googlen ohjaamattomasta autosta ennen pakko tehdä sekunnin väliajan päätöksen: “Autosi nopeuttaa siltaa 50 mailia tunnissa, kun erehtyvä koulubussi kuljettaa 40 viatonta lasta. ylittää tiensä. Pitäisikö autosi kääntyä ja vaarantaa sen omistajan (sinä) hengen lasten pelastamiseksi tai jatkaaksesi asettamiseksi kaikki 40 lasta vaaraan? Jos päätös on tehtävä millisekunnissa, tietokone on soitettava. "
Entä robotti-aseet tai sotilaat? Voisiko drooni oppia olemaan ampumatta taloa, jos se tietäisi, että sisällä on myös viattomia siviilejä? Voisiko koneita opettaa noudattamaan kansainvälisiä sodasääntöjä?
Georgia Techin tietotekniikan professori ja robotiikan asiantuntija Ronald Arkin ajattelee varmasti niin. Hän on kehittänyt ohjelmistoa, johon viitataan nimellä "eettinen pääjohtaja", joka tekisi koneista kykeneviä päättämään milloin on tarkoituksenmukaista ampua ja milloin ei.
Arkin myöntää, että tämä saattaa olla vielä vuosikymmenien päässä, mutta hän uskoo, että robotit saattavat olla jonain päivänä fyysisesti ja eettisesti paremmat kuin ihmissotilaat, eivätkä he ole alttiita taistelun tunnevammalle tai kostohaluille. Hän ei kuvittele kaikkia robotteja sisältävää armeijaa, vaan sellaista, jossa koneet palvelevat ihmisten kanssa ja tekevät riskialttiita töitä, jotka ovat täynnä stressaavia hetkellisiä päätöksiä, kuten raivaamalla rakennuksia.
Varo tappajarobotteja
Mutta toisten mielestä on aika puristaa tämäntyyppinen ajattelu ennen kuin se menee liian pitkälle. Viime vuoden lopulla Human Rights Watch ja Harvard Law Schoolin ihmisoikeuskliiniset julkaisivat raportin ”Menettää ihmiskunta: tapaus tappajarobotteja vastaan”, joka nimikkeensä mukaisesti kehotti hallituksia kieltämään kaikki itsenäiset aseet, koska ne "lisäisivät siviilien kuoleman tai loukkaantumisen riski aseellisen konfliktin aikana. "
Noin samaan aikaan ryhmä Cambridgen yliopiston professoreita ilmoitti aikovansa käynnistää sen, mitä he kutsuvat eksistenssiriskien tutkimuskeskukseksi. Kun se avataan myöhemmin tänä vuonna, se vaatii vakavaa tieteellistä tutkimusta siitä, mitä voisi tapahtua, jos ja milloin koneet tulevat älykkäämmiksi kuin me.
Vaara, sanoo Huw Price, yksi keskuksen perustajista, on, että jonain päivänä voimme olla tekemisissä "koneiden kanssa, jotka eivät ole haitallisia, mutta koneiden, joiden edut eivät sisällä meitä".
Petoksen taide
Shades of Skynet, roistolainen tekoälyjärjestelmä, joka synnytti kiborgin Arnold Schwarzeneggerin The Terminator -elokuvissa. Ehkä tämä on aina tieteiskirjallisuutta.
Mutta harkitse muuta tutkimusta, jota Ronald Arkin tekee nyt osana puolustusministeriön rahoittamia hankkeita. Hän ja kollegansa ovat tutkineet, kuinka eläimet pettävät toisiaan tavoitteenaan opettaa robotille petoksen taidetta.
Esimerkiksi, he ovat työskennelleet robotien ohjelmoinnissa, jotta he voivat tarvittaessa antaa voimaa, kuten eläimet usein tekevät. Ja he ovat etsineet koneita jäljittelemään olentojen käyttäytymistä kuten itäharmaa orava. Oravat piilottavat pähkinöitään muilta eläimiltä, ja kun muita oravia tai petoeläimiä ilmestyy, harmaat oravat käyvät joskus paikoissa, joissa he piilottivat pähkinöitä heittääkseen kilpailijansa radalta. Robotit, jotka on ohjelmoitu noudattamaan samanlaista strategiaa, ovat kyenneet sekoittamaan ja hidastamaan kilpailijoita.
Arkin sanoo, että kaikki on etujen mukaista kehittää koneita, jotka eivät ole uhka ihmisille, vaan pikemminkin omaisuus, etenkin sodan ruma kaaos. Tärkeintä on alkaa keskittyä nyt ohjeiden asettamiseen asianmukaiselle robotin käyttäytymiselle.
"Kun aloitat Pandoran laatikon avaamisen, mitä pitäisi tehdä uudelle ominaisuudelle?", Hän sanoi äskettäisessä haastattelussa. "Uskon, että näillä älykkäillä roboteilla on potentiaalia vähentää muihin kuin taisteluun johtuneita uhreja, mutta meidän on oltava erittäin varovaisia niiden käyttämisessä, eikä vain vapautettava niitä taistelukentälle ilman asianmukaista huolta."
New Yorker -kirjailija Gary Marcuksen uskomiseksi eettisesti edistyneillä koneilla on suuri potentiaali taistelukentän ulkopuolella.
Minua ahdistaa eniten se, että ihmisen etiikka on vain keskeneräistä työtä. Me kohtaamme edelleen tilanteita, joissa meillä ei ole hyvin kehitettyjä sääntöjä (esim. Avustetun itsemurhan tapauksessa), eikä meidän tarvitse etsiä kauas menneisyyttä löytääksemme tapauksia, joissa omat säännöstömme olivat epäilyttäviä tai pahempaa (esim. Lait, jotka sallittu orjuus ja erottelu).
Mitä todella haluamme, koneita, jotka voivat mennä askeleen pidemmälle, on varustettu paitsi äänellisimmillä etiikkaohjeilla, jotka parhaimmat nykyajan filosofit voivat laatia, mutta myös mahdollisuuden, että koneet tekevät omaa moraalista edistymistään, johtaen heidät oman rajoitetun varhaisen aikaisemmin - 2000-luvun ajatus moraalista. ”
Koneet marssivat eteenpäin
Tässä on uudempi robottikehitys:
- Hmmmm, eettinen ja salamainen: Australian tutkijat ovat kehittäneet robotin, joka voi hiipiä liikkumalla vain, kun taustamelua on riittävä peittämään sen ääni.
- Mikä tuo suriseva ääni ?: Brittiläiset sotilaat Afganistanissa ovat alkaneet käyttää valvontaheronejä, jotka mahtuvat kämmeniin. Pieni robotti, nimeltään Black Hornet Nano, on vain neljä tuumaa pitkä, mutta siinä on vakoojakamera ja se voi lentää 30 minuuttia täydellä latauksella.
- Pinnan naarmuuntuminen: NASA kehittää RASSOR-nimistä robottia, joka painaa vain 100 puntaa, mutta pystyy kaivomaan mineraaleja kuuhun ja muihin planeettoihin. Se voi liikkua vaikealla maastolla ja jopa rohkeammin tukemalla itseään aseisiinsa.
- Ah, himo: Ja tässä on varhaisen Ystävänpäivä-tarina. Tokion yliopiston tutkijat käyttivät uroksen koiraa robotin ajamiseen. Itse asiassa he käyttivät pariutumisliikkeitään ohjataksesi laitetta kohti koiran feromoneilla tuoksuvaa kohdetta.
Videobonus: Joten et vain ole varma, voisitko käyttää 13 jalkaa pitkää robottia? Ei ongelmaa. Tässä on hieno demo, joka näyttää kuinka helppoa se voi olla. Iloinen malli näyttää jopa kuinka “Smile Shot” -ominaisuutta käytetään. Hymyilet, se laukaisee BB: t. Kuinka vaikea se on?
Lisää Smithsonian.com-sivustolta
Tämä robotti on parempi isä kuin isäsi
Robotit saavat ihmisen kosketuksen
