Rikoksesta mätätuista Johannesburgeista tulee aivan liian kaukaisessa tulevaisuudessa ensimmäinen kaupunki, joka on koskaan ottanut käyttöön itsenäisten robottipoliisin droidien laivaston. Aluksi koneet vaikuttavat tehokkaalta ratkaisulta. Rikollisuus putoaa rajusti ja projekti pidetään onnistuneena - kunnes jotain menee pieleen. Rap-rave-gangsterit, jotka etsivät nopeaa palkkapäivää, kaappaavat purkamiseen tarkoitetun vaurioituneen droidin. Asepisteessä pakotetun insinöörin avulla he ohjelmoivat droidin, nimeltään Chappie, itsenäiseksi agentiksi, luomalla tehokkaasti singulaarisuuden, pisteen, jossa tekoäly tulee älykkäämmäksi kuin ihmisen älykkyys.
Kuten useimmat hyvät tieteiskirjallisuudet, myös ohjaaja Neill Blomkampin uusi elokuva Chappie kommentoi ihmisen luontoa ja nykyisiä ongelmia, kuten köyhyyttä, rikollisuutta, syrjintää, kiusaamista ja poliisin raakuutta. Mutta se herättää myös esi-ikäisempiä kysymyksiä siitä, mitä monet ajattelevat - paremmiksi tai huonommiksi - tuntevan tekoälyn väistämättömäksi esiintymiseksi.
"Aikaisemmin kaikki, mitä ihmiset ovat suunnitelleet etiikasta ja moraalista riippumatta, on kokeiltu ja mahdollisuuksien mukaan tehty", sanoo Arizonan yliopiston ja Kalifornian teknillisen instituutin fysiikka Wolfgang Fink. . "Autonomiset järjestelmät syntyvät, jos joku selvittää miten ne luodaan - se on annettu."
Itse asiassa lukuisat tutkijat, mukaan lukien Fink, jatkavat kuumailmaisesti tätä tutkimuslinjaa, ja edistystä on jo tapahtunut. Itse Chappien lisäksi suuri osa elokuvassa esitetystä robotiikasta on tosiasiallisesti jo saatavilla tai hyvin lähellä sitä. Kauko-ohjattavat robotit, jotka ovat samanlaisia kuin elokuvan Hirvi - Hugh Jackmanin järjestäytyneen poliisin käyttämä robokopin ED-209 muistuttaa räikeä kuolemakone - on nykyään olemassa.
Samoin Chappie- poliisin droidit, jotka on ohjelmoitu sääntöpohjaisiksi järjestelmiksi ja ovat keinotekoisesti älykkäitä, mutta joilla ei ole itsetuntemusta tai autonomiaa - ovat melkein valmiita, vaikka niiden akku ja ketteryys eivät vielä vastaa malleja, jotka partioivat kadut Johannesburg. Jos ja kun tällaisia koneita otetaan käyttöön, se ei ehkä ole meille niin radikaalia asiaa hyväksyä. "Olemme erittäin hyviä mukautumaan ja tottumaan muutoksiin ympäristössä, mukaan lukien teknologiset muutokset", sanoo Ali Mattu, Columbian yliopiston lääketieteellisen keskuksen kliininen psykologi ja tieteiskirjallisuuden psykologisen blogin Brain Knows Better luoja. "Kun robotit tulevat osaksi jokapäiväistä elämäämme, mielestäni se saattaa tuntua tietyllä tavalla saumattomalta."
Poliisin droidi ei kuitenkaan tee itsenäistä tuntevaa olemusta. Chappien kaltainen todella itsehallinnollinen, tietoinen olemus olisi poiketa kaikesta ennen nähtystä. "Neanderthalsin jälkeisestä ajasta lähtien meillä ei ole koskaan ollut potentiaalia tehdä yhteistyötä täysin uuden älykkäiden lajien kanssa", Mattu sanoo. "Jos voimme ylittää empatian jakamisen keinot keinotekoisen elämänmuodon kanssa, se voi johtaa hämmästyttävään ikään ihmiskunnalle."
Laitteisto ei ole este, joka estää tällaisen olennon syntymistä - se on yksinkertaisesti tekninen tehtävä, Fink sanoo. Sen sijaan ohjelmiston, koneen haamun, luominen on todellinen haaste. Tutkijat käyttävät kahta erilaista lähestymistapaa tähän ongelmaan. Jotkut yrittävät luoda latausvalmiuden olennon tyhjästä, kun taas toiset ajattelevat, että perusohjelman kirjoittaminen, joka on varustettu työkaluilla, joita se tarvitsee oppiakseen, sopeutuakseen ja muokatakseen itseään kokemuksen kautta - kuten Chappie näkee - on tapa . Kuten Fink selittää: "Tapaus on joko joko leivoa piirakka ja laittaa piirakka järjestelmään tai antaa järjestelmälle piirakan aineosat ja jättää se järjestelmän tehtäväksi sen leipoa."
Kun läpimurto tapahtuu, todennäköisesti se ei tapahdu asteittain, vaan yhtäkkiä, kuten Chappie kuvaa. Fink ennustaa, että yksilöllisyyteen johtava häiriö - sen sijaan että yliopisto, hallitus tai yritys arvostaa - antaa pienen tutkijaryhmän tai jopa yksittäisen henkilön, jota todennäköisesti tukee varakas yksityinen rahoittaja ja joka on vapauden hengessä. kokeilla ja päästä eroon konservatiivisesta valtavirran tutkimuksesta. Se on todellakin melkein Chappien skenaario: Chappiea ei luota massiivinen yritys, vaan itsenäinen insinööri, jota pelaa Dev Patel, joka käyttää kaikkia mukavan päivätyönsä tarjoamia resursseja tukeakseen omaa valtavasti erilaista työtä autonomisesta tekoälystä yöllä.
Kun todella itsehallitseva tekoäly on syntynyt, on kuitenkin mahdotonta ennakoida kuinka monimutkaisesta järjestelmästä tulee tai mihin suuntaan se kehittyy. Toisin kuin me, kuten orgaanisissa järjestelmissä, biologinen evoluutio ei hidasta sitä. Sen kehitys olisi räjähtävää. Ei ole mitään takeita siitä, että tällainen järjestelmä hyväksyisi tai säilyttäisi joukon moraalisia tai eettisiä arvoja - tai että nämä arvot ulottuisivat ihmisiin. Chappien tapauksessa - joka kehittyy paljon kuin ihmisen lapsi, oppiminen ja kypsyminen ajan myötä - varhainen lupaus olla vahingoittamatta ihmisiä on pitkä matka pitämällä robotin toimintaa hallinnassa. Mutta kun tuhoaminen uhkaa, Chappie, kuten monet ihmiset, ohittaa suurelta osin moraalinsa ja toimii pelkän omahyödyn ulkopuolella puolustaen itseään, vaikka se tarkoittaisi muiden vahingoittamista.
Ja vaikka Chappie on törmännyt relatiiviseksi ja inhimilliseksi, tosimaailman tunteva robotti ei todennäköisesti noudattaisi inhimillistä päättelyä, heikentäen kykyämme ennakoida sen toimia tai ymmärtää sen motivaatioita. "Kun saavutat tuon tason, olet oleellisesti menettänyt järjestelmän hallinnan", Fink sanoo. "Se on sekä jännittävää että pelottavaa, koska se ei ole ihmisen kaltainen."
Asettaako ohjelmisto alun perin kehosi Chappien kaltaisen humanoidirobotin, avaruusaluksen tai jopa implantin kuoren, kun se palaa kyseisen fyysisen muodon rajoista - kuten Transcendenssissa on kuvattu (vaikkakin kiristämisen arvoinen) - on melkein mahdotonta sisältää sitä.
Vaikka tieteiskirjallisuus ja elokuvat ovat keskittyneet tekoälyn kysymykseen vuosikymmenien ajan, Fink huomauttaa, että tarvittava läpimurto "voisi tapahtua kirjaimellisesti milloin tahansa." Kaikki eivät ole tyytyväisiä tähän. Viime tammikuussa PayPalin perustajajäsen ja Tesla Motorsin toimitusjohtaja Elon Musk lahjoittivat 10 miljoonaa dollaria estämään robottiylitykset jostain päivästä ottamasta planeetan haltuunsa ja poistamaan meidät. Yrittäessään luoda itsenäistä tekoälyä, hän varoittaa, me kutsumme demonin esiin.
Myski ei ole yksin pelossaan tästä tutkimuslinjasta. Äskettäisessä Reddit-kysymyksessä “Ask me Anything”, Microsoftin perustaja ja hyväntekeväisyystekijä Bill Gates kirjoitti olevansa ”leirillä, joka on huolissaan superintelligenssistä” ja “ei ymmärrä miksi jotkut ihmiset eivät ole huolissaan” ihmisen tekemästä keinotekoisesta olentoja, jotka ylittävät oman kognitiivisen kykymme ja saavat autonomian. Myös fyysikko Stephen Hawkings jakaa tämän huolen ja ilmaisee sen vielä räikeämmin: "Täydellisen tekoälyn kehittäminen saattaisi merkitä ihmiskunnan lopun", hän kertoi BBC: lle.
Jopa isäntäsarjakuvalehdet kulkevat tällä kuluneella tiellä, joka yleensä on varattu tieteiskirjallisuudelle. Kuten vihjataan Marvel's Avengers: Age of Ultron -lehden uusimpaan traileriin, elokuvan sankarit taistelevat robotin kanssa, joka on alun perin luotu planeetan pelastajaksi sodasta, mutta päättää sen sijaan tuhota ihmiskunnan.
Kääntöpuolella ihmiset voivat kuitenkin olla hyökkääjät, uhkaavat itsemme luomien autonomisten olentojen olemassaoloa, kuten Chappie kuvaa. Se, ajammeko ihmiset rauhallisen polun, riippuu suurelta osin kahdesta asiasta, Mattu sanoo: jos voimme kommunikoida robotien kanssa ja jos meillä on empatiaa heihin. Viimeksi mainittu, hän selittää, riippuu näennäisesti matalista tekijöistä, kuten miltä robotit näyttävät - Onko heillä silmiä? Näyttävätkö ne meiltä samanlaisilta, mutta eivät kovin samanlaisilta? - ja kohtaavatko ne yleensä niin miellyttäviä. Samojen tavoitteiden jakaminen kuin meillä auttaisi myös heidän tapaustaan. Nämä tekijät hyödyntävät synnynnäistä neurologista taipumustamme luokitella toiset joko luotettavan ryhmämme osaksi tai mahdollisesti uhkaavaan ryhmään. Robotistit ottavat nämä psykologiset tekijät huomioon suunnitellessaan uusimpia koneitaan.
Mattu huomauttaa kuitenkin, että vaikka robotit täyttäisivät kaikki nämä edellytykset, ei silti ole takeita asioiden menemisestä. ”Ihmisillä on tarpeeksi vaikea nähdä toisiaan ihmisinä, puhumattakaan älykkyydestä tai vieraasta elämästä”, Mattu sanoo. "Meillä on myös historiaa, että ensimmäiset kontaktit ovat menneet erittäin huonosti."
Joten voi olla niin, että tuhoamme luomuksemme ennen kuin edes tiedämme sen, tai että käänteinen toteutuu - että ohjelmistomme jälkeläiset tekevät meistä kaikista orjia kuten Matrixissa nähdään, tai päättää Skynet-tyylillä, että ihmiskunta yksinkertaisesti ei ole ei ole olemassaolon arvoinen. Toisaalta ihmiset ja itsenäiset robotit voisivat omaksua toisensa, sopimalla yhdessä työskentelemään mielenkiintoisissa harrastuksissa, kuten avaruustutkimuksessa. Ainoa tapa selvittää, päättyvätkö asiat liekkeihin ja kyyneleihin vai edistymiseen ja ystävyyteen, on kuitenkin luoda nämä olennot. Mutta jos menneisyys on jotain indikaattoria, se on vain ajan kysymys. "Meitä ajaa aina uteliaisuus, halu tutkia ja löytää yllättäviä", Fink sanoo. "Ja tieteellisellä etiikalla on taipumus olla jälkeen kehitystämme."
"Joskus saamme atomivoiman, ja joskus saamme atomiaseita", Mattu lisää. "Emme tiedä mihin suuntaan se vie, mutta emme voi pysäyttää tiedettä."
