Viime vuonna Facebook loi kaksi chatbotia ja pyysi heitä aloittamaan keskustelun toistensa kanssa harjoittamalla neuvottelutaitojaan. Botit osoittautuivat melko hyviksi neuvotteluissa - mutta he tekivät sen käyttämällä omaa, ihmisille käsittämätöntä kieltä.
Asiaan liittyvä sisältö
- Tämä taiteilija asuu luokiteltujen salaisuuksien ja valvonnan salaisessa maailmassa
Tähän maailma menee. Tietokoneet luovat sisältöä toisillemme, ei meille. Tietokoneet ottavat kuvia, jotta muut tietokoneet voivat katsella ja tulkita niitä. Kaikki tapahtuu hiljaa, usein ilman tietämystämme tai suostumustamme.
Joten tietokoneen näkemisen oppiminen - näiden koneiden välisten viestien tekeminen näkyväksi - voi olla 2000-luvun tärkein taito.
Kronos-kvartetti - David Harrington, John Sherba, Hank Dutt ja Sunny Yang - soittivat konsertin Smithsonian American Art Museumissa 25. lokakuuta 2018. Niitä tarkkaili 400 ihmistä ja tusina tekoälyalgoritmia, jälkimmäisen kohdalla "Sites Unseen" -näyttelyn takana olevan taiteilijan Trevor Paglenin kohdalla, joka on tällä hetkellä nähtävissä museossa.
Kun muusikot soittivat, heidän yläpuolellaan oleva näyttö näytti meille ihmisille, mitä tietokoneet näkivät.
Kun Kronos työskenteli tiensä läpi surkean kappaleen, joka oli alun perin peräisin Ottomaanien valtakunnasta, näytön yläpuolella olevat algoritmit havaitsivat muusikoiden kasvot, hahmottaen jokaisen ihmisen huulet, silmät ja nenän (ja näkivät toisinaan "kummitus" kasvot, joissa niitä ei ollut - usein Kronos-perustajan Harringtonin moppi). Algoritmien kehittyessä edistyneemmäksi, videosyöte häipyi, kunnes vain mustalla taustalla olevat neonviivat jäivät. Lopuksi kasvojen ääriviivat katosivat, kunnes abstrakti linjajärjestely - oletettavasti kaikki tietokoneet, joita tarvittiin "kasvojen" ymmärtämiseksi, mutta ihmisille täysin käsittämättömiksi - oli kaikki mitä oli jäljellä.
"Näkökone", Trevor Paglen, Kronos-kvartetti (Bruce Guthrie) 
"Näkökone", Trevor Paglen, Kronos-kvartetti (Bruce Guthrie) 
"Näkökone", Trevor Paglen, Kronos-kvartetti (Bruce Guthrie) 
"Näkökone", Trevor Paglen, Kronos-kvartetti (Bruce Guthrie) 
"Näkökone", Trevor Paglen, Kronos-kvartetti (Bruce Guthrie) 
"Näkökone", Trevor Paglen, Kronos-kvartetti (Bruce Guthrie) 
"Näkökone", Trevor Paglen, Kronos-kvartetti (Bruce Guthrie) 
"Näkökone", Trevor Paglen, Kronos-kvartetti (Bruce Guthrie) 
"Näkökone", Trevor Paglen, Kronos-kvartetti (Bruce Guthrie) 
"Näkökone", Trevor Paglen, Kronos-kvartetti (Bruce Guthrie) 
"Näkökone", Trevor Paglen, Kronos-kvartetti "Näkökone" -nimisen esityksen East Coast -debyytti, kuten Paglenin muu teos, pyysi katsojia ja kuuntelijoita oppimaan näkemään, kuten tietokoneet tekevät, ja tutkimaan uudelleen ihmisen suhdetta tekniikkaan - taskuihin kuuluvat puhelimet ja silmät taivas ja kaikki niiden välillä.
On vuosi 2018, ja ajatus siitä, että matkapuhelimet seuraavat meitä, ei enää tunnu salaliittoteorialta, jonka tina-folio-hattuja käyttävä kellarikerrosbloggari on esittänyt. Google kiinni aiemmin tänä vuonna Android-puhelimien käyttäjien sijaintien seuraamisessa, vaikka käyttäjät olisivatkin poistaneet ominaisuuden käytöstä. Monet ihmiset ovat vakuuttuneita siitä, että puhelimemme kuuntelevat meitä paremmin näyttämään mainoksia - Facebook ja muut yritykset kiistävät nämä maksut, vaikka heidän on teknisesti ja laillisesti mahdollista tehdä niin. Tekniikkatoimittajat Alex Goldman ja PJ Vogt tutkivat ja löysivät saman asian: Ei ole mitään syytä, miksi puhelimiasi ei kuunnella, mutta toisaalta mainostajat voivat kerätä meistä tarpeeksi tietoa muilla menetelmillä, joita heidän ei vain tarvitse .
"Näkökone" suoritettiin tässä yhteydessä. Kymmenen Kronos Quartetia katselevaa kameraa lähettivät live-videon esityksestä tietokoneiden runkoon, joka käyttää aivan hyllyyn tarkoitettujen tekoälyalgoritmien avulla aavemaisten visioiden luomiseen. Algoritmit ovat samat, joita käytetään puhelimissamme auttamaan meitä ottamaan parempia selfies-tyyppejä, itse-ajavien autojen esteiden välttämiseksi käyttämiä algoritmeja ja lainvalvonnan ja aseohjauksen käyttämiä. Joten vaikka näytöllä näkyvät tulokset olivat joskus kauniita tai jopa hauskoja, tapahtui kauhun alavirta.
"Minusta hämmästyttää tätä työtä, hän näyttää meille jotain, mikä on - ja tämä pätee kaikkeen hänen työhönsä - hän näyttää meille jotain häiritsevää ja hän tekee sitä temppujen avulla", sanoo museon kuraattori John Jacob. valokuvausta varten, joka järjesti "Sites Unseen".
"Se on tahallinen temppu", hän sanoo, "ja se toimii."
Myöhemmin hienostuneet kasvojentunnistusalgoritmit tekivät arvioita Kronosin jäsenistä ja näyttivät tulokset näytöllä. "Tämä on John [Sherba]. John on 24-40-vuotias", kertoi tietokone. "Sunny [Yang] on 94, 4% naisia. Sunny on 80% vihainen ja 10% neutraali."
"Yksi niistä asioista, jotka toivon esityksen osoittavan", Paglen sanoo, "on joitain tapoja, joilla sellainen tietokoneiden havaitseminen ei ole neutraalia. Se on erittäin puolueellinen ... kaikenlaisten poliittisten ja kulttuuristen oletusten kanssa, jotka ovat ei neutraali. " Jos sukupuolenluokitusjärjestelmän mukaan Sunny Yang on 94, 4 prosenttia naisia, niin se tarkoittaa, että joku on 100 prosenttia naista. "Ja kuka päätti, mikä 100 prosenttia nainen on? Onko Barbie 100 prosenttia naista? Ja miksi sukupuoli on binaarinen?" Paglen kysyy. "Näen tapahtuvan tällä hetkellä, kun liittohallitus yrittää kirjaimellisesti poistaa queer-sukupuolisia ihmisiä, se on toisaalta hauskaa, mutta minulle se on myös kauhistuttavaa."
Myöhempi algoritmi luopui prosenteista ja siirrettiin kohtausten kohteiden tunnistamiseksi. "Mikrofoni. Viulu. Henkilö. Meduusat. Peruukki." (Kaksi viimeksi mainittua ovat selvästi virheitä; algoritmi näyttää sekoittaneen Hank Duttin meduusalle ja Harringtonin todelliset hiukset toupeelle.) Sitten luokitukset muuttuivat monimutkaisemmiksi. "Sunny pitää saksiparia", kone sanoi, kun valo kimalsi hänen sellonkieleltään. "John pitää veitsellä." Mitä tapahtuisi, jos luokittelija antaisi nämä - väärät - tiedot lainvalvonnalle, emme koskaan tiedä.
Useimmat AI-alustojen loppukäyttäjät - jotka eivät ole taiteilijoita - saattavat väittää, että näillä järjestelmillä voi olla omat puolueellisuutensa, mutta ihminen saa aina lopullisen kirjautumisen. Amazonin valmistama algoritmi Rekognition, jonka yritys myy lainvalvonnalle ja mahdollisesti ICE: lle, tunnisti tunnetusti 28 kongressin jäsentä ihmisiksi, joille oli syytetty rikoksesta vertaamalla heidän kasvonsa kuvakaappauksiin julkisesti saatavilla olevassa tietokannassa. Tuolloin Amazon väitti, että ACLU, joka käytti järjestelmää otteluiden tekemiseen, oli käyttänyt tunnistusta väärin. Yrityksen mukaan järjestelmän oletusasetus otteluille, nimeltään "luottamuskynnys", on vain 80 prosenttia. (Toisin sanoen algoritmi oli vain 80 prosenttia varma, että edustaja John Lewis oli rikollinen.) Amazonin tiedottaja kertoi suosittelevansa poliisin yksiköiden käyttämään 95 prosentin luottamuskynnystä ja että "Amazonin tunnistusta käytetään lähes yksinomaan auttamaan kaventamaan kenttää ja antamaan ihmisille mahdollisuuden tarkistaa ja harkita vaihtoehtoja nopeasti arviointinsa avulla. ”Tietokoneet voivat olla yhteydessä toisiinsa, mutta - toistaiseksi - he pyytävät ihmisiä vielä soittamaan viimeisen puhelun.
Musiikilla, jonka Paglen on valinnut Kronosin tuella, on myös jotain sanottavaa tekniikasta. Yksi kappale, "Powerhouse", kirjoittanut Raymond Scott, "on todennäköisesti tunnetuin siitä, että sitä käytetään sarjakuvissa tehdas kohtauksissa", Paglen sanoo. "Jos näet tehtaan tyyppisen ylituotannon ja hulluuden, tämä puhuu usein musiikista. Minulle se on eräänlainen ajattelutapa tuosta melkein sarjakuvamaisesta teollistumisesta ja sijoittaa heidät teknologiayhteyteen." Toinen kappale, Steve Reichin "Different Trains", sulki sarjan. Kronos esittää vain ensimmäisen osan, joka kertoo Reichin lapsuudesta 1930- ja 40-luvuilla; Paglen sanoo ajattelevansa teosta juhlivan "ylenpalttisuuden ja edistymisen tunnetta, jota junat helpottavat". *
Siihen liitettiin kuvia julkisesti saatavilla olevasta ImageNet-tietokannasta, joita opetetaan tietokoneille mitä asiat ovat. (Kutsutaan myös "harjoitustietoksi", joten kyllä, se on vähän hätkähdyttävä.) Näytössä välähti kuvia mahdottoman nopeasti, ja siinä oli esimerkkejä hedelmistä, kukista, lintuista, hattuista, seisovista, kävelevistä, hyppäävistä ja yksityishenkilöt, kuten Arnold Schwarzenegger. Jos haluat opettaa tietokoneelle, kuinka tunnistaa ihminen, kuten Schwarzenegger, tai talon tai käsitteen "illallinen", aloitat näyttämällä tietokoneelle nämä tuhannet kuvat.
Oli myös lyhyitä videoleikkeitä ihmisistä, jotka suutelevat, halailevat, nauravat ja hymyilevät. Ehkä näihin kuviin koulutettu AI olisi hyväntahtoinen, ystävällinen.
Mutta "Erilaiset junat" ei koske pelkästään optimismia; myöhemmät liikkeet, joita Kronos ei pelannut torstaina, mutta jotka "ensimmäisten mielestä" ovat esittäneet, koskevat sitä, kuinka junamatkan lupaus käytettiin holokaustin instrumentiksi. Junista, jotka näyttivät tekniikan kehitykseltä, tuli ajoneuvot, joissa kymmeniä tuhansia juutalaisia siirrettiin kuolemanleireille. Se, mikä näytti hyväntahtoiselta tekniikalta, kaatui pahasta.
"Se on kuin" Mikä voi mennä pieleen? " Paglen sanoo. "Keräämme kaikki tiedot kaikista ihmisistä maailmassa." "
Ja itse asiassa, kun "Erilaiset junat" päättyi, painopiste siirtyi. Näytössä ei enää näytetty kuvia Kronosista tai ImageNetin harjoitteludatista; sen sijaan se näytti yleisölle live-videosyötteen, kun kasvojentunnistusalgoritmit valitsivat kunkin henkilön piirteet. Todellakin, vaikka ajattelemme, että meitä ei tarkkaile, olemme.
Yleisön live-videosyötteessä kasvojentunnistusalgoritmit valitsivat kunkin henkilön piirteet. (Bruce Guthrie) Raportoidakseni tämän tarinan lähdin talostani ja kävelin metroasemalle, jossa skanniin nimeni linkitettyyn elektroniseen korttiin käydäkseni kääntyvän radan läpi, ja taas kun lähdin metroasemalta keskustaan. Keskustaan ohitin puoli tusinaa turvakameraa ennen saapumistaan museoon, missä löysin ainakin kaksi muuta (Smithsonianin edustajan mukaan Smithsonian ei käytä kasvojentunnistustekniikkaa; DC: n metropolialueen poliisiosasto sanoo saman kameroistaan).
Tallensin haastattelut puhelimellani ja latasin äänen kopiointipalveluun, joka käyttää AI: ta selvittääkseni, mitä minä ja alani sanon, ja saatamme tai ei kohdistaa mainontaa minuun haastattelujen sisällön perusteella. Lähetin sähköposteja Gmailissa, joka "lukee" kaiken lähettämäni (vaikka en enää tarjoa minulle mainoksia).
Raportointiprosessin aikana kävellessäni kaupungin läpi, johdin - en tee sitä tänne - Google Street View -autoon. Kahdesti. Se ei ole vainoharhaisuutta, jos he todella tarkkailevat sinua, eikö niin?
Joten mitä jäljellä on tässä maailmassa, jossa tietokoneet näkevät ja mahdollisesti arvioivat meitä? "Näkökone" kehottaa meitä oppimaan ajattelemaan kuin tietokone - mutta se muistuttaa meitä myös siitä, että jotkut meistä ovat toistaiseksi vielä täysin inhimillisiä.
Musiikki, Paglen sanoo, "on jotain, jota ei todellakaan voida ilmaista kvantitatiivisesti. Kun katsot tietokonevisiojärjestelmää, joka pääpiirtein kysyy esiintyjiä, se minulle todella osoittaa, että valtava kuilu näkemysten välillä kulttuurin, tunnekuvien ja merkityksen välillä. ja kaikilla tavoilla, joilla nämä ovat näkymättömiä itsenäisille järjestelmille. "
Tai kuten Harrington sanoo, voit tehdä musiikkia puuviululla tai 3D-tulostimella tehdyllä viululla. Voit käyttää hiilikuitumaista tai pernambucon puusta valmistettua keulaa. Hänen mukaansa jousi on kuitenkin vielä vedettävä kielillä. Musiikista "tulee arvokkaampaa, koska se on käsintehty".
Ja toistaiseksi se on edelleen asia, jota vain voimme tehdä. Koneet eivät ehkä enää tarvitse meitä. Mutta kun kyse on viulun kielen jousen juhlallisesta soitosta ja hinaajien kiinnittämistä tunnepitoisista kielistä, me emme tarvitse koneita.
”Trevor Paglen: Sites Unseen”, kuraattori John Jacob, jatkuu Smithsonianin amerikkalaisessa taidemuseossa Washingtonissa, DC: ssä 6. tammikuuta 2019 asti. Sen on määrä matkustaa San Diegon nykytaiteen museoon 21. helmikuuta - 2. kesäkuuta, 2019.
* Toimittajan huomautus, 2. marraskuuta 2018: Tätä tarinaa on muokattu selventämään Steve Reichin "Erilaiset junat" -kokoelman tarkoitus ja alkuperätarina.
