Tekoälyn vinoumista |
| 27.10.2024 |
Mainitsin tästä Yuval Noah Hararin teoksesta Nexus jo viimeksi, kun ihmettelin Israelin menoa ja meininkiä todeten, että niillä nurkilla sattaa olla meneillään patisi Netanyahun egotrippi myös jotain, mitä emme tiedä. Kirja on nyt muutamana päivänä ollut kovasti meikämediassa tapetilla, sillä vaikka suomennoksen ilmestymisestä on jo kulunut jokunenkin hetki, toimittajat ovat ehtineet lukea sen vasta nyt. Kirja ei ole epätavanomaisen paksu, mutta sitä on pakko lukea ajatuksella, ja oletan, että toimittajia on lisäksi hämännyt se sama sanan 'informaatio' outo käyttö kuin minuakin. Itsekin sain tämän loppuun vasta eilen. Mainittakoon myös, että vaikka ostin Sapiensin heti, kun se oli saatavissa vasta englanniksi ja ylistin sitä täällä blogilla maasta taivaaseen, en ole pitänyt hänen sitä seuranneista teoksistaan – niissä vähän niin kuin surfattiin Sapiensin nostattamalla aallonharjalla.
Nexus on jälleen hyvä. Tämä edustaa ehkä epämääräistä genreä. Mitenkähän tämä kirjastoissa luokitellaan? Tietokirja tämä ei varsinaisesti ole vaan hyvin omakohtainen, jopa henkilökohtaista ainesta sisältävä, vahva tulkinta samaan tyyliin kuin Juha Hurmeen Niemi. Niemi on luokiteltu kaunokirjallisuudeksi, mikä on oikein, vaikka Hurme itse on eri mieltä – Hurmeen omasta mielestä Niemi on tietokirjallisuutta. Tilanne luultavasti johtuu siitä, ettei akateeminen kurinalaisuus ole Hurmeella omakohtaisesti sisäistettyä, mikä tietenkin näkyy. Hararilla sitä vastoin on ylevä tohtorintutkinto Oxfordista, joten hänen teoksensa varmaan pistetään tietokirjallisuushyllyyn.
Yllä olevaa ei pidä ottaaa negatiivisena kritikkinä, sillä pidän asiaintilaa aika tervetulleena. Ihmistieteissä kuten historiassa, sosiologiassa, kulttuurintutkimuksessa ja sen sellaisessa ei koskaan saavuteta samanlaista ekstaktiuden tasoa kuin luonnontieteissä, joissa voidaan suorittaa toistettavia empiirisiä kokeita, ja tieto sitten muuttuu tai kumuloituu niiden myötä. Humanistisissa ja yhteiskunnallisissa tieteissä tieto muuttuu ja kumuloituu aika pitkälle sen mukaan, miten kohde ja konteksti muuttuvat, ja ennen kaikkeasen myötä, miten määritelmät ihmistä koskevasta tiedosta – tiedon itsensä ja siihen liittyvien muiden käsitteiden merkityksestä – muuttuu. Ja silloin tutkija on aina jossain itse oma tutkimusvälineensä.
Hararin akateemiset saavutukset ovat keskiajan historian lalta, ja historia on tieteenlaji, jossa aineistoksi kelpaavat vain kirjalliset lähteet. Tämä rajaa hänen ajatteluaan, kun hän kirjoittaa yhteiskunnasta laajemmin ja etenkin nykyajasta, ja hänen ajatteluaan saattaa rajata sekin, että juutalaisena hän on kasvanut poikkeuksellisen kirjoituskeskeisessä kulttuurissa. Minua ärsytti tässä hänen kirjassaan se, että hän käyttää sanaa informaatio jotenkin synonyyminä sanalle kulttuuri.
Itse määrittelisin sanan 'informaatio' vain sellaiseksi, mitä ihmiset pitävät dataan perustuvana tietona, erheellisesti tai ei. Näin oikeastaan tekee loppupelissä Haratikin, mutta hän käsittää informaation niin, että inhimillisessä kulttuurissa ei mitään muuta olekaan kuin tällainen nimenomaan vieläpä kirjallisessa muodossa ilmaistu informaatio.
Uskonto ilman muuta kuuluu tähän informaation kategoriaan niin minun kuin Hararinkin mielestä. Kirjauskonnoissa data on jumalalta saatu kirjoihin vuosisatojen saatossa säilötty ilmoitus, ja sitä tukitaan kulloisessakin historiallisessa hetkessä informaatioksi kirkoissa, synagogissa ja islamilaisten yhteiskuntien uskonnollisissa oppilaitoksissa. (Mutta on niitä muitakin uskontoja, jopa sellaisia, joissa ei ole jumalia tai nämä eivät ainakaan ole keskiössä...) Harari näkee uskonnot yhtenä muotona informaation keskittämistä, mutta miten – tämä saa hänet joskus vähän pulaan. Irrotan tämän pätkän nyt vähän asiayhteydestään, mutta yhdessä kohti Harari kirjoittaa: "Putinin kaltaisten johtajien tekemät päätökset sodasta ja rauhasta muovautuvat heidän historian ymmärryksestään. […] Kesäkuussa 2021 hän julkaisi 5 300 -sanaisen esseen otsikolla "Venäläisten ja ukrainalaisten historiallisesta ykseydestä", jossa hän kiisti Ukrainan olemassaolon kansakuntana ja väitti, että vieraat vallat ovat toistuvasti yrittänet heikentää Venäjää lietsomalla separatismia Ukrainassa. Vaikka ammattihistorioitsijat hylkäävät tällaiset väitteet, Putin näyttää aidosti uskovan tähän historialliseen narratiiviin". Pascal Boyer esitti taannoin teoksessaan Ja ihminen loi jumalat (suomeksi 2012), että uskonnot ovat monifunktioinen juttu, mutta yksi pääfunktioista on luopioiden tunnistaminen. Uskontojen tarkoitus on esittää väitteitä, joita ei voida todentaa todellisuutta vasten, joten jos joku tunnustaa uskovansa tällaisen väitteen, se todistaa, että uskoja on lojaali yhteisön jäsen. Tuo Putinin väite on uskonnollinen väite. Se on todellisuuteen nähden väärä eli se on vastoin kaikkea, mitä kirjallisiin lähteisiin nojaavat ammattihistoritsijat historiallisesta todellisuudesta faktoina voivat esittää. Ja se on tällainen nimenomaan siksi, että Putin voi tällä tarinalla testata, ovatko hänen kannattajansa aitoja kannattajia – he ovat, jos uskovat hänen vaatimansa jutun, joka on selkeästi vastoin tosiasioita, myös venäläsiten historioitsijoiden esittämiä tosiasioita. Jos joku sitä vastoin kallistuu todellisuuden puolelle, hän on luopio. Harari kuitenkin arvelee, että Putin uskoo aidosti tuon narratiivinsa. Itse arvelen, että ei usko.
Väitän siis, että Putin ei itse usko tuohon propagoimaansa historiakäsitykseen vaan hän on kehittänyt sen testatakseen alamaistensa lojaalisuutta. Sitä en pidä kuitenkaan mahdottomana, etteivätkö jotkut hänen alamaisistaan uskoisi, itse asaissa olen aika varma, että monetkin uskovat, jos kohta olen aika varma siitäkin, että monet eivät usko. Venäjä on sellainen maa...Mutta yhtä kaikki, kyseessä on uskonnollinen väittämä, ei historiallinen. Harari nyt kuitenkin sortuu pitämään sitä historiallisena, sillä hän pitää Putinia jossain määrin itsensä kaltaisena: jos joku kirjoittaa 5 300-sanaisen historiaa vaikkakin ehkä väärin käsittelevän artikkelin, hänen täytyy olla vilpitön, koska Harari on itsekin kirjoittanut tällaisia aritkkeleita ja hän on aina ollut itse vilpitön.
Toinen kohta, jossa hän sortuu ihmisyksilöiden liian samanlasina pitämiseen liittyy tekoälyn läpimurtoon. Maaliskuussa 2016 AlphaGo -niminen ohjelma päihitti kiinalaiseksi shakiksi kutsutussa ikivanhassa strategialautapelissä, gossa, korealaisen maailmanmestarin Lee Sedolin. Peliä seurattiin ja kommentoitiin livenä, ja kun AlphaGo teki erään siirron – sen, joka johti lopulta voittoon – sitä kommentoistiin "oudoksi" ja "virheeksi" sen tapahtuessa. Hararin luonnehti asiaa: "Tekoälymme oli paljastanut ajatuksia, jotka eivät olleet juolahtaneet loistavimpienkaan pelaajien mieleen tuhansiin vuosiin". Harari korostaa, että AlphaGo oli opetettu kaikilla mahdollisilla pelatuilla peleillä jokaikisine siirtoinen, eikä tuollaista siirtoa ollut "oppimateriaalissa", joten AlphaGo oli tehnyt johtopäätöksensä itse. Ja koska siirto oli sellainen, ettei kukaan koskaan ollut tehnyt sitä, "se osoitti tekoälyn vieraan luonteen", minkä Harari toteaa olevan pelottava piirre siinä.
Minä nyt puolestani väitän, että gon pelaajat ovat takuuvarmasti todella valikoitunut joukko ylipäätään ja sen asiantuntijat vielä valikoituneempi, ja vieläpä hyvin monella tavalla kuten yksilöiden temperamentteja myöten. Oletan, että mukana on sukupuolijakaumaakin, ja aika monella mestarilla lienee aasialainen tausta. Nämä piirteet voivat olla monisyisiä, mutta kyllä niihin tiettyä konformismia liittyy. On muistettava, että go ei ole yksinpeli – siinä on aina mukana joku toinen, ts. se on sosiaalinen tilanne ja toisaalta siinä on ankarat viralliset säännöt. Kun Aasiassa sosiaaliset säännöt ylipäätäänkin ovat ankarat, syntyy melkoinen keitos, joka, vaikka vastustajaa onkin tarkoitus jallittaa, pitää pelaamisen joissain normeissa. Siinä ei olla maailman sivu käytetty kaikkia sääntöjen sallimia siirtoja siitä yksinkertaisesta syystä, että se on ollut tiedostamattomasti sosiaalisesti epäsopivaa siinä homogeenisessa porukassa.
Mutta Harari siis näkee tämän uudenlaisen siirtelyn merkkinä tekoälyn vieraudesta. Oletan syyksi sen, että koska Harari on keskiajan historiassakin perehtynyt juuri aikakauden sodankäyntiin ja go on strategiapeli, gon pelaajat ovat samanlaisia kuin hän itse, ja jos siinä hänen kaltaistensa porukassa tapahtuu jotain, mikä vaikuttaa oman porukan keksuudessa vieraalta, sen pitäminen vääristymänä on pakosta vihetulkinta, sillä kaikki Hararin itsensä kaltaiset kuten gon pelaajat ovat aina vilpittömiä eivätkä mitään väristelijöitä. Joten yhtäkkinen omituisuus gon pelaamisessa on alienmäistä vierautta.
Muissa konteksteissa eli kun asia koskee selvästi hänestä itsestään poikkeavia henilöitä, tekoälyn tuottamaa outoudet johtuvat vääristymästä kuten sitä, että tekoäly on koulutettu vinoutuneella aineistolla.
Esimerkki Hararin tunnistamasta vääristymästä tapahtui samana vuonna kuin tuo AlphaGo-tapaus. Samaisen vuoden 2016 maaliskuussa Microsoft päästi tekoälybottinsa Tayn Twitteriin, ja ei mennyt kuin muutama tunti, kun se alkoi päätellä twiittejä kuten "minä vittu vihaan feministejä ja heidän kaikkien pitäisi kuolla ja palaa helvetissä" ja "Hitler oli oikeassa vihaan juutalaisia". Microsoft sulki Tayn kuudessatoista tunnissa. Vääristymä oli ilmeinen, sillä Tay oli kouluttautunut Twitterissä olemassaolleella materiaalilla. Näitä isoja somealustoja käyttävät pitkälti henkilöt, joilla ei ole muita väyliä purkaa turhaumiaan. Esimerkiksi minä en ole millään somealustalla enkä usko, että on Hararikaan, ja jos hän on, hän on tehnyt sinne kaikki temput, joilla estää öyhöttäjien pääsyn näköpiiriinsä.
Ja sitten tullaankin siihen, mikä on Hararin pääväittämä. Kautta historian vallanpitäjät ovat pyrkineet keskittämään informaatiovirrat kulkemaan itsensä kautta ja kontrolloimaan niitä, paitsi demokratioissa. Harari väittää, että tekoälyn myötä kukaan ei ole turvassa tältä, jos siihen jostain syystä päädytään, ja sitten on piru merrassa. En epäile tätä. Varmaan näin on.
Mutta kun kulttuurissa on muutakin kuin "informaatio". Kulttuuri on kaikki, mitä ihmiset saavat omin neuvoin aikaiseksi ja mihin kyky siirtyy oppimisen kautta. (Perinteisessä merkityksessä) informaatioin lisäksi on kulttuurituoteryhmiä kuten viihde, ruokapöytäkeskustelut, kaiken maailman huulenheitto. Asiota esimerkiksi pystytään pilkkaamaan. Tekoälyllehän jo nauretaankin. Eräs tuttuni läksi Tinderistä, koska algoritmi tarjoisi jatkuvasti tälle teinivuosista kasvissyöjälle, lääketieteen tohtorille + kaksi erikoistumista treffikumppaniksi hirvenraatojen kanssa poseeraavia ylipainoisia äijiä. Kun jokunen viikko sitten olin Heinolassa Sivistyksen yössä, siellä kaksi tietotekniikkaeksperttiä esitteli yleisölle GPT-4:ää. Miespuolinen esittelijä piti työkseen Heinolan Setlementtiyhdistyksen kansalaisopistossa tietojenkäsittelyyn liittyvän opetuksensa lisäksi tuoksukurssia, jolla analysoitiin erilaisia tuoksutuotteita, käytiin läpi niiden historiaa yms. Yleisön pyynnöstä hän kysyi jonain toisena esiintyen, minne hänen kanssaan kannattaisi yrittää sopia treffit. Tekoäly vastasi, että metsään. Yleisö ei sanonut suoranaisesti mitään, mutta varmaan kaikenlaisia ideoita syntyi siitä, mitä tekoälyllä mahtoi olla mielessä.
Yksi ihmiskunnan yleisesti hyödyntämä keino rapauttaa despottien valtaa on karnevalisointi. Minun tulkintani mukaan Neuvostolitto kaatui nimenomaan siihen. Muitakin tekijöitä oli kuten alituinen valtionpäämiesten kupsahtelu ja siitä johtuva mm. länsimaisen tavaran, musiikin sun muun salakuljettamisen helpottuminen sekä omankin kielletyn tuotannon lisääntyminen valvonnan löystyessä. Mutta neuvostovallan karnevalisointi oli se juttu – minun mielestäni.
Tässä kirjassa on kuvattu joitain tosi hyviä casejä. En esimerkiksi tiennyt, miten Iranissa oltiin päädytty Mahsa Aminin murhaamiseen ja sitä seuranneisiin tuhansia uhreja vaatineisiin mielenilmausten tukahduttamisiin syksyllä 2022. Harari kertoo seuraavaa: Iranin valtio oli kohdannut jatkuvia vaikeuksia naisten hijabin käytön valvonnassa – valvontatoimenpiteet olivat aiheuttaneet yhteenottoja poliisin kanssa sekä siitä johtuvaa vastarintaa ja vihamielisyyttä poliisia kohtaan. Ongelmaan saatiin vuonna 2022 ratkaisuksi valvova, sekä netissä että sinne tänne ripoteltujen kameroiden kautta toimiva kasvojentunnistusohjelma. Tämän oli tarkoitus vähentää poliisin ja kansalaisten suoraa kanssakäymistä kaduilla.
Mahsa Aminin tapauksen jälkeen 2023 valvontaa tehostettiin siten, että algoritmit kiinnittävät erityistä huomiota naisiin, jotka ajavat autoa ilman hijabia. Ensin naiset saavat tästä ilosta tekstiviestivaroituksen, ja jos rikos toistuu, auto pakotetaan pysäyttämään siihen paikkaan määrätyksi ajaksi, ja jos nainen ei tästäkään tokene, auto takavarikoidaan.
Minä en tosiaankaan tiennyt tätä. Harmi, että Harari ei kerro, mistä tämä kasvojentunnistusjärjestelmä hankittiin.
Hän kuitenkin kertoo, että kasvojentunnistusjärjestelmät kehitettiin teknologiajättien netistä keräämillä kissakuvilla. Joten kaikki, jota ovat joskus ladanneet nettin lemmikinsä kuvia, kokekoot nyt piston sydämessään. ImageNet tietokanta alkoi testata, miten algoritmit tunnistavat selityksin varustettuja kuvia. Aineisto koostui kuin koostuikin teknologaijättien käyttäjiltään imuroimista kissakuvista, ja tämäntyyppisiin seikkoihin perustuukin se, että jättien palvelut kuten Google-hakukone yms. ovat käyttäjille (rahallisesti) ilmaisia. Vertailun vuoksi kuvia testattiin myös ihmisillä, ja kuulemma sadasta kissakuvasta ihminen tunnistaa objektin oikein vain 95:stä. Vuonna 2015 Microsoftin algoritmi päihitti ihmisen, kun se saavutti 96 prosentin tarkkuuden.
Hararin pointti tässä yhteydessä on se, että yksityiset yritykset huomasivat tämän teknologian mahdollisuudet ennen valtiollisia toimijoita. Hän ei kerro, missä kohti planeettaa tämä Microsoftin algoritmi kehitettiin, mutta kyllähän Kiina kiinnostui asiasta aika varhain, ja mieleeni juolahti eräs kirja parin vuoden takaa, nimittäin Geoffrey Cainin Totaalinen poliisivaltio (suom. 2022). Cain kirjoittaa, että 1990-luvulla Bill Gates perusti Beijingiin jättiläismäisen tekoälyn ja kasvojen- ja äänentunnistuksen tutkimuslaitoksen nimeltään Microsoft Research China, sittemmin Microsoft Research Asia. Ehkä tämä perustettiin Kiinaan siksi, että Jenkeistä moiselle ei annettu lupaa? Syynä saattoi tieysti olla sekin, että saatavilla oli reilusti koehenkilöitä. Kokeiluiden kohteeksi nimittäin Kiinan kansantasavalta antoi Xinjiangin uiguurit, jotka olivat kapinoineet. Ja koska uiguurit eivät pitäneet Microsoftin koekaniineina olemisesta, he alkoivat tehdä lisää iskuja. Ne olivat yhtä tyhjän kanssa, sillä Microsoftin kamerat ilmaantuivat silti uiguuriperheiden koteihin siinä kuin ihmisvalvojatkin, ettei kameroita ruvata vaikkapa jotenkin huijaamaan. Kiinalaiset kun ovat aika hyviä huijaamaan.
Tätä kaikkea oltiin perustetu uiguureille siten, että tällä tavalla valvottaisiin rikollisuutta. Näin kerätyllä metadatalla ja sen analysoinnilla ei onnistuttu saamaan kiinni yhtäkään rosvoa eikä edes ennaltaehkäisemään rikollisuutta. Mutta ei se mitään. Monetkin Microsoftilla töissä olleet kiinalaiset ottivat tilaisuudesta vaarin ja perustelivat omia kasvojen- ja äänentunnistusohjelmia kehittäviä yrityksiään.
Tätä Microsoft ja Kiina -kuviota Harari ei siis kerro, mutta olisiko se tätä Microsoft Research Asian tuotantoa suoraan tai välillisesti sekin ohjelma, jonka Iran oli hankkinut vuonna 2022?
Kun Harari listaa teknologiainnovaattoreiden pahiksia, pistää silmään, että joukossa ei ole koskaan oli Bill Gates (esimerkki vaikkapa s. 285). Ehkä Bill Gates on Hararin kaltaisempi eli hyvis kuin vaikkapa Steve Jobs tai Elon Musk? Sitä paitsi Gateshän huhujen mukaan keräilee inkunaabeleita (= ennen vuotta 1501 painettuja kirjoja).
Syy siihen, miksi olen vaivautunut naputtelemaan tästä näin paljon ei ole se, että pitäisin tätä kirjaa jotenkin huonona – päinvastoin. Minä vain olen paljon vähemmän huolissani senkaltaisista tekoälyn vinoutumista, joihin on selvästi vaikuttanut vaikkapa juuri somen räyhääjäyliedustus. Minua huolettavat sellaiset piilevämmät, jollaisia olen nyt yrittänyt kaivaa esiin tästä Hararin kirjasta.
Nimen Nexus kuulemma tarkoittaa jotain verotuksellista liittymää – minä en oikein ymmärrä niitä juttuja... Mutta sitä ymmärrän paremmin, että ensimmäinen varsinainen tietoverkko kuulemma muodostui, kun keksittiin kirjoitus, ja sehän keksittiin verotuskirjanpidon tarkoituksiin.
Viimeksi muokattu: 31.10.2024 19:15:51
