Robotit on sovinisteja ja ihme puritaaneja

Kun kirjoitin tuota otsikkoa, puhelimeni ei osannut sanaa “sovinisti”. Tilalle se ehdotti sosialistia ja solistia.

Olen sivutyöni ansiosta päässyt perehtymään jonkin verran siihen, mitä tekoälyn kehittämisessä kulloinkin tapahtuu.

Yksi mielenkiintoisimmista jutuista oli se, että robotit olivat rasisteja. (Huom!!! Käytän tässä kirjoitusteknisistä syistä sekaisin termejä tekoäly ja robotti, vaikka tarkoitan tekoälyä. Karkeasti määriteltynä robotti on laite, tekoäly on ohjelma.)

Ennen kuin siellä joku kiitospaita innostuu, niin rasismi ei siis ole kehittynyt tekoälyyn mitenkään luojan luomana. Ihmiset ovat koodanneet sen sinne. Mutta miksi kukaan tekisi sellaista!

Selitys on yksinkertainen. Kaikilla meillä on ennakkoluuloja, ja usein emme edes tiedosta niitä. Joten jos sinun tehtäväksesi tulee koodata tekoäly, saatat kyllä pystyä kirjoittamaan koodiin sen, että robo ei saa syrjiä ketään perusteella x. Mutta koska tekoäly oppii aiemmasta datasta ja uuden datan kertyessä, se mitä on tapahtunut ja tapahtuu, muokkaa sitä, miten tekoäly toimii.

Kuvan robotti näyttää ottavan asian henkilökohtaisesti. Hän ei kuitenkaan yksilönä liity kuvailtuihin tapauksiin.

No me kunnon ihmiset tiedostamattomine ennakkoluuloinemme olemme olleet tuottamassa sitä dataa. Siirrämme omat näkemyksemme robolle, koska roboa ei kiinnosta se, että me julistamme baaripöydissä suvakkiuttamme, vaan ainostaan se, mitä data kertoo faktuaalisesti tapahtuneen.

Toiminnassamme ne tiedostamattomat asenteemme kuitenkin näkyvät, ja näin tekoäly oppii esimerkiksi karsimaan muut kuin valkoihoiset pois potentiaalisten työntekijöiden joukosta tai muuta vastaavaa. Kas näin, olemme luoneet kiitospaitarobotin.

Mutta tämä oli taustaa. Mennään sitten itse asiaan.

Olen jo pidemmän aikaa kiinnittänyt huomiota siihen, että puhelimeni tekstinsyöttö ei osaa monia “naisten elämään” liittyviä sanoja.

Tätä tapahtuu jatkuvasti, mutta en ole tullut keränneeksi näistä asioista listaa. Sen voin sanoa, että sanat ovat liittyneet esimerkiksi kuukautisiin, naisen elimistöön ja naisellisiksi miellettyihin harrastuksiin, kuten käsitöihin. Tilalle tekstinsyöttö ehdottaa yleismaailmallisempia tai “miesten” sanoja. Useinkaan tekstinsyötöllä ei ole mitään vaikeuksia ehdottaa vaikkapa teknologiaan liittyviä sanoja.

Tekstinsyöttö on juuri mainitsemani tekoälyn toimintatavan mukainen sovellus. Sillä on olemassa pohjadata, ja se muokkautuu sen mukaan, mitä kirjoitamme. Voimme myös itse opettaa sitä lisäämällä sanoja sanavarastoon.

Ja pohjadatassa näkyy se, ketkä sen ovat tuottaneet. Osa meistä muistaakin yhä sen, kun erään puhelinmallin ennustava tekstinsyöttö heitti väliin uskonnollista läppää: sanan kiitos jälkeen ehdotukseksi tuli Herra. Toinen puhelinmalli taas käytti sellaista sovellusta, jonka mukaan esimerkiksi “tuo kaupasta” sanojen perään luontevin jatko oli “savukkeita”.

Nämä molemmat esimerkit olivat siis sellaisia, jotka olivat puhelimessa heti käyttöönoton jälkeen, eli käyttäjä ei ollut opettanut niitä sovellukselle. Pohjana käytetty data kertoi sovellukselle, että Herraa pitää kiittää ja kaupasta ostetaan savukkeita.

Samalla tavalla nykyisissä sovelluksissa, kuten siinä tekstinsyötössä, näkyy se, kuka tekoälyn “älyn” takana on. Tekoäly toimii siten, kuten koodaaja ja data on sille opettanut (ja lisäksi siis se oppii käyttäjän toiminnasta).

Tällä tavalla tekoäly tulee paljastaneeksi sen, miten ihmiset oikeasti toimivat ja mitä he kokevat tärkeäksi. “Naisten” sanat eivät päädy tekstinsyötön sanavarastoon, jos niitä ei käytetyssä datassa ole.

Toinen esimerkki tästä on Googlen ennustava haku. Tiedäthän, kun alat kirjoittamaan hakukenttään vaikkapa “miten…”, niin Google ehdottaa alle jatkoa oppimiensa suosittujen hakujen mukaan, kuten “…laihtua nopeasti” tai “…rikastua”.

No kirjoitapa hakuun seksi… tai porno… tai tissejä… Google ei ehdota jatkoa. Saat ihan itse naputella sinne irstaat mielenkiinnon kohteesi.

En tiedä kauanko tämä ominaisuus on ollut tällainen, mutta olen kiinnittänyt asiaan huomiota kenties noin vuoden. Mutta tämä outo puritanismi ei ole tässä se pääasiallinen pointti…vaan se, että Google ei erota, milloin hakija hakee läähpuuh tissejä ja milloin aikeena olisi etsiä asiallista tietoa.

Täysin neutraalit, naisen (ja miehen) elimistöön liittyvät sanat saavat tekoälyn pistämään kuvainnolliset kätensä puuskaan ja sanomaan, että kirjoita kuule ihan ite senkin pervo.

Testasin tätä muutamilla sanoilla. Rinnat, kielletty sana. Penis, kielletty sana. Ejakulaatio, ok. Naisen ejakulaatio, kielletty. Vagina, kielletty. Kives…, sallittu. Orgasmi, kielletty sekä versiolla “miehen” että versiolla “naisen”. Haku siis toimii normaalisti, tämä ominaisuus koskee vain hakuehdotuksia.

Näin liberaalina ja seksipositiivisena ihmisenä en ymmärrä ylipäätään, että miksi näitä sanoja täytyy ikäänkuin sensuroida. Toiseksi se, että jos ihminen menee puhtain mielin googlaamaan vaikka “vagina”, niin tuntuu aika turhalta, että sovellus rupeaa siinä suojelemaan.

Tämähän väistämättä vaikuttaa siihen, miten ajattelemme. Jos Google ei halua osallistua kun etsimme tietoa vaginasta, voiko se olla vaikuttamatta siihen, mitä ajattelemme vaginoista ja niistä puhumisesta?

Onkin erittäin tärkeää huomata, että kyse ei ole vain siitä, mitä me opetamme tekoälylle. Kyse on myös siitä, mitä tekoäly opettaa meille.

Se, että olemme jatkuvasti tekemisissä erilaisten tekoälysovellusten kanssa, muokkaa meidän ajatteluamme ja käsityksiämme. Jos tekoäly seuloo työpaikan hakijoiden joukosta potentiaalisiksi työntekijöiksi vain valkoihoiset, saatamme alkaa ajatella, todennäköisesti tiedostamatta, että vain valkoihoiset ylipäätään voivat olla potentiaalisia työnhakijoita.

Tieteiselokuvissa uhka on aina se, että tekoälystä tulee meitä fiksumpi ja se orjuuttaa meidät. Ehkä ongelma tuleekin olemaan siinä, että tekoäly on tasan yhtä tyhmää ja ennakkoluuloista kuin mekin.

P.S. Tämän takia on tärkeää, että teknisellä puolella on töissä myös naisia ja ylipäätään monenlaisia ihmisiä. Kaikille on hyväksi tietää, mistä koodaamisessa on kyse, ja ala kaipaa lisää naisosaajia. Aloita vaikka Mimmit koodaa -tapahtumista ja koulutuksista.

Lue myös:

Voiko nainen haluta seksiä?

Instagramissa algoritmi päättää mitä näet, ja mun tilin löydät @fitnessfuhrer!

RSS
Facebook
Facebook
Instagram

Previous

Mitä tehdä suppilovahveroista?

Next

Vaadimme verrokkiurheilijoita kilpailuihin!

2 Comments

  1. Lotta

    Tuosta Googlen autocompletesta: täydennys puuttuu monenlaisesta sisällöstä, kuten:

    “Sexually explicit predictions that are not related to medical, scientific, or sex education topics”

    Välillä toki vaikea varmasti erottaa milloin on seksiin ja milloin seksuaaliterveyteen liittyvä haku. Rinnat – ei ehdotuksia, mutta rinta- ehdottaa rintasyöpää ja – tulehduksia jne. Suomenkielisessä perusmuoto tuottaa harvoin täydennyksiä mutta genetiivimuoto kyllä 🤷‍♀️

    • Sofia

      Joo onhan niitä mahdotonta erottaa, mutta en ymmärrä miksi ylipäätään pitää estää täydennyksiä. Kun jotkut täysin viattomat hautkin voi tuoda näytölle aika kyseenalaista sisältöä 😂

Vastaa käyttäjälle Sofia Peruuta vastaus

Sähköpostiosoitettasi ei julkaista. Pakolliset kentät on merkitty *

Powered by WordPress & Theme by Anders Norén