Algoritmisten murtumien jäljillä
Johannes Mikkonen & Laura Savolainen
REPAIR-hankkeen tutkijat kokoontuivat keskustelemaan algoritmisten järjestelmien murtumista. Mitä ne ovat, mistä ne johtuvat, ja mitä ne uhkaavat?
Kuva REPAIR-hankkeen työpajasta. Valkotaululla punaisella tussilla kirjoitusta ja nuolia, jotka käsittelevät Kelan yhteiskunnallista roolia, tekoälyä ja julkisia arvoja.
Syrjivistä algoritmeista disinformaatiota levittäviin suosittelujärjestelmiin ja lopahtaneisiin tekoälyhankkeisiin, erilaiset murtumat ja epäonnistumiset tuntuvat kuvaavan teknologiakenttää. Tutkimalla ja ymmärtämällä erilaisia murtumia voimme varautua teknologian käyttöönoton yhteiskunnallisiin vaikutuksiin ja ohjata niitä. REPAIR-tutkijat kokoontuivat kartoittamaan ajatuksiaan digitaalisten murtumien sosio-teknisestä luonteesta. Keskusteluista hahmottui kolme näkökulmaa:
1. Murtumat tuottavat ennakoimattomia seurauksia
Kun teknologia ei toimi niin kuin sen olisi pitänyt, se tuottaa ennakoimattomia seurauksia. Esimerkiksi Apotti-tietojärjestelmän käytön raskaus on johtanut lääkärien irtisanoutumiseen. On totta, että teknologiset odotukset ja käytäntö eivät koskaan kohtaa täysin. Ennakoimattomuutta kuitenkin lisäävät abstraktit tavoitteet, joita digitalisaatioon liitetään, tehokkuudesta tiedolla johtamiseen. Toisaalta on mielikuvia uuden teknologian hyödyistä tai haitoista joko yhteiskunnassa tai yksilötasolla, ja toisaalta konkreettisia seurauksia jotka eivät välttämättä – tai edes yleensä – vastaa odotuksia. Tätä syventää start up -kulttuuria kuvaa “fail fast” -periaate. Systeemejä kehitetään virheiden kautta, ja yritykset voivat sysätä markkinoille keskeneräistä teknologiaa välittämättä esimerkiksi sen potentiaalisista yhteiskunnallisista seurauksista tai jännitteisestä suhteesta olemassa olevaan regulaatioon.
2. Murtumat uhkaavat jaettuja arvoja
Teknologioiden ennakoimattomat seuraukset ja yllättävät käyttötavat voivat olla suotuisia ja neutraaleja. Ennakoimattomuus ei siis yksinään riitä määrittämään yhteiskunnallisesti merkittäviä murtumia. Ennakoimattoman seurauksen on oltava jotain, mikä heikentää organisaatioiden kykyä toteuttaa tehtäväänsä tai muutoin uhkaa yhteiskunnallisia arvoja, turvallisuudesta tasa-arvoon. Luvattu tehokkuus voi jäädä saavuttamatta. Esimerkiksi oppilaitosten Sisu-järjestelmään sekä vankiloiden Roti-järjestelmään siirtyminen on kasvattanut työn määrää, ja siten vaikuttanut negatiivisesti työmotivaatioon sekä haitannut keskeisten työtehtävien suorittamista. Tästä seuraa myös, että vaikka algoritminen järjestelmä suoriutuisi hyvin teknisestä näkökulmasta, se voi olla yhteiskunnallisesta tai sosiaalisesta perspektiivistä rikki – vaikkapa jos se vaikuttaa kielteisesti toimijuuden kokemukseen työssä tai arjessa, rapauttaa luottamusta, tai vaivihkaa purkaa vakiintuneita ja laajasti hyväksyttyjä käsityksiä vastuullisuudesta tai harkinnasta.
3. Murtumilla on erilaisia aikajänteitä
Teknologian vaikutukset eivät välttämättä ole äkillisiä tai selvärajaisia. Ne voivat kehkeytyä hiljalleen, tuottaen lopulta paradigman tai toimintatavan muutoksen, joka toteutuessaan aiheuttaa uudenlaisia murtumia. Esimerkkinä tästä voisi toimia journalistisen ja sosiaalisen median kasvanut keskinäisriippuvuus, joka on luonut haavoittuvuutta muun muassa mediamanipulaatiolle. Dramaattisten muutosten sijaan digitaalisen yhteiskunnan muutokset saattavat vaikuttaa varsin arkisilta: uudet tietojärjestelmät syövät asiantuntijoiden aikaa, muuttavat heidän työnsä luonnetta tai tekevät relevantin tiedon syöttämisestä ja löytämisestä hankalaa. Seuraukset voivat kuitenkin olla vakavia, kuten osoittaa viime vuosien julkinen kuohunta vaaratilanteisiin johtaneiden sosiaali- ja terveyspalveluissa käytettävien tietojärjestelmien ympärillä.
Yhteisessä työskentelyssä murtuma on osoittautunut hyödylliseksi näkökulmaksi, jonka kautta lähestyä algoritmisia järjestelmiä. Tutkimusesimerkkien kautta murtumat konkretisoituvat ja niiden erilaiset seuraukset ja aikajänteet piirtyvät tarkemmin esiin.
