Kielitaidottomat robotit eivät estä kansanmurhaa

Facebookin algoritmit ovat pienille kielialueille iso ongelma. Yritys ei kerro, onko sillä yhtään suomenkielistä moderoijaa. Myanmarin väkivaltaisuuksissa algoritmeista ei ollut apua.

Facebookin toimitusjohtaja Mark Zuckerberg kehaisi taannoin blogikonkari Ezra Kleinin haastattelussa, että ”Facebookin järjestelmät” olivat viime syksynä onnistuneet tunnistamaan ja pysäyttämään Myanmarissa yksityisviesteinä levinneet ketjukirjeet, joilla joku yritti selvästi lietsoa väkivaltaisia yhteenottoja tietylle päivälle. 

Myanmarilaiset järjestöt älähtivät. Kuusi ryhmää kirjoitti avoimessa kirjeessään, että Zuckerberg viittasi ilmeisesti heihin puhuessaan ”Facebookin järjestelmistä”. Järjestöt olivat saaneet viestejä käsiinsä ja ilmoittaneet niistä Facebookille, joka lopulta pysäytti ketjukirjeiden etenemisen. Siinä vaiheessa ne olivat kuitenkin ehtineet kiertää maata jo ainakin neljä päivää. 

Se ei järjestöjen mielestä ollut esimerkki onnistumisesta vaan surkeasta epäonnistumisesta eikä mitään ”järjestelmää” ollut. 

”Tietääksemme Facebookilla ei ole burmankielistä henkilökuntaa”, järjestöt kirjoittivat avoimessa kirjeessään Zuckerbergille. ”Meillä oli onnea, kun joukossamme oli englantia osaava henkilö, jonka verkostojen avulla yhteys saatiin.”

Myanmarilaiset alkoivat rynniä internetiin vuonna 2015, kun maahan saatiin 3G-verkko. Internetin kieltäneitä lakeja oli löyhennetty neljä vuotta aiemmin. Nyt Facebookin sanotaan olevan Myanmarissa synonyymi internetille. Maan totalitaarisen historian vuoksi myanmarilaisten mediakritiikkitaidot ovat heikoissa kantimissa, mikä pahentaa vihaa lietsovien viestien tuhovoimaa.

MAAILMASSA PUHUTAAN NOIN 7000:ta kieltä. Niistä suurin osa on pieniä tai korkeintaan keskisuuria – sellaisia kuin suomi, jota noin viisi miljoonaa puhuu äidinkielenään, tai burma, jolla on 33 miljoonaa puhujaa. 

Joskus pienen kielen käyttäminen internetissä on hieman kummallista. Seurasin kerran suomenkielistä Facebook-keskustelua, josta vaikutti koko ajan häviävän kommentteja. Lopulta käsitimme, että kyse on Kike Elomaasta: ”kike” on englanniksi rasistinen haukkumasana, joten aina kun joku keskustelijoista viittasi kansanedustaja Elomaahan, Facebook päätteli koneellisesti, että sisältö on sopimatonta. 

Long Playssa olemme huomanneet, ettemme voi ostaa näkyvyyttä Facebook-julkaisuille, joissa mainitaan sana ”seksuaalinen”, koska Facebookin automaattifiltterin mukaan sana on epäilyttävä. Siihen on tyssännyt esimerkiksi Lauri Törhöstä käsittelevien juttujen levitys. Kiellettyjä sanoja on paljon muitakin. Törmäämme vastaavaan ongelmaan tätä nykyä noin joka kahdeksas kerta, kun yritämme ostaa näkyvyyttä Facebook-julkaisuillemme. 

Kike-tapaukselle ja Törhös-tapaukselle on yhteistä se, ettei virhepäätelmästä ole voinut valittaa mihinkään. Kukaan ei edes tiedä, missä ja miten päätökset julkaisurajoituksista tehdään, sillä Facebookin mukaan käytännössä kaikki sisällön tarkastamiseen liittyvät yksityiskohdat ovat liikesalaisuuksia. Yhtiö kommentoi niitä vain hyvin, hyvin yleisellä tasolla – ja silloinkin se puhuu yleensä internetin suurista kielistä: etenkin englannista, espanjasta, mandariinikiinasta ja arabiasta, joiden puhujat muodostavat selvän enemmistön internetin käyttäjistä.

Kerran kyllä saimme sähköpostiyhteyden Facebookin asiakaspalvelijaan, englanniksi kirjoittaneeseen Danicaan (ei sukunimeä). Ongelmaamme oli hankala selittää Danicalle, joka ei selvästi osannut suomea – ja kyse oli kuitenkin suomenkielisen sisällön sopivaisuuden arvioinnista, mikä usein vaatii natiivipuhujaltakin kohtalaista nyanssien tajua. Danica toisteli Facebookin mainossäännöistä lainattuja fraaseja. Epäilen, että Danica oli robotti.

VIIKKO SITTEN TAPAHTUI PIENI IHME: Facebook lupasi minulle haastattelun, jossa voisin kysyä pieniin kieliin liittyvistä asioista. Firma ei yleensä ole halunnut lainkaan selitellä toimintaansa julkisuudessa. Tänä keväänä sekä Myanmariin että Cambridge Analyticaan liittyvä kritiikki on saanut sen raottamaan ovea. Hieman.

Juttelin sähköpostin välityksellä nimettömän Facebook-ihmisen kanssa. Hän saattoi olla myös ryhmä – ainakin haastateltavani puhui itsestään monikossa. Vastauksia minulle välitti Anton Tukholmasta. En saanut tietää hänen sukunimeään. 

”Olemme pahoillamme, ettei Mark kertonut selvemmin, että myanmarilaiset kansalaisjärjestöt ilmoittivat viesteistä ensin”, keskustelukumppanini kirjoitti (kirjoittivat?) ja jatkoi mea culpalla. ”Meidän olisi pitänyt toimia nopeammin. Teemme kovasti töitä parantaaksemme teknologiaamme ja työkalujamme, jotta löytäisimme ja pysäyttäisimme loukkaavan, vihamielisen ja valheellisen sisällön.” 

Minulle kerrottiin, että Facebook on nyt lisäämässä viestisovellus Messengeriin toiminnon, jolla käyttäjä voi ilmoittaa yksityisviesteistä ylläpidolle. Sain tietää myös, että yritys on lisännyt burmankielisten tarkastajien määrää. Mutta aina kun yritin kysyä jotain täsmällistä, nimetön keskustelukumppanini piiloutui ympäripyöreiden fraasien taakse.

”Algoritmit eivät ole vielä yhtä hyviä ymmärtämään kontekstia kuin ihmiset, ja siksi ihmiset ovat jatkossakin sisällöntarkastusprosessin keskiössä”, hän kertoi. Koko maailmassa tarkastajia on kuulemma 7 500. 

Mutta osaako kukaan heistä suomea? Tai vaikka unkaria, yritin kysyä. En saanut vastausta.

Burmankielisen tiimin vahvistaminen (vai luominen?) on varmasti erityisen hyvä ajatus. Onhan Myanmar sisällissodan partaalla, ja Facebookista on yhtäkkiä tullut tavallaan maan tärkein tiedotusväline. Mutta onko tarkastajia esimerkiksi yksi, vai kymmenen, vai sata, ja keitä he ovat?

Se on liikesalaisuus.