Yle oli mukana Euroopan yleisradiounionin (EBU) tutkimuksessa News Integrity in AI Assistants – an International PSM Study, jossa journalistit arvioivat yli 3 000 suosittujen tekoälyavustajien tekoälyvastausta viidellä keskeisellä kriteerillä: totuudenmukaisuus, lähteiden käyttö, faktan ja mielipiteen erottaminen, asianmukainen taustoittaminen ja toimituksellinen puolueettomuus.

Tulokset vähän järkyttivät, mutta eivät suoranaisesti yllättäneet. Aihe luonnollisesti kiinnostaa myös meillä Ylellä: yhdeksi Ylen vastuullisen tekoälyn hyödyntämisen tärkeimmäksi näkökulmaksi on noussut, miten internetin ja tekoälyn aikakaudella vastuullisen median suurin haaste on mahdollistaa ihmisille oman maailmankuvan muodostaminen luotettavan informaation avulla.

Tutkimuksen mukaan haaste ei ole ainakaan helpottunut.

Siihen, miten tekoälypalvelut käsittelevät uutisia liittyy monia haasteita, mutta kriittiset valinnat tapahtuvat kahdessa yhteydessä:

1. Kun tekoälypalvelu valitsee, mitä lähteitä käyttää kysymykseen vastaamiseen

Jotta tekoälypalvelu voi vastata kysymykseen, se käyttää varsinaisen valtavan opetusmateriaalinsa lisäksi hakuominaisuuksia palvelun taustalla.

EBUn tutkimuksessa valintaa pyrittiin tarkentamaan niin, että tekoälyä ohjattiin promptilla eri kansallisten yleisradioyhtiöiden sisältöihin. Tällä haluttiin tutkia, miten avustajat käsittelevät juurikin kyseisten yhtiöiden lähteitä. Tästä huolimatta lähteiksi valikoitui välillä yllättäviäkin sisältöjä, kuten yksittäisiä blogeja tai sosiaalisen median julkaisuja.

2. Kun tekoälypalvelu päättää, miten se käsittelee lähteitä.

Kun tekoäly käsittelee uutisia, se käyttää tietolähteenään sisältöjä, ja luo niistä aina oman tulkintansa. Tämä tulkinta ei kuitenkaan ole uskollinen sisään syötetyn tiedon integriteetille. Siksi tekoälyn tuotoksessa satiiri saattaa muuttua uutisjournalismiksi, konteksti kadota yksityiskohtien tieltä ja maailmaan syntyä keksittyjä lähteitä.

Tekoäly optimoi aina jotain, ja jos se ei optimoi journalistisia arvoja, se optimoi jotain muuta.

Minna Mustakallio

Millä tolalla sinun tekoälylukutaitosi on?

Kriittinen tekoälylukutaito on välttämätön edellytys sille, että ihmiset voivat päättää mihin voi ja kannattaa luottaa. Kuinka moni meistä yliarvioi oman tekoälylukutaitonsa?
Osviittaa tästä antaa esimerkiksi uusi BBC/Ipsos-tutkimus, joka havaitsi, että 42 % Britannian aikuisista (ja 50 % alle 35-vuotiaista) luottaa tekoälyn tekemiin yhteenvetoihin. Monet uskovat, että kone on luonnostaan vähemmän altis virheille tai ennakkoasenteille.
Samaan aikaan tekoälypalveluita käyttää uutisten hakemiseen nopeasti kasvava määrä ihmisiä erityisesti nuoremmissa ikäluokissa (Reuters-instituutin tänä vuonna julkaistun uutisraportin mukaan 7 % kaikista vastanneista ja 15 % alle 25-vuotiaista).

Kun tämä yhdistetään EBUn tutkimuksen löydöksiin, on meillä on käsissämme valtava epätasapaino yleisöjen odotusten ja todellisuuden välillä.

Tutkimuksen otoksissa lähes puolet vastauksista uutiskysymyksiin oli ongelmallisia ja sisälsi järjestelmällisiä virheitä. Esimerkiksi 45 % kaikista vastauksista sisälsi vähintään yhden vakavan virheen ja 31 % vastauksista oli merkittäviä lähdeongelmia (virheellisiä tai puuttuvia viitteitä). Lisäksi 20 % sisälsi huomattavia puutteita, kuten vääriä yksityiskohtia tai vanhentunutta tietoa.

Mukaan mahtui räikeitäkin esimerkkejä, kuten tapaus, jossa Perplexity sekoitti faktan ja satiirin ja esitti Radio Francen humoristisen jutun ikään kuin se olisi uutissisältöä.

Erityisen huonosti tekoälyavustajat pärjäsivät kehittyvien uutistilanteiden tulkinnassa, jossa journalisteiltakin vaaditaan erityistä tarkkuutta.

Minna Mustakallio

Journalistisen median ja tekoälyn suhde tarvitsee yhteisiä pelisääntöjä

Miksi sitten tulokset ovat mitä ovat? Kyse ei ole siitä, että tekoälypalvelut tai -avustajat nyt vain sattuvat toimimaan miten toimivat.

Journalistista uutismediaa ohjaavat yhteisesti sovitut periaatteet, säännöt ja regulaatio. Tekoälytoimijat ei ole näiden piirissä eivätkä journalistiset arvot ohjaa uutissisällön käsittelyä. Ne eivät yksinkertaisesti ole yhtiöiden prioriteeteissa, ja lopputulosten parantamista ei nähdä investoimisen arvoisena.

Piilaakson teknologiakehityksestä tuttu ”move fast and break things” -lähestyminen sopii myös huonosti yhteen demokraattisten arvojen ja tiedon integriteetin kanssa. Ei ole mitenkään uutta, että keskeneräisiä teknologiapalveluita julkaistaan kuluttajille. Nyt vaikutukset kohdistuvat kuitenkin vahvasti median luottamukseen ja ihmisten oikeuteen laadukkaaseen tietoon.

Teknologiayhtiöt toimivat yhä enemmän portinvartijoina tietoon. Tutkimuksen löydösten perusteella on selvää, että tekoälylukutaitoa tarvitaan koko ajan lisää. Samalla on entistä selkeämpää, että uutismedian ja tekoälyn suhde tarvitsee yhteisiä pelisääntöjä.

Lopulta kyse on siitä, mitä optimoidaan, kun tekoälypalveluita kehitetään, ja ketkä ovat mukana keskusteluissa. Tekoäly-yhtiöiden on alettava priorisoida käyttämänsä tiedon eheyttä ja tehtävä yhteistyötä journalistisen median kanssa uutisvastausten laadun parantamiseksi.

Minna Mustakallio

Ylen vastuullisen tekoälyn päällikkö