#BigTech-lupausten vahvistaminen

Piilaakson kuvio on liian tuttu. Liikkua nopeasti, rikkoa asioita, pyytää anteeksi, lupaa tehdä paremmin ja toista. Lähes kahden vuosikymmenen ajan tästä mallista olemme uupuneet, kirjoittaa Tohtori Hany Farid.

Olemme uupuneita näyttävistä epäonnistumisista käyttäjien yksityisyyden suojelemisessa, antamalla mainostajien kohdistaa laittomasti asumis- ja työpaikkailmoituksia rodun ja iän perusteella, mainostaessamme väärennöksiä, jotka on tarkoitettu väkivallan yllyttämiseksi ja häiritsemään vaaleja, ja antamalla terroriryhmien jatkaa radikalisoitumista ja rekrytoida verkossa. Olemme uupuneet anteeksipyynnöistä ja lupauksista tehdä parempia.

Poliittiset päättäjät ja mainostajat ovat olleet yhä äänekkäämpiään turhautuneina sosiaalisen median yritysten puutteeseen puuttua aggressiivisesti kaikkeen radikalisoituvasta, terrorismiin liittyvästä materiaalista lapsille suunnattuun seksuaaliseen sisältöön. Vastauksena YouTube ilmoitti vasta viime viikolla poistaneensa edellisten kolmen kuukauden aikana yli 8 miljoonaa videota, joista suurin osa oli roskapostia tai vain aikuisille suunnattua sisältöä. Koneet tunnistivat automaattisesti 6.7 miljoonaa poistettua sisältöä, joista 76% poistettiin ennen yhden näkymän vastaanottamista.

YouTube kertoo myös, että yli puolet väkivaltaisista ääriliikkeistä tehdyistä videoista poistettiin alle 10 katselukerralla. Meille ei kuitenkaan kerrotaan, kuinka moni näistä videoista on otettu pois, emmekä tietenkään tiedä, kuinka monta videota on edelleen verkossa, koska YouTuben algoritmit tai ihmisen moderaattorit ovat jättäneet väliin.

Pinnalla nämä luvut kuulostavat lupaavilta, mutta tarkempi tarkastelu maalaa toisen kuvan. Tämän vuoden 8. maaliskuuta ja 26. huhtikuuta välisenä aikana seitsemän viikon ajan käytimme omaa tekniikkaamme tunnistaaksemme vain 256 aiemmin tunnistetun ISIS: n luoman terrorismiin liittyvän videon esiintymisen YouTuben alustalla. Tässä on mitä opimme:

1. Ainakin 942 ISIS-videota ladattiin YouTubeen.

   Mainos

2. Nämä 942 videota keräsivät yhteensä 134,644 XNUMX katselukertaa.

3. Vaikka 74% videoista pysyi YouTubessa alle kahden tunnin ajan, nämä aikaikkunassa nämä videot keräsivät keskimäärin 12 katselukertaa, korkeintaan 252 katselukertaa.

4. Yli kaksi tuntia käytettävissä olevien videoiden keskimääräinen katselukertojen määrä 48 tunnin ikkunassa oli 515 ja katselukertojen enimmäismäärä 9,589 48 (lopetimme näkymien seuraamisen XNUMX tunnin ikkunan jälkeen).

5. Nämä 942 videota ladattiin 157 eri YouTube-tililtä, ​​joista osa ladasi jopa 70 videota ennen kuin YouTube-järjestelmänvalvojat poistivat kanavan tai käyttäjä poisti kanavan.

6. Noin 91% löytämistämme videoista ladattiin useammin kuin kerran ja pysyivät verkossa ainakin niin kauan, että voimme löytää sen.

Annetaan vain yksi erityinen esimerkki - video otsikolla Hunt heitä o 'monoteistiISIS: n Somalian tytäryhtiön alun perin julkaisema 25. joulukuuta 2017 kannustaa ampuma- ja ajoneuvohyökkäyksiin länsimaissa, mukaan lukien Pariisi ja Lontoo. Tämä video ladattiin YouTubeen 10. maaliskuuta 2018, oli käytettävissä 29 tuntia ja sai 405 katselukertaa ennen sen poistamista. Tämä video ladattiin uudelleen 11. maaliskuuta eri tilillä, ja se oli käytettävissä 39 tuntia ja sai 113 katselukertaa ennen kuin se poistettiin uudelleen. Tämä video ladattiin sitten uudelleen ja poistettiin vielä vähintään kuusi kertaa seitsemän viikon ajan, jolloin saatiin yhteensä 875 katselukertaa.

Analyysistämme on tullut esiin muutama malli. Huolimatta väitteistä, joiden mukaan se käyttää automaattisia työkaluja terrorismiin liittyvän sisällön löytämiseen ja poistamiseen, näemme saman sisällön latautuvan toistuvasti YouTubeen, usein samalta tililtä. Tämä sisältö pysyy verkossa missä tahansa tunteista päiviin ja sitä katsellaan satoja tuhansia kertoja. Kun sisältö on poistettu, se ladataan uudelleen, mikä tarkoittaa, että se on käytännössä käytettävissä koko ajan. Jos pieni voittoa tavoittelematon järjestö, kuten Counter Extremism Project, jolla on rajalliset taloudelliset ja laskennalliset resurssit, voi löytää sisältöä näiltä alustoilta, emme näe mitään syytä siihen, miksi alustat eivät voi tehdä samaa.

Tärkeintä on, että liikaa terrorismiin liittyvää sisältöä löytää tiensä verkkoon, se pysyy verkossa liian kauan, ja se ilmestyy edelleen, vaikka se lopulta poistettaisiin.

Vaikka olemme nähneet jonkin verran edistystä muutama vuosi sitten, on edelleen merkittäviä aukkoja teknologian kehittämisessä ja käyttöönotossa, jotta terrorismiin liittyvä sisältö löydettäisiin nopeasti ja tarkasti. Olemassa olevan tekniikan parantamisen lisäksi teollisuuden on tehtävä enemmän kehittää ja ottaa käyttöön uutta tekniikkaa jatkuvasti muuttuvassa ympäristössä - ja tämän on ylitettävä epämääräiset lupaukset käyttää tekoälyä viiden tai kymmenen vuoden kuluttua ongelmien ratkaisemiseksi tänään.

Päättäjien, mainostajien ja yleisön on edelleen painostettava teknologiayrityksiä ottamaan enemmän vastuuta alustojensa väärinkäytöksistä aiheutuvista välittömistä ja mitattavissa olevista vahingoista. Jos nämä teknologiayritykset eivät reagoi tehokkaammin, päätöksentekijöiden tulisi harkita sakkoja (kuten saksalaiset ovat) ja mainostajien tulisi harkita mainosdollarien pidättämistä (kuten Unilever on uhannut tehdä).

Tohtori Hany Farid on Albert Bradley 1915: n kolmannen vuosisadan professori ja tietojenkäsittelytieteen puheenjohtaja Dartmouth Collegessa ja Counter Extremism -projektin vanhempi neuvonantaja.

Jaa tämä artikkeli: