Voiko älykäs #AI-strategia vakuuttaa EU: n siitä, että #Facebook-sisällön hillitseminen on nuuska?

Facebook-toimitusjohtaja Mark Zuckerberg tapasi 17. helmikuuta Brysselissä tapaamalla eurooppalaisten päättäjien kanssa (Kuvassa) julkaisi valkoisen kirjan, joka hahmotti hänen strategiansa haitallisen sisällön käsittelemiseksi sosiaalisen median alustoilla. Vastauksena Euroopan unionin halukkuuteen tarttua teknologia-alan valvontaan, miljardööri esitti tapauksen, että teollisuutta olisi säänneltävä globaalilla eikä paikallisella tasolla.

Hän väitti myös, että teknologiayritysten vastuuvelvollisuuttaan haitallisesta sisällöstä heidän alustoillaan olisi rajoitettava - kunhan niillä on käytössään tehokkaat sisällönvalvontajärjestelmät. Zuckerbergin ehdotukset saivat kuitenkin selvästi pakkasvastaanoton Brysselissä. Jopa Zuckerbergin tapaamisen jälkeen, EU väitti, että Facebookin uusi sisällön moderointiehdotus jäi monilla rintamilla, etenkin koska se ei pystynyt kuvailemaan konkreettisia toimia, joita foorumi toteuttaisi laittoman sisällön torjumiseksi verkossa. "Se ei ole tarpeeksi. Se on liian hidas, liian alhainen vastuun ja sääntelyn suhteen ”, valitsi tietostrategiakomissaari Thierry Breton istuessaan Facebookin ylimmän johdon kanssa.

Missä Facebookin nykyinen järjestelmä puuttuu?

Teknologia-jättiläillä on melko kapea ikkuna, jolla vakuuttaa eurooppalaiset päätöksentekijät siitä, että heidän omat ponnistelunsa ongelmallisen sisällön hillitsemiseksi ovat riittäviä. Komission digitaalipalvelulaki, joka on kauan odotettu tarkistus EU: n 20 vuotta vanhasta verkkokaupadirektiivistä, on tarkoitus ottaa käyttöön myöhemmin tänä vuonna. Kuten Breton totesi, "jos näemme, että [Facebookin oma prosessi sisällön moderointiin] ei ole sitä, mitä tarvitsemme omien standardien suhteen, meidän on säänneltävä ja sisällytettävä tämä [digitaalisia palveluja koskevaan lakiimme]".

Facebook on päättänyt, että se pystyy itse ratkaisemaan sisällön moderoinnin ongelman - käyttämällä keinotekoisen älykkyyden (AI) kehitystä ja koneoppimista nykyisen järjestelmän parantamiseksi. Haastava tehtävä tunnistaa ja poistaa ongelmallista materiaalia on tällä hetkellä ulkoistettu kolmansien osapuolien ammattilaisille, jotka käyttävät harkintavaltaansa selvittääkseen, miksi kuva tai video on väärin.

Luottamus tällaiseen inhimilliseen valvontaan on ongelmallista, koska joidenkin sisällön moderaattoreiden pakko luopua siitä, että Lissabonissa, Dublinissa ja Varsovassa Facebookin sisältöä moderoivat työntekijät ovat todistaneet, että heidän työnsä on antanut heille PTSD nostaa varmasti punaiset liput. EU: n toimielimissä. Lisäksi ihmisen maltillisuuden tehokkuus on asetettu kyseenalaiseksi, kun Facebook ei ole toistuvasti onnistunut poistamaan nopeasti haitallista sisältöä, kuten Christchurchin moskeijahyökkäyksen 2019 suoratoisto.

AI voi kytkeä joitain Facebookin sokeita kohtia

Mainos

Keinotekoisella älykkyydellä on mahdollista vähentää merkittävästi tällaista riippuvuutta ihmisen maltillisuudesta. Koneoppimisella koulutetut algoritmit voivat tukea moderaattoreita paitsi vähentämällä heidän altistumistaan ​​haitalliselle verkkosisällölle myös lisäämällä heidän tuottavuuttaan ja tarkkuutta. Facebook väittää nähneensä toistaiseksi lupaavia tuloksia kokeiluissaan AI: n kanssa - foorumin mukaan vuoden 2019 jälkipuoliskolla alusta pystyi ilmoittamaan 99.8% graafisesta sisällöstä ja 99.5% alastomuudesta ja lasten hyväksikäytöstä jo ennen kuin käyttäjät ilmoittivat niistä . Tietenkin, tekniikka tarvitsee edelleen hienosäätöä - AI: hen perustuvat sisällön moderointialgoritmit kamppailevat edelleen erityisesti esimerkiksi vihapuheen vivahteiden tunnistamisen kanssa - asiasta, johon Euroopan unioni on erityisen huolestunut.

Lisäksi Euroopan unioni on varovainen salliessaan Facebookin ilmaisen hallinnan sellaisen arkaluonteisen tekniikan kuin AI hyödyntämisessä. Nämä huolet johtuvat pääasiassa Facebookin huonoista saavutuksista Euroopan avoimuusstandardien täyttämisessä - herättäen ajattelua, että yritys saattaa kehittää "mustan laatikon algoritmeja", jotka estävät kolmansien osapuolien tai viranomaisten tekemiä tarkastuksia alustalla.

EU: n digitaalisen tsaarin ja kilpailupäällikön Margrethe Vestagerin viime viikolla julkaiseman digitaalipolitiikan ytimessä on säännellä, miten yritykset käyttävät tekoälyä. Vaikka EU haluaa hallitusten valvovan sen riskialttiimpia puolia, kuten kasvojentunnistustekniikan käyttöä, monet Euroopan omalla takapihalla olevat sovellukset osoittavat, kuinka sitä voidaan käyttää turvallisesti ja tehokkaasti. Voiko Facebook ottaa heiltä osoituksen?

Seuraava sukupolven sosiaalisen median sovellukset tekevät jälkensä käyttämällä AI: tä innovatiivisesti

Erityisesti yksi eurooppalainen sovellus on luovasti hyödyntänyt tekoälyä tarjotakseen nuorille käyttäjilleen turvallisemman ja miellyttävämmän kokemuksen. Yubo, suoratoistoinen sovellus ikäryhmille 13–25, luottaa tasapainoon monimutkaisten algoritmien ja nuorten Internet-haittoja koskevan koulutuksen välillä pitääkseen 20 miljoonan käyttäjänsa turvassa alustalla. Huolellisesti koulutettu algoritmi havaitsee ongelmallisen sisällön, kuten alastomuuden tai jonkun vain alusvaatteissaan live-streamissa - jolloin Yubon reaaliaikainen interventiojärjestelmä potkaistaan, lähettämällä käyttäjille varoitusviestin, jossa selitetään, miksi tällainen käyttäytyminen on väärin. Jos käyttäjä ei korjaa käyttäytymistään, stream voidaan sammuttaa etäyhteyden kautta.

Varmistaaksesi sen, että sovellus on varattu nuorille ja nuorille aikuisille, sillä välin Yubo on tehnyt yhteistyötä suositun brittiläisen digitaalisen henkilöllisyyden tarjoajan Yotin kanssa, joka vastaa lähetettyjä henkilöllisyystodistuksia käyttäjän selfies-sovelluksiin kasvojentunnistusohjelmiston avulla. Yotin tekniikkaa - jota käytetään myös supermarketeissa varmistaakseen, että alle 18-vuotiaat eivät osta rajoitettuja tavaroita, kuten savukkeita tai alkoholia - voidaan käyttää muissa sosiaalisen median sovelluksissa "ikäämään" yhteisöään tai varmistamaan, että käyttäjät ovat jotka he sanovat olevansa.

Yubon yritykset piilottaa ongelmallista verkkosisältöä silmissä - yhdistämällä tietokoneavusteinen moderointi nuorten käyttäjien herkistämiseen hyvän verkkoprotokollan tekemisistä ja kieltäytymisistä - ovat tehneet roiskeita tekniikan alalla. Niiden tulisi myös tarjota rohkaiseva esimerkki molemmille tekniikan jättiläisille, kuten Facebook ja sääntelyviranomaisille, kuten Euroopan unionille, että sosiaalisen median alustoilla voidaan löytää terve tasapaino liian riippuvuuden joko AI: n tai ihmisen valvonnasta välillä.

Keinotekoinen äly ei ole parannuskeino sosiaalisen median alustojen haasteisiin. Koska Facebook pyrkii vakuuttamaan EU: n kykenevänsä hallitsemaan omaa sisältöä, se hyötyisi kuitenkin hyödyntämällä otetta uuden sukupolven sovelluksilta, jotka ovat onnistuneet kehittämään kokonaisvaltaisen strategian, joka sisältää AI: n käyttäjiensä pitämiseksi turvassa. .

Jaa tämä artikkeli: