Meie lähenemine ohtlikule ja petlikule sisule

Spotify meeskonnad töötavad ööpäev läbi, et tagada meie autorite, kuulajate ja reklaamijate jaoks turvaline ning nauditav kogemus. Kuigi suurem osa meie platvormi sisust on põhimõtetega kooskõlas ja suurem osa kuulamisajast kulutatakse litsentsitud sisule, püüavad pahalased aeg-ajalt kogemust rikkuda, jagades petlikku ja/või manipuleeritud teavet. Kui tuvastame sisu, mis rikub Spotify platvormi reegleid, võtame kohe asjakohaseid meetmeid. Lugege edasi, et saada lisateavet selle kohta, kuidas me tagame, et Spotify on turvaline.

Petlikku sisu võib esineda mitmel kujul, alates kahjututest kuulujuttudest ja lõpetades väga tõsiste suunatud kampaaniatega, mille eesmärk on levitada kogukondades hirmu ning kahju. Muutuvas maailmas arenevad need suundumused kiiresti ning me kasutame ära oma ettevõttesiseste meeskondade ja välispartnerite teadmisi, et seda tüüpi manipuleerimist paremini mõista.

Paljudel juhtudel võib seda tüüpi pahatahtlikke narratiive jagada keegi, kes ei pruugi teada, et need on väärad või eksitavad. Ja kuigi osad valed ei ole ohtlikud („minu koer on maailma targim“), võivad teised selgelt ohtlikud olla („vähk on pettus“). Mõistet „väärinfo“ kasutatakse sageli erinevat tüüpi manipuleeritud teabe kirjeldamiseks, sealhulgas desinformatsiooni kirjeldamiseks, mis on pahalaste teadlikult jagatav sisu autentse sisu suhtes kahtluste tekitamiseks.

Ohtlik ja petlik sisu on nüansirikas ning keerukas ja selle hindamine tuleb hoolikalt läbi mõelda. Me usume, et seda tüüpi rikkumiste käsitlemine erinevate põhimõtete kategooriate kaudu võimaldab meil olla oma otsustes tõhusam ja täpsem.

Näiteks ütleme oma ohtliku sisu eeskirjades selgelt, et me ei luba sisu, mis reklaamib valet või petlikku meditsiiniteavet, mis võib põhjustada kahju väljaspool internetimaailma või otseselt ohustada rahvatervist. Teine näide on toodud meie petliku sisu eeskirjades, mille kohaselt võtame meetmeid sisu suhtes, mille eesmärk on manipuleerida või häirida valimistega seotud protsesse, sealhulgas sisu suhtes, mille eesmärk on hirmutada valijaid või pärssida valimistel osalemist.

Selliste veebipõhise kuritarvitamise vormide hindamisel võtame arvesse erinevaid tegureid, sealhulgas järgmisi:

• sisu olemus (nt kas autor teeskleb, et ta on keegi teine?);
• kontekst (näiteks kas see on uudis ohtliku leviva narratiivi kohta või kas see toetab seda narratiivi?);
• motivatsioon (nt kas autor üritab kasutajat petta hääletama pärast tähtaega?);
• kahju oht (nt kas on suur tõenäosus, et narratiivi levik põhjustab otsest füüsilist kahju?).

Ohtlik pettus on sageli hüperlokaliseeritud, suunatud konkreetsetele riikidele, keeltele ja konkreetsetele riskirühmadele. Probleemi lahendamiseks kasutame kohalike asjatundjate abi, et tagada, et oleme kursis populaarsust koguvate suundumustega, mis võivad kujutada endast tõsise kahju ohtu, ja skaleerime neid inimteadmisi masinõppe klassifikaatorite abil. Seda lähenemist nimetatakse inimosaluse põhimõtteks.

Me mõistame, et seda tüüpi sisu võib esineda rohkem ebakindluse ja ebastabiilsuse perioodidel, mil autoriteetset teavet võib olla vähe. Seetõttu võime võtta ka mitmeid sisuga seotud meetmeid, et piirata potentsiaalselt kuritahtliku sisu levikut tundlike sündmuste toimumise ajal, kui on suurem oht, et kahjulikud narratiivid võivad viia vägivallani väljaspool internetimaailma.

Näiteks võime piirata sisu leitavust soovitustes, lisada sisule märkuse või otsustada selle platvormilt eemaldada. Võime ka avaldada autoriteetsetest allikatest pärit sisu, et tagada meie kasutajatele juurdepääs täpsele ja usaldusväärsele teabele, nagu lingid ametlikele hääletamisega seotud ressurssidele, mille on välja töötanud ja mida haldavad valimiskomisjonid.

Vaatame pidevalt oma eeskirju ja ülevaatajate juhiseid üle, tuginedes sisendile, mille saame oma Spotify meeskondadelt, välistelt sidusrühmadelt ja meie partneritelt nõukogus Spotify Safety Advisory Council.

Lisateavet meie ohutusalase töö kohta saate lugeda siit ja meie juhiseid autoritele varasemate valimiste ajal siit.