Studiu Mozilla: Algoritmul YouTube favorizează conținutul dăunător

O anchetă publică a acuzat că algoritmii de recomandare ai YouTube favorizează conținutul dăunător. Franța și Germania s-au dovedit a fi deosebit de afectate, alături de alte țări unde nu se vorbește limba engleză, informează Euractiv.

Studiul a fost realizat de Mozilla, al cărui produs principal este Firefox, un browser web care concurează direct cu Google Chrome. Google este, de asemenea, compania mamă a YouTube.

„YouTube trebuie să admită că algoritmul lor este conceput într-un mod care dăunează și dezinformează oamenii. Cercetările noastre confirmă faptul că YouTube nu numai că găzduiește, ci recomandă în mod activ videoclipuri care îi încalcă propriile politici ”,

a declarat Brandi Geurkink, Senior Manager la Mozilla.

YouTube este al doilea cel mai vizitat site web din lume, cu 2,3 ​​miliarde de utilizatori pe lună în 2020. Numărul său de ore de vizionare a crescut de zece ori între 2012 și 2017, ajungând la un miliard de ore pe zi. Acesta a fost în principal rezultatul algoritmului platformei, care personalizează sugestiile video. YouTube a evaluat că 70% din timpul petrecut de utilizatori pe platformă se bazează pe acest sistem de recomandare.

Studierea sistemului

Principala constatare a raportului Mozilla este că

„algoritmul este problema”.

71% din videoclipurile raportate ca având conținut dăunător au fost recomandate automat de platformă. Videoclipurile recomandate au fost, de asemenea, cu 40% mai susceptibile de a fi raportate ca dăunătoare.

Principalele tipuri de conținut dăunător identificate au fost videoclipurile care conțin dezinformare, violență, discursuri care incită la ură sau escrocherii. Studiul solicită, de asemenea, transparență în modul în care sistemul decide ce videoclipuri să recomande, deoarece în mai multe cazuri nu a existat nicio relație directă între videoclipul vizionat și videoclipurile sugerate.

„Lucrăm în mod constant pentru a îmbunătăți experiența pe YouTube și, doar în ultimul an, am lansat peste 30 de modificări diferite pentru a reduce recomandările de conținut dăunător. Datorită acestei modificări, consumul de conținut limită care vine din recomandările noastre este acum semnificativ sub 1% “,

a declarat un purtător de cuvânt al YouTube pentru EURACTIV.

YouTube a salutat realizarea de cercetări suplimentare privind funcționarea sistemului său și a invitat Mozilla să împărtășească setul de date complet. Platforma de partajare a videoclipurilor estimează că mai puțin de 0,2% din conținut încalcă în prezent regulile comunității, o marjă de eroare care s-a redus semnificativ în ultimii ani datorită învățării automate.

Reducerea tendințelor negative

Cu toate acestea, numărul videoclipurilor dăunătoare ar putea fi mai puțin relevant decât reach-ul lor. Potrivit studiului, conținutul dăunător atrage în medie 70% mai multe vizionări pe zi decât alte videoclipuri.

Principala sursă de venituri a YouTube este publicitatea, care se bazează pe cât timp petrec utilizatorii pe platformă. Dacă nu este bifat, algoritmul ar sugera în mod natural conținut în tendințe, indiferent dacă este dăunător sau nu.

Potrivit YouTube, modificările pe care platforma le-a aplicat sistemelor sale de recomandare au redus drastic durata de vizionare a conținutului „la limită” începând cu 2019. Platforma a inclus, de asemenea, supravegherea umană pentru a evalua conținutul dăunător.

Cu toate acestea, este posibil ca aceste îmbunătățiri să nu fi afectat în mod egal toate țările.

Studiul a constatat că nivelul conținutului dăunător în țările care nu vorbesc limba engleză a fost în medie cu 60% mai mare decât în ​​țările în care limba engleză este limba principală. Germania și Franța se află în primele trei țări în care ponderea videoclipurilor dăunătoare raportate a fost cea mai mare.

Responsabilitatea algoritmului

Dacă ar fi confirmate, concluziile raportului ar pune YouTube în contradicție cu Codul de bune practici privind dezinformarea, cadrul de autoreglare al Comisiei Europene pentru combaterea dezinformării. Recent, Comisia a publicat o nouă orientare pentru cod, introducând măsuri mai puternice pentru a face platformele responsabile pentru sistemele lor de recomandare.

„Angajamentele ar trebui să includă, de asemenea, măsuri concrete pentru a atenua riscurile legate de sistemele de recomandare care alimentează răspândirea virală a dezinformării”,

se arată în ghid.

De asemenea, Comisia a solicitat platformelor să fie mai transparente cu privire la modul în care funcționează algoritmii lor, solicitând publicarea metodologiei sistemelor lor de recomandare. Se așteaptă ca actualizarea Codului de practică să fie finalizată până la începutul anului 2022.