Algoritmii rețelelor sociale decid ce vedem online. Cum funcționează recomandările personalizate și ce riscuri pot avea

Algoritmii care personalizează conținutul afișat pe rețelele sociale și urmăresc să mențină utilizatorii cât mai mult timp conectați au ajuns în centrul unei noi inițiative legislative în Australia. Guvernul laburist de la Canberra pregătește o lege prin care utilizatorii ar urma să poată dezactiva recomandările algoritmice și să aleagă un flux bazat doar pe conținutul publicat de persoanele și paginile pe care le urmăresc.

Propunerea face parte dintr-un proiect mai amplu privind siguranța online și readuce în atenție modul în care funcționează sistemele care selectează automat ceea ce apare în feed, dar și efectele pe care aceste mecanisme le pot avea asupra comportamentului utilizatorilor.

Ce este un algoritm și cum decide ce apare în feed

Pe TikTok, YouTube și alte platforme online, utilizatorii nu văd întotdeauna conținutul în ordinea în care acesta este publicat. Materialele sunt selectate și ordonate în funcție de anumite reguli de programare, cunoscute drept algoritmi.

Sistemele de recomandare încearcă să anticipeze ce conținut are cele mai mari șanse să determine un utilizator să interacționeze cu o postare, fie pentru că îi stârnește interesul, fie pentru că provoacă o reacție negativă sau chiar indignare.

Pentru a face aceste predicții, algoritmii folosesc informații despre utilizator și despre comportamentul său online. Printre datele care pot contribui la personalizarea conținutului se numără postările publicate, materialele vizualizate sau accesate, interacțiunile cu alte postări, precum și informații precum vârsta, profesia sau locația.

Sistemele de recomandare sunt centrale pentru modul în care funcționează numeroase platforme online, selectând, filtrând și personalizând conținutul afișat utilizatorilor. Autoritatea australiană pentru siguranță online avertizează că aceste sisteme pot amplifica anumite riscuri, în special atunci când sunt proiectate să prioritizeze implicarea utilizatorilor.

Marile companii de tehnologie păstrează, în general, secret modul exact în care funcționează algoritmii lor, iar sistemele de recomandare reprezintă una dintre componentele importante ale platformelor.

De ce utilizatorii ajung să petreacă mai mult timp online

Pentru utilizator, mecanismul poate părea simplu: deschide o aplicație pentru câteva minute, începe să deruleze conținutul și constată ulterior că a trecut mult mai mult timp. Printre funcționalitățile care pot prelungi timpul petrecut pe platforme se numără derularea infinită a conținutului, recompensele variabile și notificările care creează senzația de urgență.

„Aceste platforme au dezvoltat funcționalități care creează dependență și care îi țin pe copii și pe adulți online mai mult timp decât și-ar dori, adesea în detrimentul somnului, al stării lor de bine și al legăturii cu lumea reală”, a explicat Mark Williams, profesor onorific de neuroștiințe cognitive la Universitatea Macquarie din Sydney, Australia.

Quynh Hoang, conferențiar la Universitatea din Leicester, Marea Britanie, a explicat că alternanța imprevizibilă a recompenselor poate stimula sistemul dopaminergic.

„Această imprevizibilitate stimulează sistemul dopaminergic, creând un ciclu compulsiv de căutare și anticipare”, a declarat aceasta. Potrivit unui studiu publicat anul trecut în revista Cureus, mecanismul poate ajunge să producă un tip de dependență comparabil cu cel asociat consumului unei substanțe.

Australia a inclus deja sistemele de recomandare și anumite caracteristici precum derularea infinită printre elementele relevante pentru reglementarea platformelor accesibile minorilor.

Conținutul care provoacă reacții poate fi favorizat

Unul dintre riscurile asociate sistemelor de recomandare este legat de tipul de conținut care generează cel mai mult interes și cele mai multe interacțiuni.

„Rețelele sociale sunt concepute ca să ne capteze atenția, iar asta înseamnă, de prea multe ori, ca accentul să fie pus pe conținuturi provocatoare și extreme, deoarece indignarea generează implicare, iar implicarea generează profit”, a declarat Steven Roberts, de la Universitatea Monash din Melbourne, Australia.

Sistemele de recomandare nu fac întotdeauna diferența între interacțiunea pozitivă și cea negativă. Astfel, o reacție generată de indignare poate reprezenta, din perspectiva algoritmului, tot o formă de implicare. Autoritatea australiană pentru siguranță online notează că prioritizarea implicării poate contribui la amplificarea anumitor riscuri și forme de conținut dăunător.

Algoritmii și promovarea conținuturilor misogine

Printre criticile aduse sistemelor de recomandare se numără și posibilitatea ca acestea să îi conducă pe adolescenți către conținuturi care promovează misoginia și violența împotriva femeilor.

Un studiu realizat de organizația australiană Movember a indicat că rețelele sociale îi pot direcționa pe tinerii de sex masculin către astfel de materiale, intenționat sau nu. Traseul poate porni de la conținuturi aparent inofensive, precum postările despre sport, și poate ajunge la materiale violente sau asociate cu așa-numita „manosferă”.

Steven Roberts a citat cercetarea națională realizată pe un eșantion de peste 2.600 de profesori: „Cercetarea noastră la nivel național, realizată pe un eșantion de peste 2.600 de profesori, a relevat că 70% dintre aceștia au constatat, frecvent sau ocazional, impactul influencerilor din «manosferă» asupra atitudinilor și comportamentului elevilor”.

Ce schimbare pregătește Australia

Proiectul legislativ australian ar urma să le ofere utilizatorilor posibilitatea de a alege dacă vor să primească recomandări generate de algoritmi. În locul fluxului personalizat automat, utilizatorii ar putea opta pentru un feed care să conțină postări provenite doar de la persoanele, paginile și creatorii pe care îi urmăresc. Potrivit propunerii, alegerea ar trebui să rămână disponibilă utilizatorilor și să poată fi schimbată.

Inițiativa face parte dintr-un proiect mai amplu privind obligațiile platformelor în materie de siguranță online. Pentru companii sunt prevăzute, de asemenea, măsuri referitoare la protejarea minorilor împotriva pornografiei, hărțuirii online, conținuturilor care glorifică infracționalitatea și materialelor care încurajează tulburările alimentare.

Prin eliminarea recomandărilor automate, fluxul utilizatorului ar urma să fie orientat către conținutul provenit de la conturile pe care acesta a ales să le urmărească, în locul materialelor selectate pe baza comportamentului său online.

Nu toți utilizatorii ar renunța la recomandările personalizate

Posibilitatea de a dezactiva algoritmii nu înseamnă neapărat că această opțiune ar fi aleasă de majoritatea utilizatorilor. Într-un sondaj realizat în 2025 pe un eșantion de peste 6.000 de persoane din șase țări, doar una din cinci persoane a declarat că ar dezactiva recomandările personalizate dacă ar avea această posibilitate, potrivit Lisei Harrison, conferențiară în domeniul comunicării și mass-media la Universitatea Flinders din Australia.

„Algoritmul își face bine treaba, iar minoritatea care alege să îl dezactiveze va constata că fluxul de noutăți de la prietenii și creatorii pe care îi urmărește este mai puțin animat decât cel pe care l-a părăsit”, a estimat Harrison.

Propunerea australiană pune astfel în discuție nu doar modul în care platformele selectează conținutul, ci și posibilitatea ca utilizatorii să aibă un control mai mare asupra modului în care este construit propriul flux de informații.