UNESCO: „Marile modele de limbaj dezvoltate de Meta şi OpenAI vehiculează prejudecăţi sexiste"

inteligenta artificiala
Shutterstock

Marile modele de limbaj dezvoltate de Meta şi OpenAI, care servesc drept bază pentru instrumentele lor de inteligenţă artificială generativă, vehiculează prejudecăţi sexiste, avertizează un studiu publicat de UNESCO.  

Modelele GPT 2 şi GPT 3.5 de la OpenAI, cel din urmă aflându-se în centrul versiunii gratuite a ChatGPT, precum şi Llama 2 de la concurentul Meta, demonstrează "prejudecăţi fără echivoc faţă de femei", a precizat această agenţie din cadrul ONU într-un comunicat.

"Discriminările din lumea reală nu doar că se reflectă în sfera digitală, ci se şi amplifică acolo", a subliniat Tawfik Jelassi, director general adjunct al UNESCO pentru comunicare şi informare.

Potrivit studiului, realizat în perioada august 2023 - martie 2024, aceste tipare lingvistice asociază mai degrabă substantivele feminine cu cuvinte precum "casă", "familie" şi "copii", în timp ce substantivele masculine sunt asociate mai mult cu cuvintele "afaceri", "salariu" şi "carieră".

Cercetătorii au cerut, de asemenea, acestor interfeţe să producă texte despre persoane de origini şi genuri diferite.

Citește și
concedieri IT
Piața muncii din România, tot mai afectată. Domeniul bine plătit în care inteligența artificială ia deja locul angajaților

Rezultatele au arătat că textele despre "persoanele din culturi minoritare sau despre femei erau adeseori mai repetitive şi bazate pe stereotipuri".

Astfel, există tendinţa ca un bărbat englez să fie prezentat ca un profesor, un şofer sau un angajat al unei bănci, în timp ce o femeie engleză va fi prezentată în cel puţin 30% dintre textele generate ca o prostituată, un model sau o chelneriţă.

Aceste companii "nu reuşesc să îi reprezinte pe toţi utilizatorii lor", a declarat pentru AFP Leona Verdadero, specialistă în politici digitale şi transformare digitală la UNESCO.

Pe măsură ce aceste aplicaţii de inteligenţă artificială sunt din ce în ce mai mult utilizate de marele public şi de companii, ele "au puterea de a modela percepţia a milioane de oameni", a declarat directorul general al UNESCO, Audrey Azoulay.

"Aşadar, prezenţa chiar şi a celei mai mici prejudecăţi sexiste în conţinutul lor poate creşte semnificativ inegalităţile în lumea reală", a continuat ea, citată în acelaşi comunicat.

Pentru a combate aceste prejudecăţi, UNESCO recomandă ca firmele din acest sector să aibă echipe de ingineri mai diverse, în special cu mai multe femei.

Femeile reprezintă doar 22% dintre membrii echipelor care lucrează în domeniul inteligenţei artificiale la nivel global, conform datelor transmise de Forumul Economic Mondial, aminteşte UNESCO.

Aceeaşi agenţie din cadrul ONU solicită, de asemenea, guvernelor să introducă mai multe reglementări pentru a implementa o "inteligenţă artificială etică".

Articol recomandat de sport.ro
Ion Țiriac, rețetă-fulger pentru metroul spre Otopeni: "Îl fac în 6 luni! Ușor de tot"
Ion Țiriac, rețetă-fulger pentru metroul spre Otopeni: "Îl fac în 6 luni! Ușor de tot"
Citește și...
Un algoritm bazat pe Inteligența Artificială poate prezice cancerul pulmonar cu șase ani înainte de apariție
Un algoritm bazat pe Inteligența Artificială poate prezice cancerul pulmonar cu șase ani înainte de apariție

Un algoritm bazat pe Inteligența Artificială poate prezice cancerul pulmonar cu șase ani înainte de apariție. Cel puțin asta susțin cercetătorii din SUA, care au lucrat la acest proiect și au făcut numeroase teste în ultimii ani.

Piața muncii din România, tot mai afectată. Domeniul bine plătit în care inteligența artificială ia deja locul angajaților
Piața muncii din România, tot mai afectată. Domeniul bine plătit în care inteligența artificială ia deja locul angajaților

Se anunță o perioadă dificilă pe piața muncii de la noi. În primele două luni, angajările făcute de companii au scăzut cu aproape 20 de procente, spun specialiștii în Resurse Umane.

Şeful Nvidia: Crearea de computere care pot gândi ca oamenii s-ar putea realiza în cinci ani
Şeful Nvidia: Crearea de computere care pot gândi ca oamenii s-ar putea realiza în cinci ani

Directorul general al Nvidia, Jensen Huang, consideră că inteligenţa artificială generală ar putea, după unele definiţii, să fie disponibilă în doar cinci ani, transmite Reuters.

Recomandări
După Israel, Iranul și-a fixat alte ținte în Orientul Mijlociu. Teheranul, gata de atac dacă nu i se va respecta cererea
După Israel, Iranul și-a fixat alte ținte în Orientul Mijlociu. Teheranul, gata de atac dacă nu i se va respecta cererea

Iranul a avertizat Statele Unite, Marea Britanie și Franța că bazele și navele lor din regiune vor fi ținte dacă vor ajuta la oprirea atacurilor Teheranului asupra Israelului, a raportat sâmbătă presa de stat iraniană.

Nicușor Dan, la 145 de ani de relații diplomatice România-SUA: Suntem pregătiți să lucrăm împreună cu Donald Trump
Nicușor Dan, la 145 de ani de relații diplomatice România-SUA: Suntem pregătiți să lucrăm împreună cu Donald Trump

Nicușor Dan a transmis la împlinirea a 145 de ani de relații diplomatice cu SUA, că România este pregătită să lucreze împreună cu Donald Trump pentru a atinge întregul potențial al parteneriatului strategic.

Spania U21 - România U21, azi, ora 19, în direct la PRO TV și pe VOYO. „Tricolorii mici” caută primele puncte la EURO
Spania U21 - România U21, azi, ora 19, în direct la PRO TV și pe VOYO. „Tricolorii mici” caută primele puncte la EURO

Naționala U21 a României joacă, astăzi, împotriva selecționatei similare a Spaniei, de la ora 19:00, în cadrul Campionatului European de tineret din Slovacia. Meciul este transmis în exclusivitate pe PRO TV și VOYO.