Amazon a întrerupt colaborarea cu Poliția din SUA pentru recunoașterea facială

Gigantul american a anunţat un memorandum la colaborarea cu departamentele de poliţie din Amazon de recunoaştere facială.

Decizia, care implică în mod evident argumente de marketing într-un moment în care tot mai multe companii încearcă să-şi promoveze imaginea prin asocierea cu lupta împotriva discriminării, vine la doar două zile după altă decizie similară, de răsunet, din partea IBM.

Marea diferenţă este că, spre deosebire de IBM care nu a reuşit până acum să ajungă să domine piaţa tehnologiilor de recunoaştere facială, Amazon chiar este unul din cei mai mari jucători de pe această piaţă.

Controversele din jurul platformei Rekognition

 

Platforma Rekognition, ca şi altele din zona recunoaşterii faciale, este una controversată. Procesul de antrenare are suficiente defecte pentru ca recunoaşterea să nu fie făcută corect de multe ori şi, de alte ori, să genereze probleme de inegalitate şi discriminare.

Una din problemele acestor platforme vine din faptul că setul de imagini folosite pentru antrenarea algoritmului a fost compus de cele mai multe ori din imagini ale oamenilor albi, ceea ce a dus la o funcţionare diferită a algoritmului în funcţie de culoarea pielii.

Probleme în relația dintre Amazon și Poliția din SUA

 

Dincolo de problemele tehnologiei, decizia celor de la Amazon pare să aibă mai multă legătură cu poliţia şi cu felul în care poliţia o foloseşte. Amazon lasă de înţeles prin această decizie că nu se poate avea încredere în poliţia din Statele Unite legat de modul în care se foloseşte recunoaşterea facială.

Tot Amazon, care furnizează soluţii de recunoaştere facială poliţiei de mai mulţi ani, a refuzat în mai multe rânduri să ia măsuri după ce au fost descoperite mai multe probleme concrete atât în felul în care este folosită de poliţie, cât şi în felul în care funcţionează această tehnologie în urma antrenării algoritmului.