„Flux”, noul instrument AI care creează fotografii hiperrealiste. Poți să observi diferența?

Experții spun că devine din ce în ce mai dificil pentru consumatori să distingă ce este real și ce este fals.

Printre cele mai puternice instrumente noi se numără „FLUX.1”, sau „Flux”, un generator gratuit de imagini AI lansat în august, care permite crearea de imagini hiperrealiste fără abonament. Acesta oferă trei versiuni: oferă trei versiuni: Pro, Dev și Schnell.

Ce poate să facă „Flux”?

CBS News a testat noul instrument și a constatat că acesta este capabil să creeze, în doar câteva secunde, imagini convingătoare ale unor persoane aflate în locuri ușor de recunoscut.

Spre deosebire de alte instrumente similare, rezultatele au fost lipsite de multe dintre semnele revelatoare ale imaginilor generate de inteligența artificială, cum ar fi pielea care pare incredibil de netedă.

Americanii au făcut o fotografie cu telefon Samsung, în timp ce alte trei au fost generate în „Flux”, folosind poza reală ca punct de pornire. Deși cele trei au un aspect realist la prima vedere, există indicii că inteligența artificială a intervenit, inclusiv clădiri cunoscute care nu sunt la locul lor. Iată un astfel de exemplu:

Inteligența artificială generativă funcționează bazându-se pe sute sau mii de imagini de referință pentru a crea un nou rezultat, iar tehnologia de bază este disponibilă de mai mulți ani.

Utilizatorii pot introduce o imagine de referință pentru a face ca rezultatul să fie mai specific, iar instrumentele precum „Flux” pot genera, de asemenea, imagini realiste ale oamenilor, animalelor și peisajelor cu o simplă propoziție descriptivă sau cu un prompt.

Un boom al inteligenței artificiale generative

Printre noile instrumente lansate luna trecută s-a numărat „Grok 2”, un generator de imagini disponibil pentru utilizatorii și + ai platformei X, fosta Twitter. Chatbot-ul are puține metode de protecție, permițând utilizatorilor să creeze imagini cu celebrități și materiale protejate prin drepturi de autor, precum și mesaje jignitoare, a constat CBS News, care a efectuat mai multe teste.

Modelul de inteligență artificială care alimentează generarea de imagini din „Grok 2” a fost realizat de Black Forest Labs, același start-up care a creat „Flux”.

Spre deosebire de alte instrumente online care sunt adesea accesate prin intermediul unui browser, experții spun că „Flux” poate fi accesat și modificat în mod liber pentru uz personal offline, ceea ce îl face nu numai extrem de realist, ci și susceptibil de abuz.

Termenii și condițiile „Flux” interzic utilizatorilor să creeze conținut care interferează cu drepturile de autor existente, să creeze conținut ilegal sau să înșele alte persoane prin prezentarea imaginilor generate de inteligența artificială ca fiind create de om.

Multe companii care dezvoltă instrumente de inteligență artificială, printre care Adobe, Google și OpenAI, au impus restricții în programele lor menite să prevină utilizarea abuzivă. Experții spun că acest lucru nu ar trebui să fie considerat de la sine înțeles pe o piață extrem de competitivă.

„În ceea ce privește Flux, problema nu este că e extrem de realist, pentru că asta urma să se întâmple într-un fel sau altul. Era inevitabil. Este vorba despre protecție”, a declarat Hany Farid, profesor la Universitatea Berkeley din California, specializat în criminalistică digitală și autentificarea mediilor digitale.

Experții avertizează că un instrument open-source, de tip client, precum „Flux”, deschide ușa modificărilor din partea unei comunități mai largi de utilizatori, ceea ce poate duce la utilizări care încalcă direct termenii și condițiile. „Vă puteți uita literalmente la cod. Puteți descărca codul și puteți modifica codul”, a spus Farid.

Ce urmează în zona inteligenței artificiale generative?

Instrumentele generative video devin, de asemenea, disponibile pe scară largă. Black Forest Labs, startup-ul care deține „Flux”, a anunțat că intenționează să lanseze în viitor instrumente capabile să genereze videoclipuri. Alte instrumente sunt deja disponibile pentru consumatori.

Această nouă gamă de instrumente poate crea imagini fără multe dintre indicațiile tipice ale AI, ceea ce înseamnă că oamenii trebuie să fie mai precauți atunci când vizualizează imagini și videoclipuri online. Experții recomandă aplicarea abilităților de bază de alfabetizare media pentru verificarea imaginilor, inclusiv acordarea unei atenții sporite elementelor de fundal și altor detalii - și, cel mai important, luarea în considerare a sursei atunci când se stabilește dacă ceva este autentic.