OpenAI te învață cum să detectezi imaginile generate de AI. „Drumu-i lung, omătu-i mare”, dar viitorul sună bine

Ne credem destul de buni în identificarea imaginilor create de AI, dar nu cumva greșim?

Tehnologia evoluează constant și nu va mai dura mult până când nu vom mai putea să spunem ce este real sau nu.

Liderul din industrie OpenAI încearcă să prevină problema creând un set de instrumente care detectează imaginile create de propriul său generator DALL-E 3.

Precizia cu care soft-ul poate detecta imaginile generate de AI

Compania spune că poate detecta cu precizie imaginile create de DALL-3 în 98 la sută dintre cazuri, ceea ce este minunat.

Există, totuși, unele probleme. În primul rând, imaginea trebuie să fie creată de DALL-E și, bineînțeles, nu este singurul generator de imagini pe piață. Internetul este plin de ele.

Conform datelor furnizate de OpenAI, sistemul a reușit să clasifice cu succes doar cinci până la zece la sută dintre imaginile realizate de alte modele AI.

De asemenea, întâmpină probleme dacă imaginea a fost modificată în vreun fel. Acest lucru nu părea a fi o mare problemă în cazul modificărilor minore, cum ar fi decuparea, compresia și schimbările de saturare.

În aceste cazuri, rata de succes a fost mai mică, dar încă într-un interval acceptabil, în jur de 95 până la 97 la sută. Ajustarea nuanței, totuși, a redus rata de succes la 82 la sută.

Încă nu suntem acolo unde trebuie

Acum, aici lucrurile devin cu adevărat dificile. Setul de instrumente a avut dificultăți atunci când a fost folosit pentru a clasifica imaginile care au suferit modificări mai extinse.

OpenAI nici măcar nu a publicat rata de succes în aceste cazuri, declarând simplu că „alte modificări, totuși, pot reduce performanța”.

Aceasta este o problemă, deoarece, bineînțeles, este un an electoral și majoritatea imaginilor generate de AI vor fi modificate ulterior pentru a enerva oamenii.

Cel puțin OpenAI este transparent cu privire la limitările tehnologiei sale de detectare. De asemenea, le oferă testerilor externi acces la instrumentele menționate mai sus pentru a ajuta la rezolvarea acestor probleme, conform Wall Street Journal.

Compania, împreună cu cel mai bun prieten Microsoft, a investit 2 milioane de dolari în ceva numit Fondul de Reziliență Societală, care speră să extindă educația și alfabetizarea AI.