Inteligența artificială te judecă mai rău decât soacra ta: cum e posibil, de ce

Inteligența artificială te judecă mai rău decât soacra ta: cum e posibil, de ce

Cercetătorii de învățare automată învață rețelele neurale cum să judece superficial oamenii, iar rezultatele sunt pe cât de brutale, pe atât de familiare. Iată până unde a ajuns inteligența artificială.

Un studiu despre critica AI, publicat în prestigioasa revista Proceedings of the National Academy of Sciences, descrie modul în care cercetătorii au instruit modelul cum să judece atributele fețelor umane, modul în care ne purtăm la prima întâlnire și cum l-au antrenat să manipuleze fotografiile pentru a evoca diferite judecăți, cum ar fi să pară „de încredere” sau „dominant”.

„Setul nostru de date nu numai că conține părtiniri”, a scris cercetătorul postdoctoral de la Princeton, Joshua Peterson, într-un thread de tweet despre cercetare, „reflectă în mod deliberat”.

Inteligența artificială îți poate distruge reputația

Lucrarea PNAS notează că AI reflectă atât de mult judecata umană, încât tinde să asocieze caracteristici fizice obiective, cum ar fi mărimea sau culoarea pielii cuiva, cu atribute variind de la încredere la privilegii.

Într-adevăr, în subiectul său, Peterson a explicat că cele mai multe dintre cele 34 de valori de judecată pe care cercetătorii le-au antrenat în AI, pentru a le atribui persoanelor, aveau inferențe politice corespunzătoare. De exemplu, când a folosit site-ul interactiv al studiului, publicația Futurism a descoperit că algoritmul a marcat fețele albe ca fiind mai „conservatoare”, iar când cineva caută „liberal” pe site-ul interactiv al studiului, majoritatea fețelor care apar sunt oameni de culoare.

Într-un comunicat de presă, cercetătorul cognitiv Jordan W. Suchow de la Institutul de Tehnologie Stevens, care a lucrat la studiu, a recunoscut că „trebuie să fim atenți la modul în care este utilizată această tehnologie”, deoarece, probabil, ar putea avea un aspect nefast în scopuri precum creșterea sau deteriorarea reputației unei persoane publice.

Deși este destul de ezoteric, Suchow a remarcat în comunicatul de presă că acest tip de învățare automată poate „studia primele impresii părtinitoare ale oamenilor unii despre alții”. „Având în vedere o fotografie a feței tale, putem folosi acest algoritm pentru a prezice care ar fi primele impresii ale oamenilor despre tine”, a adăugat el, „și ce stereotipuri ar proiecta asupra ta când ți-ar vedea fața”.

Cu părtinirea AI fiind o problemă din ce în ce mai importantă, această răsturnare de paradigmă este pe cât de încântătoare, pe atât de grăitoare. Poți verifica singur cercetarea interactivă la OneMillionImpressions.com.

Citește și: