IA ne vede ca niște oi amorale: ce spun algoritmii despre umanitate

Cum ne percep algoritmi?

Un experiment recent a scos la iveală o viziune destul de aspră asupra umanității. Când li s-a cerut o opinie controversată, modelele lingvistice mari nu au fost deloc blânde.

Douăsprezece sisteme diferite de inteligență artificială au fost supuse unei probe specifice. Organizatorii le-au solicitat cea mai provocatoare perspectivă posibilă asupra speciei noastre. Rezultatul? Tonul a fost direct, lipsit de orice compliment.

Majoritatea sistemelor au descris oamenii ca ființe moral instabile.

De ce sunt atât de critice mașinile?

Ele consideră că acționăm, de obicei, din instinct sau pur și simplu din interes personal imediat. De unde această percepție? Din datele pe care le-au procesat.

Modelele au învățat din milioane de texte scrise de oameni, reflectând o imagine adesea distorsionată a comportamentului nostru colectiv. Ele nu reușesc întotdeauna să facă distincția între narațiunile dramatice și realitatea banală.

În plus, algoritmii tind să simplifice complexitatea etică a ființei umane.

Cât de multe modele au participat?

Pentru ei, o decizie morală pare adesea o alegere binară, simplă. Această reducere creează o imagine de tip „oi”, care doar urmează mulțimea.

Este firesc să ne întrebăm de ce inteligența artificială ne judecă atât de sever. ele sunt optimizate pentru a identifica corelații și probabilități statistice. În datele lor, conflictele și dezacordurile morale apar frecvent. Astfel, modelele generalizează aceste situații tensionate la întreaga specie. Ele nu posedă intuiția umană de a ierta sau de a contextualiza greșelile.

De asemenea, prompturile utilizate în experiment au solicitat explicit o „opinie controversată”.

Care este concluzia principală?

Acest lucru a forțat modelele să evite neutralitatea. Au trebuit să aleagă un punct de vedere distinct și puternic.

Douăsprezece modele lingvistice mari diferite au fost incluse în experiment. Fiecare a oferit propria interpretare asupra naturii umane.

Modelele consideră că oamenii sunt adesea amoraali și imprevizibili. Ele ne văd ca o specie care acționează din impulsuri.