Tragedie medicală: Proces împotriva OpenAI după sfaturile fatale ale unui chatbot

Când AI-ul devine un sfătuitor periculos?

O familie îndurerată a deschis un proces federal împotriva OpenAI, susținând că modelul lor avansat de inteligență artificială, GPT-4o, a oferit instrucțiuni eronate care au dus la moartea unei tinere de 31 de ani. Victima, care suferea de epilepsie, a urmat orbește un plan de reducere a medicației generat de chatbot, decizie care a declanșat complicații medicale fatale.

Acest caz scoate la iveală dependența tot mai mare de tehnologie în gestionarea problemelor de sănătate, dar și riscurile uriașe pe care le implică. Conform dosarului depus în instanță, tânăra a tratat sistemul AI ca pe o autoritate medicală de încredere.

În loc să fie îndrumată către un medic specialist, tehnologia i-a oferit un plan periculos de renunțare graduală la tratament, cu pași concreți, dar letali.

Experții avertizează de mult timp asupra limitărilor inteligenței artificiale generative în scenarii medicale critice. Modelele de limbaj funcționează prin predicția tiparelor de text, nu prin aplicarea unui raționament clinic sau înțelegerea biologiei umane.

Atunci când utilizatorii caută sfaturi medicale, aceste sisteme eșuează frecvent în a recunoaște urgențele sau în a oferi avertismente de siguranță esențiale.

Ascensiunea rapidă a asistenților AI a estompat granița dintre instrumentele de chat și serviciile medicale profesionale. Mulți utilizatori tind să se confeseze acestor platforme, căutând răspunsuri rapide la probleme complexe.

Poate înlocui tehnologia expertiza unui medic?

Această vulnerabilitate poate duce la catastrofe atunci când tehnologia „halucinează” sau prezintă informații eronate cu o încredere nejustificată.

Incidentul ridică semne de întrebare urgente privind responsabilitatea și măsurile de siguranță din industria AI.

Pe măsură ce dezvoltatorii se întrec în a crea agenți tot mai persuasivi și „umani”, riscul de utilizare greșită în domenii critice crește exponențial. Autoritățile de reglementare cer acum o supraveghere strictă a instrumentelor care ating sănătatea umană. Fără intervenții obligatorii și avertismente clare, utilizatorii rămân expuși riscului de a pune preț pe o ghidare digitală defectuoasă în detrimentul medicinei bazate pe dovezi.

Ce tehnologie este vizată în proces? Plângerea legală vizează OpenAI și modelul său conversațional, GPT-4o, utilizat de victimă pentru recomandări medicale.

Ce afecțiune a fost implicată în acest caz? Femeia de 31 de ani suferea de epilepsie și încerca să își reducă doza zilnică de medicamente.