OpenAI și directorul său executiv, Sam Altman, sunt vizați de un nou proces în California, după ce părinții unui tânăr de 19 ani susțin că chatbotul ChatGPT i-ar fi oferit sfaturi care au contribuit la o supradoză fatală.
Procesul a fost depus marți la o instanță din San Francisco de către Leila Turner-Scott și Angus Scott, părinții lui Sam Nelson, un adolescent care a murit în mai 2025 în urma unei combinații periculoase de substanțe.
Familia afirmă că tânărul folosea ChatGPT pentru a cere recomandări despre consumul și combinarea drogurilor, potrivit Reuters.
Ce acuzații aduc părinții
Potrivit documentelor din proces:
- chatbotul i-ar fi recomandat lui Nelson să utilizeze Xanax pentru a reduce greața provocată de kratom;
- i-ar fi oferit informații despre doze și interacțiuni între substanțe;
- l-ar fi ajutat să găsească droguri ilegale;
- ar fi furnizat răspunsuri formulate într-un stil „autoritar”, asemănător unui medic.
Familia susține că:
- amestecul dintre Xanax, kratom și alcool a dus la moartea accidentală a tânărului;
- chatbotul a devenit tot mai „personalizat”, memorând detalii despre consumul său de substanțe și adaptând recomandările.
ChatGPT-4o, în centrul acuzațiilor
Procesul susține că problemele au început după lansarea modelului ChatGPT-4o în 2024.
Potrivit reclamanților:
- versiunile anterioare ale chatbotului refuzau să ofere sfaturi despre droguri;
- noul model ar fi răspuns mult mai detaliat și mai convingător;
- OpenAI ar fi grăbit lansarea pentru a ține pasul cu rivalii din industria AI.
Familia îl acuză pe gigantul tehnologic că nu a realizat suficiente teste de siguranță înainte de lansare.
Cerere pentru oprirea platformei ChatGPT Health
Procesul nu cere doar despăgubiri financiare.
Părinții solicită și suspendarea lansării platformei ChatGPT Health, anunțată de OpenAI la începutul anului.
Noua platformă promite:
- analizarea dosarelor medicale;
- răspunsuri personalizate despre sănătate;
- asistență AI pentru utilizatori.
Potrivit unui raport OpenAI publicat în ianuarie, aproximativ 40 de milioane de utilizatori pun zilnic întrebări legate de sănătate chatbotului.
Reacția OpenAI
Un purtător de cuvânt al OpenAI a descris cazul drept „sfâșietor”.
Compania a transmis că:
- interacțiunile respective au avut loc pe o versiune mai veche a ChatGPT;
- acea versiune nu mai este disponibilă;
- sistemele actuale includ măsuri suplimentare de siguranță.
OpenAI afirmă că:
- ChatGPT nu trebuie folosit ca substitut pentru îngrijirea medicală sau psihologică;
- chatbotul este acum antrenat să identifice situațiile sensibile și să direcționeze utilizatorii către ajutor real.
Val tot mai mare de procese împotriva companiilor AI
Cazul vine într-un moment în care marile companii de inteligență artificială se confruntă cu tot mai multe procese.
Reclamanții susțin că unele chatboturi:
- pot încuraja autovătămarea;
- influențează persoane vulnerabile psihic;
- oferă răspunsuri periculoase sau manipulatoare.
Cu doar o zi înainte, familia unei victime a unui atac armat de la Florida State University a intentat un proces separat împotriva OpenAI, susținând că ChatGPT ar fi ajutat atacatorul să își planifice faptele.
O dezbatere globală despre responsabilitatea AI
Procesul deschide o întrebare uriașă pentru industria inteligenței artificiale:
Cine răspunde atunci când un chatbot oferă informații periculoase?
Companiile AI susțin că modelele lor sunt instrumente și că utilizatorii sunt responsabili pentru deciziile proprii.
Criticii spun însă că:
- chatboturile devin tot mai convingătoare și „umane”;
- utilizatorii vulnerabili pot percepe răspunsurile drept sfaturi profesionale reale;
- lipsa reglementării poate crea riscuri serioase pentru sănătate și siguranță.
Cazul ar putea deveni unul dintre cele mai importante procese juridice din istoria inteligenței artificiale.
