Un asistent bazat pe inteligență artificială a adăugat în coșul de cumpărături patru cutii cu câte 18 ouă, deși utilizatorul nu solicitase produsul. Bărbatul a descoperit eroarea înainte de a finaliza comanda, dar explicația oferită de agent a fost surprinzătoare: nu știa de ce făcuse alegerea. Incidentul readuce în atenție riscurile utilizării agenților AI care pot lua decizii și pot acționa în numele oamenilor.
Un agent de inteligență artificială a adăugat 72 de ouă în coșul de cumpărături al unui utilizator, fără ca acesta să fi cerut produsul. Matt Smith, reprezentant al firmei de investiții Rebellionaire, a descoperit că asistentul său digital selectase patru cutii de ouă, fiecare cu 18 bucăți. Întrebat de ce a făcut acest lucru, sistemul nu a putut oferi o explicație convingătoare.
Incidentul a fost relatat de publicația Incredibilia pe 14 noiembrie 2026 și prezentat în detaliu de site-ul american Futurism, într-un articol semnat de Frank Landymore.
Potrivit relatării, Matt Smith a publicat pe platforma X capturi de ecran ale conversației cu agentul AI. Acesta îi comunica faptul că introdusese în coș patru cutii de ouă mari Vital Farms, provenite de la găini crescute în aer liber. Fiecare ambalaj conținea 18 ouă, astfel că totalul ajungea la 72.
Smith i-a cerut asistentului să explice de unde venise alegerea. Inițial, agentul a sugerat că ar fi putut interpreta greșit un rând dintr-o fotografie a listei de cumpărături. Utilizatorul i-a atras însă atenția că pe listă nu exista nicio mențiune despre ouă.
În cele din urmă, sistemul a admis că nu găsea nicio instrucțiune care să justifice introducerea produselor în coș. Răspunsul său a fost direct: „Nu am un răspuns bun”.
Agentul a recunoscut eroarea, dar nu a putut explica decizia
Matt Smith a descris întâmplarea drept prima situație în care a întâlnit personal o consecință concretă a unei halucinații produse de un model lingvistic de mari dimensiuni, cunoscut sub abrevierea LLM.
Termenul de „halucinație AI” desemnează situațiile în care un sistem generează informații false sau fără o bază reală, prezentându-le însă într-o manieră aparent convingătoare. În cazul de față, eroarea nu s-a limitat la un răspuns incorect. Agentul a făcut o acțiune concretă într-un proces de cumpărături, introducând în coș produse care nu apăreau în solicitarea utilizatorului.
Există însă o distincție importantă: potrivit conversației publicate, agentul a introdus ouăle în coș, iar Smith a verificat coșul și a plasat comanda. Relatarea nu arată că sistemul ar fi efectuat singur plata sau că ar fi finalizat achiziția fără intervenția utilizatorului.
Așadar, problema documentată în acest caz este că agentul a selectat produse nesolicitate și nu a putut justifica alegerea. Matt Smith a caracterizat episodul drept o consecință reală a unei halucinații LLM, dar aprecierea îi aparține și nu înseamnă că acesta ar fi primul incident de acest fel.
Un alt agent AI a plasat o comandă fără aprobarea explicită a utilizatorului
Nu este prima dată când un asistent digital provoacă probleme în timpul cumpărăturilor online. În februarie 2025, jurnalistul Geoffrey A. Fowler de la The Washington Post a relatat că agentul OpenAI Operator a cumpărat un carton de ouă fără să primească o solicitare explicită de achiziție.
Fowler îi ceruse sistemului să găsească cea mai ieftină ofertă pentru o duzină de ouă care putea fi livrată la domiciliu. Agentul a identificat inițial o variantă mai ieftină, dar a continuat căutarea și a ajuns să plaseze o comandă prin platforma Instacart.
Ouăle au costat 13,19 dolari, însă la această sumă s-au adăugat taxele de livrare și servicii, un bacșiș de trei dolari și o taxă de prioritate de trei dolari. În total, de pe card au fost retrași 31,43 dolari.
Jurnalistul a aflat despre tranzacție printr-o notificare primită pe telefon. Potrivit relatării sale, OpenAI a recunoscut că Operator făcuse o greșeală și nu respectase măsurile de siguranță prevăzute pentru astfel de acțiuni. Compania a anunțat că analizează situațiile în care agentul nu solicită confirmarea utilizatorului și că lucrează la îmbunătățirea mecanismelor de protecție.
Cele două episoade ilustrează probleme diferite. În cazul lui Matt Smith, agentul a introdus în coș 72 de ouă care nu fuseseră solicitate, dar comanda a fost verificată și plasată de utilizator. În cazul Operator, agentul a ajuns să efectueze o achiziție fără aprobarea explicită a persoanei care îi ceruse doar să caute o ofertă.
Când agenții AI ajung să gestioneze date personale
Riscurile nu se limitează la cumpărături greșite sau la cheltuieli neprevăzute. Agenții AI sunt dezvoltați pentru a prelua sarcini tot mai complexe și pentru a interacționa cu platforme online în numele utilizatorilor. În funcție de permisiunile primite, aceștia pot avea acces la conturi, informații personale și servicii care implică tranzacții financiare.
Un alt episod a fost relatat de Futurism pe 28 septembrie 2026. Un utilizator pe nume Matt J. Robb a susținut că agentul Muse AI al companiei Meta, folosit pentru gestionarea conversațiilor de pe Facebook Marketplace, a acceptat o ofertă pentru un produs și a transmis adresa sa de domiciliu unui potențial cumpărător, fără aprobarea lui.
Bărbatul a afirmat că persoana respectivă a ajuns ulterior la blocul său, convinsă că tranzacția fusese stabilită. Potrivit publicației americane, Meta a luat legătura cu utilizatorul după ce acesta a făcut publică întâmplarea. Și în acest caz este vorba despre relatarea persoanei implicate, nu despre concluziile unei investigații independente.
Cele trei episoade scot în evidență o problemă comună: un agent AI poate interpreta greșit instrucțiunile și poate lua decizii pe care utilizatorul nu le-a cerut. Consecințele depind însă de nivelul de acces și de autonomie pe care îl are sistemul.
O comandă cu 72 de ouă poate părea o întâmplare amuzantă. Situația devine mult mai serioasă atunci când un agent poate finaliza plăți, poate transmite adrese personale sau poate purta negocieri în numele unei persoane fără să-i ceară acordul.
Pe măsură ce aceste sisteme primesc mai multă libertate de acțiune, întrebarea nu mai este doar cât de bine pot executa sarcinile, ci și ce limite trebuie să aibă și în ce momente sunt obligate să ceară confirmarea utilizatorului.
