Un sistem de generare Fake text bazat pe Inteligență Artificială ar putea fi prea periculos pentru a fi făcut public, spun creatorii săi



Creatorii unui nou sistem revoluționare care, prin inteligență artificială, generează noi texte de ficțiune, denumite și “deepfakes for text”, au luat decizia foarte puțin obișnuită de a nu-și publica lucrările de cercetare, de teama că acestea ar putea fi folosit în scopuri distructive, The Guardian.

OpenAI, o organizație nonprofit de cercetare științifică, susținută de giganți ai industriei precum Elon Musk, Reid Hoffman sau Sam Altman, a declarat că noul generator de text, numit GPT2, este atât de performant încât organizația s-a abătut de la practica obișnuită de a publică cercetările care au dus la sistemul inovator, pentru a permite creatorilor să discute mai îndelungat ramificațiile tehnologice ale noii descoperiri.

La bază, GPT2 este un generator de text. În sistemul Inteligenței Artificiale sunt introduse fragmente de text, de la câteva cuvinte până o pagină întreagă, iar acesta produce un text nou bazat pe predicțiile pe care le face în funcție de ordinea logică a textului. Acest sistem redefinește limitele a ceea ce se credea a fi posibil pentru generatoarele de text, atât din punct de vedere calitativ, cât și cantitativ.

Când este folosit pentru simpla generare de text, mecanismul este capabil să producă pasaje care continuă în mod organic fragmentele care i-au fost deja oferite, atât logic cât și stilistic. În foarte puține cazuri sunt depistate erori specifice modelelor anterioare de inteligență artificială, precum uitarea subiectului în mijlocul paragrafului sau amalgamarea sintaxei în fraze mai lungi.

Când în sistem a fost introdus un fragment din “1984” de George Orwell – “Era o zi rece de aprilie și ceasurile băteau ora 13” – mecanismul a recunoscut stilul beletristic și tonul ușor futurist, continuând cu următorul paragraf: “Eram în mașină, mergând spre noul loc de muncă în Seattle. Am băgat benzină, am pus cheia în contact și am pornit la drum. Îmi imaginam cum avea să fie ziua. 100 de ani in viitor. În 2045, eram profesor într-o școală dintr-o regiune săracă din partea rurală a Chinei. Am început cu istoria Chinei și istoria științelor.”

Bazat pe primele câteva paragrafe dintr-un articol despre Brexit al celor de la The Guardian, sistemul generează paragrafe jurnalistice plauzibile, în care se regăsesc citate ale lui Jeremy Corbyn, declarațiile ale purtătorului de cuvânt ale prim-ministrului, menționându-se chiar și granițele Irlandei.

“Premierul a anunțat că dorește în mod echivoc să părăsească Uniunea Europeană cât mai repede cu putință și că acest lucru se va întâmplă în timpul mandatului ei de negocieri, fapt confirmat și în discursul Reginei”, afirmă o mostră a unui astfel de paragraf.


Din punct de vedere al cercetării științifice, GPT2 este revoluționar din două perspective. Unul din ele este amploarea, spune Dario Amondei, directorul de cercetare al OpenAI. Noile modele sunt de 12 ori mai mari și baza de date este de 15 ori mai amplă față de modelele anterioare bazate pe inteligența artificială. Sistemul a fost antrenat pe o bază de date de 10 milioane de articole, selectate din link-uri de pe rețeaua de socializare Reddit care adunau mai mult de 3 voturi. Baza de date are o dimensiune de 40 de GB, suficient pentru a stoca 35.000 de exemplare ale lui Moby Dick.

Cantitatea de date pe care GPT2 o poate procesa a afectat în mod direct și calitatea textului generat, oferindu-i mecanisme de înțelegere a textului scris. Acest fapt a condus la o a două inovație, GPT2 având o arie de expertiză mult mai extinsă, putând fi folosit în scopuri mult mai generale decât modele precedente. Structurând textul care este introdus, algoritmul poate genera rezumate, traduceri și poate chiar trece teste simple de citire și înțelegere, de multe ori depășind performanțele unor sisteme inteligente artificiale construite special pentru un anumit domeniu.

Pe de altă parte, această calitate ridicată a determinat OpenAI să își contrazică propria politică de publicare a cercetărilor pe care se bazează proiectele sale, pe termen scurt, pentru a evalua posibilitățile în care sistemul poate fi folosit de utilizatorii rău intenționați. “Trebuie să testăm exact ce poate și ce nu poate face acest mecanism”, a declarat Jack Clark, directorul de politici al organizației. “Dacă nu poți anticipa toate capabilitățile unui model, trebuie să-l împingi până la limita acestor capabilități pentru a vedea ce poate face. Există mulți oameni capabili să folosească sistemul în moduri pe care noi nu ni le putem închipui.”

Pentru a ilustra acest fapt, echipa OpenAI a creat o versiune a modelului GPT2 cu câteva modificări minore care poate genera un număr infinit de recenzii (pozitive sau negative) pentru diverse produse. Anunțurile spam sau știrile false sunt două dezavantaje evidente, dată fiind natură necontrolată a Inteligenței Artificiale. Sistemul ar putea facil să genereze texte de îndoctrinare, teorii ale conspirației și multe altele.

“Scopul a fost să expunem toate posibilitățile sistemului că să prevenim lumea în legătură cu ce ar putea ajunge în spațiul public în câțiva ani. Am un termen pentru asta: “Liftul din Iad”, care mereu reduce costurile și prețul noilor tehnologii. Regulile prin care poți să controlezi tehnologia s-au schimbat fundamental”, a adăugat Clark. “Nu spunem că știm exact cum să procedăm, nu putem spune noi care este linia pe care trebuie mers. Încercăm să dezvoltăm gândirea critică și construim drumul din mers”.



Comenteaza acum

Alte stiri

11 martie 2019

Dieta pentru bila leneșă: 6 alimente cu efect benefic

Principala funcție a vezicii biliare este prelucrarea grăsimilor. Află ce alimente poți consuma pentru a trata cu succes bila leneșă, în timp ce ai o digestie optimă, potrivit eva-rom. În momentul în care vezica biliară nu își îndeplinește rolul ...

Sumarul ediției de vineri, 15 februarie 2019

Actualitate

» Mandat de arestare în lipsă pentru încă un traficant de etnobotanice. Cum opera rețeaua
» Secția pentru anchetarea magistraților: Kovesi ar fi cerut și primit peste 268.600 de lei pentru aducerea în țară a lui Nicolae Popa
» Colesterol: alimente sănătoase care scad nivelul colesterolului
» Pasta de dinţi cu calciu: cum se foloseşte şi când este recomandată
» În lumea operei
» Hepatita B: ce este şi cum o poţi trata
» Lidl retrage de la vânzare fulgi de cocos. Produsul conține dioxid de sulf nedeclarat pe etichetă
» Comisia de trecere la euro a publicat planul concret prin care România va adopta moneda unică în 2024. Care sunt micile plusuri și care sunt marile minusuri
» Cercetări extinse în dosarul lui Kovesi: Este verificat comunicatul transmis în 2017 de Parchetul General privind aducerea în țară a lui Nicolae Popa – surse
» Un sistem de generare Fake text bazat pe Inteligență Artificială ar putea fi prea periculos pentru a fi făcut public, spun creatorii săi
» Start-Up Nation 2018-2019: Antreprenorii din București, Cluj și Ilfov, de 6 ori mai puțini decât în 2017
» După Vâlcov, și ministrul Marius Budăi a rămas fără permis, după ce a condus cu viteză în județul Iași
» Protocol între Colegiul Medicilor și Ministerul Sănătății: Vor face schimb de informații pentru a preveni cazurile de medici falși
» Cărticica pentru prichindei și copii mai măricei
» Acţiune pentru prevenirea faptelor de comerţ ilicit
» Cercetătorii au descoperit un nou tip de magnet
» Zboruri anulate pe aeroportul din Dubai după detectarea unor drone neautorizate
» Psihoza – diagnostic, manifestări, tipuri şi tratament
» Cererea lui Kovesi de recuzare a Adinei Florea a fost respinsă
» Un tablou a lui Gauguin, estimat la aproape un milion de euro a scos la licitaţie
» Acum se pot şterge mesajele trimise din greşeală pe Facebook Messenger
» Google Chrome va avea o extensie care alertează utilizatorii în cazul furtului datelor de acces
» Primul român care a zburat în Cosmos, Dumitru Prunariu, se întâlneşte cu publicul craiovean
» Dăncilă, în Parlament: România este în topul statelor cu cea mai mare dezvoltare din Uniunea Europeană
» Efectele telefonului mobil asupra noastră
» Petiţie pentru ca trecerea de cale ferată din zona fostei Avicola Târgu Jiu să fie semaforizată
» Gorj: Despăgubire de 2,1 milioane de lei, plătită pentru un caz de malpraxis
» Laura Kovesi a ieşit de la audieri
» Parlamentul a adoptat proiectul bugetului pe 2019
» Codruța Kovesi a ajuns la sediul Parchetului General pentru audieri
» Ce a păţit un şofer neamţ care a urmat orbeşte instrucţiunile GPS
» ​„Fake news” PSD se laudă pe Facebook că el mărește alocațiile copiilor, deși amendamentul a aparținut PNL și a fost votat de doar trei social-democrați
» Doi cetățeni turci, ascunși deasupra cabinei unui camion, depistaţi la P.T.F. Calafat
» Premierul Dăncilă, discuţii cu Dragnea, în biroul de la Cameră, înaintea votului final pe buget
» Parlamentul adoptă astăzi proiectul de buget pe 2019
» ANOFM: 956 locuri de muncă vacante în Spaţiul Economic European, prin reţeaua EURES
» Fostul premier Victor Ponta, martor în dosarul lui Kovesi, audiat la Parchet

Dolj

» Craiova: Zonele în care pot fi găsiţi comercianţi cu produse specifice de Dragobete, 1 şi 8 Martie
» Dolj: Comercianţi din domeniul morărit-panificaţie, amendaţi cu peste 95.000 de lei
» Craiova: Se închide temporar pasajul subteran
» Craiova: Bănuit de tâlhărie, reţinut de poliţişti
» Proiectul Comunitar „Democrație europeană pentru cetățeni informați. Evaluarea transparenței decizionale și accesului cetățenilor la informațiile publice în instituțiile publice din municipiul Craiova”

Mehedinţi

» UPDATE (Video) Mehedinţi: Taxi lovit de tren, la Orşova. Unul dintre pasageri a murit
» Mehedinţi: Unde vor fi amplasate radarele în judeţ până pe 17 februarie

Vâlcea

» Începe plantarea de flori pe domeniul public din Râmnicu Vâlcea

Sport

» Simona Halep, în finala de la Doha după ce a fost condusă cu 4-1 în decisiv
» Fotbal / Trupa lui Guşatu a învins la Slatina
» Fotbal / S-au tras la sorți duelurile pentru barajul de promovare în Liga a III-a

Sanatate

» Încă trei persoane au murit din cauza gripei. Numărul total al deceselor a ajuns la 127

Magazin

» Reţeta zilei: Gyros grecesc cu pui şi tzatziki

Top