Transylvania Lectures: Cât de multă încredere să avem în inteligența artificială?

Cartea lui Emmanuel Maggiori, Smart Until It's Dumb: Why artificial intelligence keeps making epic mistakes (and why the AI bubble will burst) a fost publicată anul trecut. În ea, autorul expune așteptări nerezonabile, practici dubioase și dezinformări despre inteligența artificială. Inginerul de software stabilit la Londra lucrează în industria IA de 10 ani și are misiunea de a sensibiliza publicul cu privire la mecanismele înșelător de simple din spatele realizărilor remarcabile ale IA și de a expune adevărurile ascunse ale industriei. La evenimentul din Cluj-Napoca, Ákos Péter, student la informatică și membru al Programului Universitar MCC, a urat bun venit participanților. Moderatoarea discuției a fost Borbála Hatházy, project manager în cadrul echipei de relații internaționale a MCC.

În primul rând, speakerul a subliniat unul dintre principalele defecte ale ChatGPT, care pare de nerezolvat până acum: halucinația. Aceasta se referă la cazurile în care IA creează inexactități plauzibile sau informații false. Dar de ce halucinează IA? În timp ce oamenii au o cunoaștere cuprinzătoare a modului în care funcționează lumea, inteligența artificială actuală învață să îndeplinească sarcini prin exemple: să traducă din documente scrise de oameni, să introducă text predictiv din propoziții găsite pe internet și să conducă prin copierea deciziilor luate de șoferi umani. IA poate învăța scurtături pentru a imita munca în loc să învețe „modelul lumii”, astfel încât nu poate face față bine situațiilor neașteptate și lucrurilor neobișnuite.

Din păcate, nu vom scăpa prea curând de halucinații. Ele nu sunt erori care pot fi remediate, ci o caracteristică așteptată a metodologiei actuale de învățare automată și cauzează probleme în proiectele reale, în curs de desfășurare. Ele sunt vizibile în special în cazul mașinilor autonome, ucid industria respectivă. Dar s-a întâmplat că un avocat a folosit ChatGPT în instanță și a citat cazuri false. Expertul spune că este inutil să ne așteptăm ca problema halucinațiilor să se rezolve rapid. Trebuie găsită o nouă metodă de inteligență artificială, mai apropiată de inteligența generală artificială (AGI), pentru a elimina problema.

Emmanuel Maggiori a precizat că IA poate fi foarte utilă pentru a ne facilita munca, dar este important să evaluăm nevoile: cât de complexă este sarcina, ce dorește clientul, sunt halucinațiile în regulă cu sarcina noastră? De exemplu, traducerea recenziilor hoteliere este ok, nu se așteaptă ca acestea să fie perfecte; dar pentru documente juridice sau medicale, este esențial. Articolele de blog axate pe SEO pot fi scrise de AI, dar un text excelent, captivant și valoros necesită experiența jurnalistului, cercetarea, atmosfera și unicitatea pe care le transmite. Uneori, munca IA-ului este bună, dar nu excelentă. Iar uneori, o calitate acceptabilă este de ajuns - acestea sunt locurile de muncă pe care IA le poate și le va înlocui. „Unele locuri de muncă vor fi afectate, dar tranziția va fi mai ușoară decât spun unii. Pentru a vă asigura un loc de muncă pentru viitor, alegeți o carieră în care există o diferență între bun și excelent și în care excelența este apreciată”, a adăugat invitatul.

Este important să avem o imagine realistă a capacităților și limitelor inteligenței artificiale. Părerile sunt foarte împărțite: unii o compară cu revoluția industrială, alții îi văd doar partea întunecată, dar imaginea este mai nuanțată. Nu va elimina toate locurile de muncă, dar pe unele le va face irelevante. Nici nu trebuie să ne temem de ea, dar pericolele trebuie să fie înțelese, iar încrederea excesivă și investițiile uriașe trebuie să fie mai bine gândite. Există multă nebunie în domeniul tehnologiei și mult entuziasm, dar vine o zi în care trebuie să plătești facturile. Deci, se va sparge bula? S-ar putea să dureze un an sau doi până când companiile vor vedea că nu generează bani așa cum se așteptau.