Reading time: 3 minutes
În ciuda defectelor sale, se investesc milioane de dolari în industria inteligenței artificiale, iar nivelul de încredere pe care oamenii îl au în aceasta este îngrijorător, a declarat expertul în inteligență artificială, informaticianul și autorul Dr. Emmanuel Maggiori, care a vorbit despre dezavantajele și limitele inteligenței artificiale la Vibe Festival pe 7 iulie. Acestuia i s-a alăturat în discuție Ákos Péter, student la informatică și membru al Programului Universitar MCC.
Speakerul a atras atenția asupra unuia dintre defectele majore, și până acum aparent incorigibile, ale inteligenței artificiale: halucinația. Aceasta este o problemă deoarece IA prezintă informații false sau inexacte într-un mod credibil, ca și cum ar da un răspuns clar și real. Ca exemplu, el a spus că ChatGPT i-a spos odată că un anaconda nu ar încăpea într-un centru comercial. A pune o întrebare pe interfață pentru distracție sau a detecta imediat o reprezentare eronată nu este o problemă, dar, de exemplu, odată un avocat a urmărit ChatGPT și a făcut referire la cazuri inexistente, iar în cazul mașinilor autonome, erorile pot fi deosebit de spectaculoase și chiar periculoase.
Dar de ce are IA halucinații? În timp ce oamenii au o cunoaștere cuprinzătoare a modului în care funcționează lumea, inteligența artificială actuală învață să îndeplinească sarcini prin exemple: să traducă din documente scrise de oameni, să introducă text predictiv din propoziții găsite pe internet și să conducă prin copierea deciziilor luate de șoferi umani. IA poate învăța scurtături pentru a imita munca în loc să învețe „modelul lumii”, astfel încât nu poate face față bine situațiilor neașteptate și lucrurilor neobișnuite.
Din păcate, nu există încă o soluție pentru halucinații. Acestea nu sunt bug-uri corectabile, ci o caracteristică așteptată a metodologiei actuale de învățare automată și cauzează probleme în proiectele reale, în curs de desfășurare. Expertul spune că este inutil să ne așteptăm ca problema halucinațiilor să se rezolve rapid. Trebuie găsită o nouă metodă de inteligență artificială, mai apropiată de inteligența generală artificială (AGI), pentru a elimina problema.
Emmanuel Maggiori a sfătuit că IA poate fi foarte utilă pentru a ne facilita munca, dar este important să evaluăm nevoile: cât de complexă este sarcina, ce dorește clientul, este posibila halucinație derutantă? De exemplu, o traducere perfectă nu este necesară pentru o recenzie de hotel, dar este esențială pentru un document juridic sau medical. Un articol clickbait fără sens poate fi scris de AI, dar un text captivant și valoros necesită experiența jurnalistului, cercetarea, atmosfera și unicitatea pe care le transmite. Așadar, există cazuri în care o calitate acceptabilă este bună - acestea sunt joburile pe care IA le poate înlocui și le va înlocui.
Cartea lui Emmanuel Maggiori, Smart Until It's Dumb: Why artificial intelligence keeps making epic mistakes (and why the AI bubble will burst), a fost publicată anul trecut. În ea, autorul expune așteptări nerezonabile, practici dubioase și dezinformări despre inteligența artificială. Inginerul de software stabilit la Londra lucrează în industria IA de 10 ani și are misiunea de a sensibiliza publicul cu privire la mecanismele înșelător de simple din spatele realizărilor remarcabile ale IA și de a expune adevărurile ascunse ale industriei.
