Olvasási idő: 3 perc
Hibái ellenére dollármilliókat fektetnek a mesterséges intelligencia iparágába, és aggasztó, mennyire megbíznak benne az emberek – fejtette ki véleményét az MI hátulütőiről és határairól dr. Emmanuel Maggiori MI-szakértő, informatikus, író a Vibe Koliban július 7-én. A meghívottal Péter Ákos informatikushallgató, az MCC Egyetemi Programjának diákja beszélgetett.
Az előadó felhívta a figyelmet a mesterséges intelligencia egyik nagy, és egyelőre javíthatatlannak tűnő hibájára, a hallucinációra. Ez azért jelent gondot, mert az MI hihető módon tálalja a hamis vagy pontatlan információt, mintha egyértelmű, valós választ adna. A szakember példaként elmondta, az ő kérdésére a ChatGPT azt válaszolta, hogy egy anakonda nem férne be egy bevásárlóközpontba. Ha csupán szórakozásból kérdezzük a felületet, vagy rögtön kiszúrjuk a ferdítést, nem jelent gondot, de az is előfordult már, hogy egy ügyvéd a ChatGPT-t követve nem létező ügyekre hivatkozott, az önvezető autók esetében pedig különösen látványosak, sőt veszélyesek lehetnek a hibák.
De egyáltalán miért hallucinál az MI? Míg az embereknek átfogó ismeretük van a világ működéséről, a jelenlegi mesterséges intelligencia csupán példákból tanulja a feladat végrehajtását: a fordítást emberek által írt dokumentumokból, a prediktív szövegbevitelt az interneten talált mondatokból, a vezetést pedig emberi sofőrök döntéseinek másolásával sajátítja el. Lerövidíti a tanulási folyamatot, a munkavégzést imitálva viszont nem látja át a világ működését, és nem tudja kezelni a váratlan helyzeteket.
Sajnos a hallucinációkra egyelőre nincs megoldás. Nem javítható hibák, bugok, hanem a gépi tanulás várható velejárói, és valós, futó projektekben is gondokat okoznak. Emmanuel Maggiori szerint hiába várjuk, hogy a hallucináció kérdése hamar megoldódjon magától. A probléma kiküszöböléséhez új MI-módszert kell találni, amely közelebb áll a mesterséges általános intelligenciához (AGI).
Az előadó azt tanácsolta, a mesterséges intelligencia nagyon is jól használható munkánk könnyítésére, de fontos felmérni az igényeket: mennyire komplex feladatról van szó, mit szeretne az ügyfél, zavart okoz-e az esetleges hallucináció? Például szállodai értékelések esetén nem elvárás a tökéletes fordítás, egy jogi vagy orvosi dokumentum esetén viszont elengedhetetlen. A semmitmondó, kattintásvadász cikkeket megírhatja az MI, egy kiváló, izgalmas és értékes szöveghez azonban szükség van az újságíró tapasztalatára, kutatásaira, az általa közvetített hangulatra, egyediségre. Vannak esetek tehát, amikor az elfogadható minőség is megfelel – az ilyen munkákat, munkahelyeket tudja és fogja helyettesíteni az MI.
Emmanuel Maggiori Smart Until It's Dumb: Why artificial intelligence keeps making epic mistakes (and why the AI bubble will burst) című könyve tavaly jelent meg. Ebben a szerző ésszerűtlen elvárásokat, kétes gyakorlatokat és hamis információkat leplez le a mesterséges intelligenciával kapcsolatban. A Londonban élő szoftvermérnök 10 éve tevékenykedik a mesterséges intelligencia iparágában, és küldetésének tekinti, hogy az MI mögött meghúzódó, megtévesztően egyszerű mechanizmusokra, valamint a túlzott bizalom veszélyeire is felhívja az emberek figyelmét.
