Olvasási idő: 4 perc
A mesterséges intelligencia óriásira nőtt iparágának rejtett valóságairól, hátulütőiről és a túlzott bizalom veszélyeiről beszélt az MCC Transylvania Lectures sorozatának április 24-i eseményén dr. Emmanuel Maggiori MI-szakértő, informatikus, szerző. Hibái ellenére dollármilliókat fektetnek bele, és nagymértékű népszerűsítés zajlik, pedig a hatalmas MI-buborék hamarosan kipukkadhat.
Dr. Emmanuel Maggiori Smart Until It's Dumb: Why artificial intelligence keeps making epic mistakes (and why the AI bubble will burst) című könyve tavaly jelent meg. Ebben a szerző ésszerűtlen elvárásokat, kétes gyakorlatokat és hamis információkat leplez le a mesterséges intelligenciával kapcsolatban. A Londonban élő szoftvermérnök 10 éve tevékenykedik a mesterséges intelligencia iparágában, és küldetésének tekinti, hogy az MI mögött meghúzódó, megtévesztően egyszerű mechanizmusokra, valamint a túlzott bizalom veszélyeire is felhívja az emberek figyelmét. A kolozsvári eseményen Péter Ákos informatikushallgató, az MCC Egyetemi Programjának diákja köszöntötte a résztvevőket, a meghívottat Hatházy Borbála, az MCC nemzetközi kapcsolatok csapatának projektmenedzsere kérdezte a témával kapcsolatban.
Az előadó először is felhívta a figyelmet a ChatGPT egyik nagy, és egyelőre javíthatatlannak tűnő hibájára, a hallucinációra. Ez olyan esetekre utal, amikor az MI hihető pontatlanságokat vagy hamis információkat alkot. De egyáltalán miért hallucinál az MI? Míg az embereknek átfogó ismeretük van a világ működéséről, a jelenlegi mesterséges intelligencia csupán példákból tanulja a feladat végrehajtását: a fordítást emberek által írt dokumentumokból, a prediktív szövegbevitelt az interneten talált mondatokból, a vezetést pedig emberi sofőrök döntéseinek másolásával sajátítja el. Lerövidíti a tanulási folyamatot, a munkavégzést imitálva viszont nem látja át a világ működését, és nem tudja kezelni a váratlan helyzeteket.
Sajnos egyhamar nem szabadulunk a hallucinációktól. Nem javítható hibák, bugok, hanem a gépi tanulás várható velejárói, és valós, futó projektekben is gondokat okoznak – különösen látványosak például az önvezető autók hibáiban, vagy az is előfordult már, hogy egy ügyvéd a ChatGPT-t követve nem létező ügyekre hivatkozott. A szakember szerint hiába várjuk, hogy a hallucináció kérdése hamar megoldódjon magától. A probléma kiküszöböléséhez új MI-módszert kell találni, amely közelebb áll a mesterséges általános intelligenciához (AGI).
Emmanuel Maggiori azt tanácsolta, a mesterséges intelligencia nagyon is jól használható munkánk könnyítésére, de fontos felmérni az igényeket: mennyire komplex feladatról van szó, mit szeretne az ügyfél, zavart okoz-e az esetleges hallucináció? Például szállodai értékelések esetén nem elvárás a tökéletes fordítás, egy jogi vagy orvosi dokumentum esetén viszont elengedhetetlen. A semmitmondó, kattintásvadász cikkeket megírhatja az MI, egy kiváló, izgalmas és értékes szöveghez azonban szükség van az újságíró tapasztalatára, kutatásaira, az általa közvetített hangulatra, egyediségre. Vannak esetek tehát, amikor az elfogadható minőség is megfelel – az ilyen munkákat, munkahelyeket tudja és fogja helyettesíteni az MI.
Fontos valós képet alkotnunk a mesterséges intelligencia képességeiről és határairól. A vélemények nagyon megoszlanak: egyesek az ipari forradalomhoz hasonlítják, mások csak a sötét oldalát látják, de ennél árnyaltabb a helyzet. Nem fog minden munkahelyet eltörölni, de egyeseket irrelevánssá tesz. Ugyanígy félni sem kell tőle, de tisztában kell lenni a veszélyekkel, a túlzott bizalmat és hatalmas befektetéseket pedig jobban átgondolni.
