Olvasási idő: 5 perc

Milyen következményei vannak annak, hogy egy olyan világban élünk, amit főként a férfiaknak terveztek? Hogyan sajátítják el előítéleteinket a mesterséges intelligenciára épülő rendszerek? Hogyan befolyásolja a nemi egyenlőtlenség a társadalom dinamikáját? A diszkrimináció okozta szociális problémákról és azok potenciális megoldásairól beszélgetett Karen de Sousa Pesse digitális tanácsadó és dr. Csató Lehel, a Babeş-Bolyai Tudományegyetem Matematika és Informatika Karának professzora. Az október 30-i nyilvános előadás a Transylvania Lectures sorozat részeként valósult meg az MCC kolozsvári központjában.

A technológia, mérnöki tudományok és matematika (STEM) területén Karen Pesse neve világszerte ismert. Több prominens vállalat, köztük a Microsoft is, profitált szaktudásából. Mint sokszínűségi és nemi egyenlőségi aktivista, azon munkálkodik, hogy felhívja a figyelmet a kódok és algoritmusok világában létező kockázatokra. Emellett a DiversiBe nevű szociális projekt vezetője is, amelynek célja, hogy megoldásokat találjon eddig kezeletlen társadalmi problémákra úgy, hogy közben a Belgiumban élő nők, kisebbségek és marginalizált csoportok számára munkalehetőséget biztosít. A kolozsvári előadáson a szakértőt Soós Dávid, az MCC Kolozsvári Egyetemi Programjának diákja mutatta be.

A STEM-szakmák napjainkban hagyományosan férfiak által dominált területnek számítanak, azonban ez nem volt mindig így. Az 1950-es években úgy gondolták, hogy a számítástechnika, sőt egyéb meglepő szakmák, mint a hajók karbantartása nőknek való feladat, mivel mindkét munkához aprólékos, pontos és részletorientált karakterekre volt szükség. A nők fokozatosan szorultak ki a dinamikusan fejlődő technológiai szektorból: a magasabb fizetések több férfit, katonai szolgálatból visszavonulót vonzottak be, ráadásul az egyetemeken sem volt elérhető a nők számára az oktatás. 

Karen Pesse úgy véli, hogy a folyamat alakulásában a nevelésünk során átadott előítéletek is nagy szerepet játszhattak. Ha már gyerekként megmondják, milyennek kell lenned, hogy Barbie babával szabad játszanod vagy autókkal, az már korlátozhat a jövőben. „Nem lennék mérnök, ha nem lett volna fiútestvérem” – vallott ambivalens érzelmekkel gyermekkoráról, ugyanis azon lányok közé tartozott, akik csak úgy kaptak fiúsnak ítélt játékokat, ha testvérüktől vették kölcsön.

A nemi elfogultság kezelése kulcsfontosságú a magánéletben és minden olyan ágazatban, ahol a nők alulreprezentáltak. Egy olyan világ, ahol csak férfiak irányítanak, a gazdaság és a társadalom számára is hátrányokkal járna. Az előadó két létező precedenssel, következménnyel példálózott:

  • A gépjárművek biztonságosságát 2019-ig férfi bábukon tesztelték. Ha a balesetek nőkre gyakorolt hatásait akarták szimulálni, egy alacsonyabb férfi manökent használtak, amelyet az anyósülésen helyeztek el. Ennek eredményeként a nők 73 százalékkal nagyobb mértékben sérültek meg, és 17 százalékkal többen vesztették életüket a balesetek során.
  • A Torontói Egyetem kutatása, amely 1,3 millió beteg és 3000 sebész adatait vizsgálta, arra a következtetésre jutott, hogy a nők halálozási aránya a műtőasztalon 32 százalékkal magasabb, ha férfi orvos végzi az operációt.

Diszkriminációra és megkülönböztetésre épülő társadalmunk tükrének nevezte Karen Pesse a mesterséges intelligenciát. Azok az adatok, amelyeket az algoritmusokba kódolunk, amelyeket összegyűjtenek rólunk, eleve szubjektívek. Ezért történhet meg, hogy chatbotok tudattalanul tanulnak el nem megfelelő magatartásokat, válnak 4 óra alatt rasszistákká, pszichológusból öngyilkosságra buzdítókká. A digitális tanácsadó felhívta a figyelmet arra, hogy a rejtett diszkrimináció gyakran csak ismétlődő esetek során válik nyilvánvalóvá. Néha a vállalatok csak akkor szereznek tudomást róla, amikor az érintettek panaszt tesznek. Erre példaként hozta fel az Apple Card rendszerét, amely jelentős mértékben eltérő hitelajánlatokat kínált egy házaspárnak. Annak ellenére, hogy egy bankszámlán és lakáson osztoztak, a férj hússzor nagyobb összeget kapott volna.

A két szakemberva beszélgetés végén azon elmélkedett, hogy hogyan lehetne etikusabbá, biztonságosabbá változtatni az információs technológiát. Karen de Sousa Pesse a mesterséges intelligencia filterezése mellett kampányol. Úgy véli, bizalmi rétegekkel, utólag korrektúrázott kódokkal, nemtől mentes információk betáplálásával lehetne menedzselni a felvetődött problémákat. Dr. Csató Lehel a megelőzésre, a tudatosításra helyezte a hangsúlyt. Szerinte a mesterséges intelligencia megtanítható a jó és rossz döntések logikai megkülönböztetésére, ám a kódolási folyamat a végtelenségig tartana, és még mindig fennáll az esélye annak, hogy olyan események történnek, amelyekre nem számítottak. 

Kettejük véleménye megegyezett a jövőt illetően: úgy vélik, az elkövetkező húsz év eseményeit nehéz megjósolni. Karen Pesse humorosan azt mondta, hogy az MI-szakemberek a modern kor filozófusai, hiszen folyamatosan gondolkodnak a jövőről. Ugyanakkor egyik szakember sem mer konkrét jóslatokba bocsátkozni, mivel ez egy fiatal terület, és a fejlődés gyorsasága miatt teljesen bizonytalan.