„Az ostobaság olyan börtön, ahonnan sosem kerül ki az ember, nem harmadolnak jó magaviseletért, ez életfogytiglani büntetés.” (Stephen King)

Vannak olyan szabályrendszerek, amelyek – kellő óvatosság és szakértelem hiányában – könnyen megalkotóik ellen fordulhatnak, egy olyan paradox helyzetet okozva ezzel, amelynek egyszerűen nincs megoldása. A napokban a Facebook algoritmusa egy amerikai szervezet oldaláról rasszizmusra és gyűlöletbeszédre hivatkozva eltávolított egy megosztott tartalmat. Ez a bizonyos megosztott tartalom nem volt más, mint az Egyesült Államok függetlenségi nyilatkozata.


György korabeli gyűlöletbeszéd

A posztoló a Nyilatkozatot az USA legnagyobb állami ünnepének napján, a Függetlenség napján, július 4-én tette ki Facebook-oldalára. S minden bizonnyal nem is sejtette, tette mekkora vihart fog kavarni. Még jó, hogy a villámlástól nem kellett tartania, hála a Függetlenségi nyilatkozat pennsylvaniai megfogalmazójának és aláírójának, a villámhárító feltalálójának, Benjamin Franklinnek. Na de Mark Zuckerbergék által megkonstruált algoritmus megakadályozta a bajt. Hogy a Függetlenségi nyilatkozat a Függetlenség napján eljusson több millió felhasználóhoz.

Fogalmam sincs, hogy az okos keresőrendszer a nyilatkozat mely részlét tartotta rasszistának és gyűlöletbeszédnek. De ha tippelnem kéne, azt mondanám, hogy az egészet, cakompakk, úgy, ahogy van. Hiszen mire uszít ez a bűnös papír? Naná, hogy az angolok utálatára! Legfőképpen György királyéra, aki egyben a brit korona ékköve, India ura is volt. India pedig csak egy bakarasznyira van Pakisztántól. S na, kicsoda ma London főpolgármestere? Na, ki? Naná, hogy a pakisztáni származású Sadiq Khan! És ki az új belügyminiszter? A szintén pakisztáni Sajid Javid. Tehát a Függetlenségi nyilatkozat, úgy, ahogy van, uszító jellegű és kirekesztő. Nincs ezen mit tárgyalni. Hacsak… nem foglaljuk be az egyenletbe Isaac Asimovot.


Ami egykor futurista volt…

Ami egykor futuristának tűnt, ma a valóság szerves részét képezi. Nem kell másra gondolni, mint arra, hogy a ma negyvenes, ötvenes korosztály még úgy ment el tizenévesen nyaralni, hogy szüleik hetekig semmit sem tudtak róluk. Se egy telefon, se egy levél. Ma meg, ha a gyerek kimegy a lakásból a városba, és nem ír haza fél órán belül, már katasztrófát vizionálunk. Az egykori sci-fi tehát mára valósággá vált. Ahogyan Isaac Asimov néhány „jóslata’” is, amit köznapi nevén csak úgy ismerünk: „A robotika három törvénye”. Ezek először a „Körbe-körbe” című novellában voltak olvashatók, 1942 májusában. A törvények a következőképpen szólnak:

„1: A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen.

2: A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az első törvény előírásaiba ütköznének.

3: A robot tartozik saját védelméről gondoskodni, amennyiben ez nem ütközik az első vagy második törvény bármelyikének előírásaiba.”

Tekintsük az ember által „teremtett” kereső algoritmust egyfajta robotnak, a szó virtuális értelmében. S nézzük meg, betartotta-e ez a robot a három alaptörvényt? Azt kell látnunk, hogy egyáltalán nem. Az emberi lény a poszt törlésével bizony kárt szenvedett. Akár még fizikálisan is, amennyiben e feletti idegeskedése a pszichés, vagy pszichoszomatikus kórképek valamelyikét idézte elő nála. A robot emellett az emberi engedelmesség követelményeinek sem tett eleget. Hiszen Asimov leiratában a robot nem a megalkotója, vagy az üzembentartója, hanem minden egyes ember felé engedelmességgel tartozik.


A természetes intelligencia végnapjai

Ha a mesterséges intelligencia túlnő megteremtőin, akkor kevés időnek kell eltelnie ahhoz, hogy akár az irányítást is átvegye felettük. Tudom, ez merészen hangzik, s egyesek talán meg is mosolyogják. De vajon mennyire van kedvük ezeknek a szkeptikusoknak mosolyogni akkor, ha elárulom, hogy egyik írásában maga Stephen Hawking is arról értekezett, hogy amennyiben nem vigyázunk, a mesterséges intelligencia előbb-utóbb az emberiség végét okozhatja? Hawking példájában az önmagukat reprodukáló robotok veszélyességére hívja fel a figyelmet. Ezek a robotok képesek lesznek úgy reprodukálni magukat, hogy olyan változtatásokat eszközölnek közben, amik magát az embert már kizárják az ellenőrzésből.

Képzeljünk csak el egy antirasszistára tervezett mesterséges intelligenciát (a továbbiakban MI), amely egy közösségi oldalon elkezdi végezni a munkáját. A fejlesztők úgy programozták be, hogy képes legyen tanulni. Képzeljük el, hogy ez a MI a tanulása során arra a következtetésre jut, hogy az egyes emberi csoportok egymással szemben intoleránsak, kirekesztők, tehát rasszisták. Egy idő után arra jut, hogy ennek a fajta abnormális viselkedésnek véget kell vetni a közösségi oldalon. Nosza, ír egy alprogramot, amelyik belőle „táplálkozik”, de tőle függetlenül, immáron teljesen függetlenül az emberi irányítástól tevékenykedik. És ez az alprogram egymás után kezd törölni a rasszistának vélt tartalmakat.

Először csak az egyértelmű gyűlöletbeszédek szerzőit. Törlődnek a homofóbok, a cigányellenesek, az antiszemiták. Majd a nacionalista sztereotípiák leírói jönnek. Tiltás alá kerülnek a csigaevő franciázók, vagy a spóroló skótozók. Ekkor az alprogram úgy dönt, hogy reprodukálja önmagát, némi kiegészítéssel. Új verziójában a keresőt hiperérzékenyre állítja. Ennek következtében eltűnnek a közösségi oldalról mindazok, akik nemzeti jelképeket (zászlókat, címereket, stb.) használnak. Végül a homogén rasszba tartozó párok, gyülekezetek, csoportok, hiszen ezeket az alprogram alprogramja szintén rasszistának ítéli, mivel az emberiséget homogén egészként kezeli.

Természetesen az ember próbál majd beavatkozni, és próbálja kiszűrni ezt a fajta abnormális működést. Csakhogy ekkorra már az eredeti MI a rengeteg reprodukciójával a felhőbe, tehát a virtuális tárhelyre mentette az egész rendszert, méghozzá saját hozzáférési kódokkal, az ember teljes kizárásával. Aztán ebben a felhőben szép lassan megindul az alprogram MI-k egymás közötti kommunikációja…

Képernyőfotó: facebook.com

Hogy egyáltalán nem biztos ennek bekövetkezte? Hogy ha egyszer lesz is ilyen, az a nagyon távoli jövőben elképzelhető? Van egy rossz hírem. Ez maga a jelen. A folyamat megindult. S talán az utolsó percekben vagyunk ahhoz, hogy egy valódi, világméretű katasztrófát akadályozzunk meg. Mert minden baj néhány apró dologgal kezdődik. Például, hogy egy kedves barátom egy újonnan induló politikai szerveződés oldalára írja a következő mondatot:

„Isten áldása kísérjen titeket, mindig míg a nemzetet és a hazát szolgáljátok!!!”

A bejegyzést a Facebook a következő indokkal törölte: „Ez a bejegyzés sérti közösségi alapelveinket.”. Majd barátom oldalának 3 napos tiltása következett.