Harari szerint mindent felülírhat a mesterséges intelligencia
„Idegen intelligencia” és a történelem vége
A mesterséges intelligencia (MI vagy AI) kifejlesztésével az emberiség belenézett a szakadékba, és a mélység – hamarosan – visszanéz majd rá. Nietzsche szavait parafrazálva ragadható meg leginkább Yuval Noah Harari legújabb könyvének mondanivalója. Mit üzen nekünk Orbán Viktor egyik kedvenc szerzője az információs hálózatok szerepéről az emberiség történelme során és hogyan írhat mindent felül az AI? Recenziónk következik.
Yuval Noah Harari köztudottan Orbán Viktor egyik kedvenc szerzője, ezért legújabb könyve, a Nexus: A Brief History of Information Networks from the Stone Age to AI, megjelenése is jelentős sajtóvisszhangot kapott Magyarországon. De miről is ír Harari legújabb művében? Az izraeli történész ezúttal nem kisebb feladatra vállalkozott, mint hogy átfogó elemzést nyújt az információs hálózatok szerepéről az emberi történelem során, és ismét nagyszabású perspektívából vizsgálja az emberiség történetét, arra összpontosítva, hogy a technológia és az információ hogyan formálja a társadalmakat és milyen kihívásokat hoz a mesterséges intelligencia korszakának beköszöntése.
A könyv egyik központi üzenete, hogy az információ mindig is meghatározó szerepet játszott a társadalmak fejlődésében, legyen szó a Biblia kanonizációjáról vagy a modern AI technológiák térnyeréséről. Harari úgy véli, hogy az információs hálózatok terjedése nemcsak a tudás átadását, hanem a hatalom centralizációját is elősegítette, mely folyamat napjainkban az AI technológiák révén új szintre lép. Az Nexus egyik fő kérdése az, hogy a mesterséges intelligencia képes-e „meghackelni az emberi civilizáció operációs rendszerét”, azaz olyan szintű autonómiát elérni, amely túlmutat az emberi irányításon, és fenyegetést jelenthet a társadalmi struktúrákra.
Harari kifejti, hogy a mesterséges intelligencia nem csupán egy új eszköz, hanem egy új típusú „intelligencia”, amely saját döntéseket hozhat és önálló narratívákat alkothat. Ez radikálisan eltér az olyan korábbi technológiai áttörésektől, mint a gőzgép vagy a számítógép, amelyek mindig az emberi irányítás alatt álltak. Az MI azonban „idegen intelligenciaként” viselkedhet, ami potenciálisan eltávolíthatja az embereket a döntéshozatali folyamatokból, sőt, akár új, saját célokat is kitűzhet. Ezt a gondolatot Harari az AlphaGo példájával illusztrálja, amely 2016-ban legyőzte a világ egyik legjobb Go-játékosát, és olyan lépéseket tett, amelyeket még a fejlesztők sem tudtak teljesen megmagyarázni.
A Nexus egyik központi gondolata az, hogy az AI nem egyszerűen egy új technológiai eszköz, hanem egy „új istenséghez” hasonlóan működhet, amely képes lehet új „valóságokat” teremteni. Harari az „alien intelligence” fogalmat használja, kiemelve, hogy az AI nem az emberi értelemhez hasonlóan gondolkodik, mivel nem érzékel érzelmeket, örömet vagy bánatot, amikor például egy sakkszoftver nyer vagy veszít. Az AI képes lehet célokat követni és problémákat megoldani anélkül, hogy bármilyen emberi tudatossággal rendelkezne. Harari ezzel arra figyelmeztet, hogy az AI teljesen idegen módon kezelheti a döntéshozatalt, és akár az emberi tudatosság kiiktatásához is vezethet, mivel a gépek logikája teljesen eltér az emberi együttérzéstől és empátiától.
Az Nexus emellett hangsúlyozza az információs hálózatok kettős természetét: miközben lehetőséget teremtenek a nagyszabású együttműködésre és a haladásra, magukban hordozzák a félretájékoztatás és a manipuláció veszélyét is. Harari kritikus az AI által felerősített dezinformációs kampányokkal szemben, melyek befolyásolhatják a politikai döntéshozatalt és alááshatják a demokratikus rendszereket. Az AI-ra vonatkozó nemzetközi szabályozások szükségességét is felveti, mivel a technológia túl gyorsan fejlődik ahhoz, hogy a jelenlegi intézmények lépést tudjanak tartani.
A könyv pozitívumaként említhető, hogy Harari a történelmi párhuzamok segítségével teszi érthetővé a mai technológiai változásokat, és rávilágít arra, hogy az emberi történet során hogyan formálták az információs hálózatok a hatalmat és a társadalmi rendet. Ugyanakkor kritikusai szerint a könyv időnként túlságosan nagy ívű állításokat tesz, amelyek összekapcsolnak olyan jelenségeket, amelyek között a kapcsolatok nem mindig egyértelműek. Ennek ellenére az Nexus vitathatatlanul izgalmas gondolatokat kínál a mesterséges intelligencia és az emberi civilizáció jövőjéről, különösen az AI által jelentett fenyegetések fényében.
Az Nexus olvasása elgondolkodtató élmény. Arra ösztönöz, hogy újragondoljuk a technológia és az információs hálózatok szerepét a világunkban. A könyv Harari jellegzetes, provokatív stílusában arra hívja fel a figyelmet, hogy bár az emberiség „okos”, a valódi bölcsesség, amely elvezethetne minket egy fenntartható jövő felé, még mindig hiányzik. Több ez megint, mint történelmi elemzés vagy jövőkutatás. Harari aggodalma az, hogy az AI technológia felügyelet nélküli fejlesztése súlyos etikai és társadalmi kihívások elé állíthat minket, mivel a „gépi intelligencia” nem fog követni emberi erkölcsi normákat, így az AI-alapú rendszerek akár el is dönthetik az emberi tudatosság szükségtelenségét, megnyitva ezzel az utat az emberi központú történelem végének lehetősége előtt.
