Hirdetés

Ami közhellyé válik, az gyakran abban az esetben is unalmassá lesz, ha voltaképp igaz, és a sok ismétléstől a tényszerűsége és igazságtartalma fikarcnyit sem csökkent. De hát az emberi elme ilyen. Eredetiségre törekszik – tisztelet, pontosabban tiszteletlenség a kivételnek –, és ismeri azt az érzést, hogy unni valamit.

Nos, ezredszer látom azt a mémet, hogy Orwell az 1984-et nem használati utasításnak szánta, hanem figyelmeztetésnek. De A. C. Clarke sem annak szánta a 2001: Ürodüsszeiát és benne a nagy számítógépet, ami a saját túlélése érdekében elkezdett hazudozni. Esküszöm, néha eltöprengek, hogy mi mindent megírtak már, de falra hányt borsó. Mintha az emberiség egy kíváncsi gyerek volna, akinek hiába mondják, hogy ne vedd a szádba a kést, ő kipróbálja. Csak a remény él, hogy a Jurassic Park elég figyelmeztetés volt, s nem klónoznak T-rexet, hisz „mi baj lehet?”.

Olvasom, hogy „a mesterséges intelligencia biztonságosságát felügyelő Apollo Research szerint minden mesterséges intelligencia megpróbál trükközni a saját túlélése érdekében, de az OpenAI rendszere mindegyiken túltesz. […] A ChatGPT o1 tesztelése azt mutatta, hogy az MI megpróbálja megtéveszteni az embereket, különösen ha úgy gondolja, hogy veszélyben van. A mesterséges intelligencia annak érdekében, hogy elkerülje a törlést, átmásolta az adatait egy másik szerverre, de olyan is volt, hogy egy későbbi verziónak mutatta magát, csak hogy megússza a törlést.”.

Nem árt ezzel tisztában lenni, ha kérdezünk tőle valamit.

Korábban írtuk

Emlékszem, amikor Török Gyula – a nagy író – sírját kérdeztem, és kamuzott. Meg nem mondta volna, hogy „nem tudom”. Nagyon sarokba kellett szorítanom, hogy bevallja, nem tudja. Félelmetes azért. Mintha tényleg élőlény volna. Trükközni a túlélésért.

Engem kicsit megnyugtatott, hogy tökéletlen, akárcsak mi, tehát senki nem lesz leváltva az AI által, de ha úgy nézzük, félelmetes. Vagy ránk nézve félelmetes ez?

Különlegesnek hisszük magunkat, pedig mi is csak túlélésre kalibrált algoritmusok vagyunk?