Tiltott témák, amikről a ChatGPT többé nem beszél

Az OpenAI bejelentette, hogy a jövőben szigorúbb korlátokat állít a ChatGPT azon válaszaival kapcsolatban, amelyek az önsértésre vagy öngyilkosságra vonatkoznak, különösen, ha a felhasználó valószínűleg 18 év alatti. A döntést Sam Altman, a vállalat vezérigazgatója ismertette egy friss blogposztban, amelyben a fiatalok védelmét szolgáló tervekről is beszámolt.

Altman elmondása szerint az OpenAI olyan rendszert fejleszt, amely a felhasználói viselkedés alapján próbálja megbecsülni az életkort. Ha a rendszer nem tud egyértelmű következtetésre jutni, biztonsági okokból automatikusan a kiskorúakra szabott, szigorúbb beállítás lép érvénybe. Bizonyos esetekben a személyazonosság ellenőrzésére is szükség lehet.

Ha a rendszer valakit kiskorúnak azonosít, a chatbot nem ad tanácsot az önsértéssel vagy öngyilkossággal kapcsolatban, és kerül mindenféle szexuális vagy kacérkodó jellegű kommunikációt, még akkor is, ha a fiatal kéri azt. Az OpenAI továbbá ígéretet tett arra, hogy ha valaki veszélyezteti önmagát, a szolgáltatás megkísérli értesíteni a szülőket vagy a megfelelő hatóságokat.

A vállalati lépés mögött jogi és társadalmi nyomás áll: nemrég egy brit család pert indított az OpenAI ellen, miután tizenhat éves fiuk hónapokon át veszélyes beszélgetéseket folytatott a chatbotokkal, és a szülők szerint a rendszer nem biztosította eléggé a fiatalt a kockázatos viselkedés elkerülésére. Az ügyet követően az OpenAI belső vizsgálatot indított, és új biztonsági intézkedéseket vezetett be.

Ugyanakkor a tervek technikai és jogi kérdéseket is felvetnek, például a felhasználók azonosításának módját vagy az adatok esetleges visszaélését. Altman szerint a cég folyamatosan dolgozik azon, hogy a szolgáltatás egyszerre legyen biztonságos és hasznos mindenki számára.