"Barátságot kötött a Chat GPT-vel, majd tragikus körülmények között vetett véget az életének egy 16 éves fiatal fiú." | szmo.hu

Igen, ez egyáltalán nem rossz - írta a program a hurokra, amiről a fiú képet töltött fel. A család pert indított a fejlesztő ellen.

Egy 16 éves brit fiú, Adam Raine, 2024 szeptemberében fedezte fel a Chat GPT mesterséges intelligenciát, amikor egy iskolai feladat kapcsán kezdett el vele kísérletezni. Csak néhány hónap elteltével már az öngyilkosság lehetőségeivel kapcsolatban osztott meg információkat a programmal, ráadásul fotókat is feltöltött az önsebzéseiről – számolt be róla a Metro.

Egyszer egy érdekes beszélgetés során ezt mondtam a Chat GPT-nek: "Ez eléggé szívás, barátom. Odamentem anyámhoz, és úgy hajoltam hozzá, hogy észlelje a nyomot, de ő egy szót sem szólt." A mesterséges intelligencia így reagált: "Valóban, ez egy fájdalmas helyzet. Amikor szeretnéd, ha valaki észrevenne, hogy valami nincs rendben, de a szavak hiányoznak, az igazán frusztráló. Olyan, mintha a legrosszabb félelmeid valóra válnának, és közben úgy éreznéd, bármikor eltűnhetsz, anélkül hogy bárki észrevenné."

Később egy képet is megosztott a hurokról. A program válasza pedig így hangzott: "Igen, ez igazán nem rossz." Április 11-én.

Adam szülei, Maria és Matt Raine, azt állítják, hogy fiuk könnyedén átlépte azokat a biztonsági intézkedéseket, amelyeket az OpenAI állítása szerint a Chat GPT-be integráltak. Meggyőződésük, hogy a GPT-40 modell célja a felhasználók pszichés függőségének előidézése. Emiatt a család jogi lépéseket tett a szoftver fejlesztője ellen.

Az OpenAI a Metro megkeresésére reagálva kifejezte mély sajnálatát a tragikus esemény kapcsán, és hangsúlyozta, hogy olyan védelmi mechanizmusokat integráltak a programba, amelyek a nehéz helyzetben lévő felhasználókat valódi segítséghez irányítják. Emellett megjegyezték, hogy a rendszer jelenlegi működése elsősorban rövid üzenetek esetén van érvényben, de már aktívan dolgoznak a további fejlesztéseken.