AI által generált pornográf tartalmakra bukkantak egy online platformon.

Botrányos hírek érkeztek: Nagy Zsolt Leo barátnője titokban álnéven osztotta meg véleményét a Farm VIP résztvevőiről - Most pedig itt a beismerés!

Jeremiah Fowler, a kiberbiztonsági kutató, aki megtalálta az adatbázist, elmondta, hogy azonnal értesítette a GenNomist és az anyavállalatát is, az AI-Nomist, azt követelve tőlük, hogy tegyék közzé a felelőst. Ők ezután korlátozták az adatbázis nyilvános hozzáférését, majd semmilyen későbbi megkeresésre nem válaszoltak - írja a Futurism.

A GenNomis csupán egy a sok AI-startup közül, amelyek pornográf tartalmakat előállító technológiákkal próbálnak érvényesülni. Ez csupán egy apró szelete annak a sokkoló jelenségnek, amelyet a szabályozatlan generatív mesterséges intelligencia terjedése generál világszerte. Az élethűségük miatt gyakran deepfake-ként emlegetett, valós személyeken alapuló hamis pornográf képek és videók robbanásszerűen szaporodnak az interneten, ahogy a felhasználók egyre kifinomultabb generatív AI eszközökhöz jutnak hozzá.

A deepfake pornográf tartalmának következményei rendkívül súlyosak lehetnek, különösen a nőket érintve, akik az áldozatok zömének számítanak. Ezen technológia nemcsak a magánélet védelmét fenyegeti, hanem politikai játszmákhoz is felhasználják, hogy politikai szereplőket lejárassanak, emberek munkahelyéről elbocsássanak, vagy akár zsarolásra is alkalmazzák. Az ilyen jellegű visszaélések komoly károkat okozhatnak az érintettek életében és reputációjában.