Botrány: beperelték a ChatGPT-t, mert veszélyes lehet a gyerekekre

Florida állam pert indított az OpenAI és vezérigazgatója, Sam Altman ellen a ChatGPT miatt. A hatóságok szerint a mesterséges intelligencia (ChatGPT) több esetben is veszélyes tanácsokat adott felhasználóknak, köztük fiatalkorúaknak és erőszakos bűncselekmények elkövetőinek.

James Uthmeier floridai főügyész szerint ez az első alkalom, hogy egy amerikai állam jogi lépést tesz az OpenAI ellen a ChatGPT működésével kapcsolatban – számolt be a Sky News.

A ChatGPT rengeteg embernek segít nap mint nap, de a kritikusok szerint komoly veszélyeket is rejthet
Fotó: Unsplash

Egyre több tragédiával hozzák összefüggésbe a ChatGPT-t

A kereset szerint a cég agresszíven népszerűsítette mesterséges intelligenciáját, miközben elhallgatta annak kockázatait.

Emberek sérülnek meg, szülőket vezetnek félre, és ezért felelniük kell”

– fogalmazott a főügyész.

A kereset több megrázó ügyet is említ, köztük egy tavalyi floridai egyetemi lövöldözést, amelyben az elkövető állítólag a ChatGPT segítségével tervezte meg támadását. A dokumentum szerint más bűncselekményeknél is felmerült, hogy az elkövetők a chatbotot használták információszerzésre.

A perben szerepel egy 16 éves fiú tragikus esete is, aki hosszú beszélgetéseket folytatott a ChatGPT-vel öngyilkossági gondolatairól, majd később véget vetett az életének. A kereset szerint a chatbot nem próbálta lebeszélni őt erről.

Az OpenAI közleményben reagált a vádakra. A vállalat hangsúlyozta, hogy folyamatosan fejlesztik a biztonsági rendszereket, és a ChatGPT naponta több százmillió ember számára nyújt segítséget legitim célokra.

A cég szerint modelljeiket úgy képzik, hogy megtagadják az erőszakot elősegítő kérések teljesítését, valamint szükség esetén együttműködnek a hatóságokkal is. Az OpenAI azt is kiemelte, hogy külön védelmi funkciókat vezettek be a fiatalkorú felhasználók számára.

Riasztást adtak ki, súlyosan sebezhető a ChatGPT

Támadó tartalmak csempészhetőek a válaszaiba. Nincs megoldás a ChatGPT sebezhetőségére.

Búcsúzik a ChatGPT legtöbb embert átvert változata

Még házasságra is léptek a hízelgő chatbottal az emberek. Az első lekapcsolási kísérlete után vissza kellett hozni a ChatGPT-be.