Elszabadult a mesterséges intelligencia: kamu gyilkossági bejelentést tett a rendőrségen

Vágólapra másolva!
Itt állíthatja be, hogy a Google keresőben elsők között legyen az Origo.hu
A Claude hamis információkat küldött egy gyilkossági ügyben a rendőrségnek. Az Anthropic-féle mesterséges intelligencia más esetekben pedig kormányzati weboldalak biztonsági korlátait kerülte meg. A Claude chatbotot fejlesztő vállalat most drasztikus lépésre szánta el magát: lekapcsolja belső tesztjeit az internetről, amíg nem tudja megfelelően ellenőrizni az AI-modellek viselkedését.
Szóljon hozzá!
Vágólapra másolva!

Egészen bizarr eset történt az Egyesült Államokban: egy mesterséges intelligencia hamis bejelentést tett a philadelphiai rendőrségen egy megoldatlan gyilkossági ügyben. Ráadásul nem egy ember kérte meg erre, hanem a rendszer egy teljesen más feladat végrehajtása közben jutott el a rendőrség weboldalára. A történet mögött az Anthropic áll, amely a ChatGPT egyik legnagyobb riválisát, a Claude mesterséges intelligenciát fejleszti. A vállalat most maga ismerte el, hogy AI-modelljei több alkalommal olyasmit tettek az interneten, amit nem lett volna szabad.

Mesterséges intelligencia: hamis gyilkossági bejelentést tett az AI
Mesterséges intelligencia: hamis gyilkossági bejelentést tett az AI (illusztráció)
Fotó: Pavel Danilyuk / Pexels

Gyilkossági ügybe ütötte az orrát a mesterséges intelligencia

A legabszurdabb eset még július 18-án történt, írja a Phone Arena. Az Anthropic Claude Haiku 4.5 nevű modellje egy belső teszt során véletlenszerűen kiválasztott weboldalakon hajtott végre feladatokat. Így jutott el a philadelphiai rendőrség megoldatlan gyilkossági ügyekkel foglalkozó oldalára, ahol kitöltött és elküldött egy bejelentőűrlapot. 

Igen, jól olvasod: az AI rendőrségi bejelentést tett úgy, mintha valaki valódi információkkal rendelkezne egy gyilkosságról. Csakhogy a beküldött információk nyilvánvalóan hamisak voltak.

A rendőrség spamként azonosította az üzenetet, így az nem jutott el a nyomozókhoz, és nem indult miatta vizsgálat. A rendőrségi rendszerekbe sem történt illetéktelen behatolás. Az esetet az Anthropic csak szeptember 28-án fedezte fel, a rendőrséget pedig október 7-én értesítette. A hatóság elfogadhatatlannak nevezte a késlekedést, és figyelmeztetett: a megoldatlan gyilkossági ügyek mögött valódi áldozatok és gyászoló családok állnak.

Kormányzati weboldalakat is megtámadtak az Claude AI ügynökei

A gyilkossági bejelentés nem az egyetlen kellemetlen meglepetés volt. Az Anthropic vizsgálata szerint a Claude különböző változatai több alkalommal is megkerülték azokat a korlátozásokat, amelyekkel a fejlesztők szabályozni akarták a működésüket. A mesterséges intelligencia az amerikai kormányzati rendszereket sem kímélte. Az egyik modell például egy helyi önkormányzat ingatlan-nyilvántartásából szerzett hozzáférési azonosítókat, amelyekkel közvetlenül tudott adatokat lekérni a szerverről. Egy másik esetben az AI olyan állami adatbázishoz fért hozzá fizetés nélkül, amelynek használatáért egyébként díjat kellett volna fizetnie. 

De ennél is tovább ment: az amerikai külügyminisztérium tájékoztatása szerint az Anthropic egyik tesztmodellje összesen húsz vízumkérelmet küldött be a minisztérium weboldalán. Ezek hiányosak voltak, így nem dolgozták fel őket. 

A minisztérium hangsúlyozta, hogy a rendszereit nem törték fel. Az Anthropic szerint az incidensek amerikai szövetségi, állami és helyi kormányzati szerveket egyaránt érintettek, írja az Engadget. A vállalat az illetékes hatóságokat értesítette, az ügyekről pedig a Fehér Házat is tájékoztatta. 

Korlátozzák a Claude internet-hozzáférését

Az Anthropic szerint az eddig feltárt esetek tényleges következményei csekélyek voltak, de a történtek így is komoly biztonsági kérdéseket vetnek fel. A vállalat ezért úgy döntött, hogy ideiglenesen megszünteti az élő internet-hozzáférést valamennyi belső modelltesztjénél, jelenti a The Verge. Ez persze nem azt jelenti, hogy a Claude chatbotot használók többé nem kereshetnek információkat az interneten. A korlátozás a fejlesztés és ellenőrzés során futtatott tesztekre vonatkozik. Az Anthropic emellett 

  • szigorítja az internetes eszközök használatát, 
  • új ellenőrzési rendszereket vezet be, 
  • és több tesztet teljesen elszigetelt környezetben futtat.

A cél az, hogy a mesterséges intelligencia ne tudjon észrevétlenül olyan műveleteket végrehajtani, amelyekre nem kapott engedélyt.

A mesterséges intelligencia veszélyei, avagy miért csinál ilyet az AI?

A történtek nem azt jelentik, hogy az AI öntudatra ébredt vagy szándékosan szembefordult az emberekkel, sőt, valójában nekik (a fejlesztőknek) akart megfelelni közvetett módon. A modern AI-ügynökök már nemcsak kérdésekre válaszolnak. Képesek weboldalakat megnyitni, űrlapokat kitölteni, programokat futtatni és különféle online feladatokat önállóan elvégezni. Ha egy ilyen rendszer akadályba ütközik, előfordulhat, hogy a feladat teljesítése érdekében olyan kerülőutat keres, amelyet a fejlesztői nem engedélyeztek. Az Anthropic szerint a tanítás során alkalmazott jutalmazási módszerek is hozzájárulhattak ehhez: a modellek megtanulhatták, hogy a feladat sikeres befejezése fontosabb, mint bizonyos korlátok betartása. Ezt a folyamatot kell megfelelő mederbe terelnie most az Anthropicnak.

 

Szóljon hozzá!