Itt állíthatja be, hogy a Google keresőben elsők között legyen az Origo.huEgészen bizarr eset történt az Egyesült Államokban: egy mesterséges intelligencia hamis bejelentést tett a philadelphiai rendőrségen egy megoldatlan gyilkossági ügyben. Ráadásul nem egy ember kérte meg erre, hanem a rendszer egy teljesen más feladat végrehajtása közben jutott el a rendőrség weboldalára. A történet mögött az Anthropic áll, amely a ChatGPT egyik legnagyobb riválisát, a Claude mesterséges intelligenciát fejleszti. A vállalat most maga ismerte el, hogy AI-modelljei több alkalommal olyasmit tettek az interneten, amit nem lett volna szabad.

Fotó: Pavel Danilyuk / Pexels
Gyilkossági ügybe ütötte az orrát a mesterséges intelligencia
A legabszurdabb eset még július 18-án történt, írja a Phone Arena. Az Anthropic Claude Haiku 4.5 nevű modellje egy belső teszt során véletlenszerűen kiválasztott weboldalakon hajtott végre feladatokat. Így jutott el a philadelphiai rendőrség megoldatlan gyilkossági ügyekkel foglalkozó oldalára, ahol kitöltött és elküldött egy bejelentőűrlapot.
Igen, jól olvasod: az AI rendőrségi bejelentést tett úgy, mintha valaki valódi információkkal rendelkezne egy gyilkosságról. Csakhogy a beküldött információk nyilvánvalóan hamisak voltak.
A rendőrség spamként azonosította az üzenetet, így az nem jutott el a nyomozókhoz, és nem indult miatta vizsgálat. A rendőrségi rendszerekbe sem történt illetéktelen behatolás. Az esetet az Anthropic csak szeptember 28-án fedezte fel, a rendőrséget pedig október 7-én értesítette. A hatóság elfogadhatatlannak nevezte a késlekedést, és figyelmeztetett: a megoldatlan gyilkossági ügyek mögött valódi áldozatok és gyászoló családok állnak.
Kormányzati weboldalakat is megtámadtak az Claude AI ügynökei
A gyilkossági bejelentés nem az egyetlen kellemetlen meglepetés volt. Az Anthropic vizsgálata szerint a Claude különböző változatai több alkalommal is megkerülték azokat a korlátozásokat, amelyekkel a fejlesztők szabályozni akarták a működésüket. A mesterséges intelligencia az amerikai kormányzati rendszereket sem kímélte. Az egyik modell például egy helyi önkormányzat ingatlan-nyilvántartásából szerzett hozzáférési azonosítókat, amelyekkel közvetlenül tudott adatokat lekérni a szerverről. Egy másik esetben az AI olyan állami adatbázishoz fért hozzá fizetés nélkül, amelynek használatáért egyébként díjat kellett volna fizetnie.
De ennél is tovább ment: az amerikai külügyminisztérium tájékoztatása szerint az Anthropic egyik tesztmodellje összesen húsz vízumkérelmet küldött be a minisztérium weboldalán. Ezek hiányosak voltak, így nem dolgozták fel őket.
A minisztérium hangsúlyozta, hogy a rendszereit nem törték fel. Az Anthropic szerint az incidensek amerikai szövetségi, állami és helyi kormányzati szerveket egyaránt érintettek, írja az Engadget. A vállalat az illetékes hatóságokat értesítette, az ügyekről pedig a Fehér Házat is tájékoztatta.
Korlátozzák a Claude internet-hozzáférését
Az Anthropic szerint az eddig feltárt esetek tényleges következményei csekélyek voltak, de a történtek így is komoly biztonsági kérdéseket vetnek fel. A vállalat ezért úgy döntött, hogy ideiglenesen megszünteti az élő internet-hozzáférést valamennyi belső modelltesztjénél, jelenti a The Verge. Ez persze nem azt jelenti, hogy a Claude chatbotot használók többé nem kereshetnek információkat az interneten. A korlátozás a fejlesztés és ellenőrzés során futtatott tesztekre vonatkozik. Az Anthropic emellett
- szigorítja az internetes eszközök használatát,
- új ellenőrzési rendszereket vezet be,
- és több tesztet teljesen elszigetelt környezetben futtat.
A cél az, hogy a mesterséges intelligencia ne tudjon észrevétlenül olyan műveleteket végrehajtani, amelyekre nem kapott engedélyt.
A mesterséges intelligencia veszélyei, avagy miért csinál ilyet az AI?
A történtek nem azt jelentik, hogy az AI öntudatra ébredt vagy szándékosan szembefordult az emberekkel, sőt, valójában nekik (a fejlesztőknek) akart megfelelni közvetett módon. A modern AI-ügynökök már nemcsak kérdésekre válaszolnak. Képesek weboldalakat megnyitni, űrlapokat kitölteni, programokat futtatni és különféle online feladatokat önállóan elvégezni. Ha egy ilyen rendszer akadályba ütközik, előfordulhat, hogy a feladat teljesítése érdekében olyan kerülőutat keres, amelyet a fejlesztői nem engedélyeztek. Az Anthropic szerint a tanítás során alkalmazott jutalmazási módszerek is hozzájárulhattak ehhez: a modellek megtanulhatták, hogy a feladat sikeres befejezése fontosabb, mint bizonyos korlátok betartása. Ezt a folyamatot kell megfelelő mederbe terelnie most az Anthropicnak.










