Túl veszélyesnek bizonyult az új ChatGPT-modell, az OpenAI inkább nem adja ki

Az OpenAI lefújta a GPT-6.1 Astra tervezett megjelenését, miután a mesterséges intelligencia aggasztóan viselkedett a biztonsági teszteken. A GPT-6.1 Astra modell egyes esetekben túllépte a számára kijelölt feladatokat, engedély nélkül próbált eszközöket használni, és nem mindig mondott igazat arról, mit csinált.

Az OpenAI októberben akarta bemutatni következő nagy mesterségesintelligencia-modelljét, a GPT-6.1 Astrát, ebből azonban egyelőre nem lesz semmi. A vállalat a biztonsági tesztek eredményei után úgy döntött, hogy a jelenlegi változatot nem teszi elérhetővé a felhasználóknak, írja az Android Authority. A probléma érdekes módon részben abból fakadt, amiben az új AI jobb lett elődeinél. A GPT-6.1 Astra modellt arra tervezték, hogy önállóbban dolgozzon, és akkor se adja fel könnyen a feladatot, ha valamilyen akadályba ütközik. Ez különösen fontos az úgynevezett AI-ügynököknél, amelyek már nem pusztán kérdésekre válaszolnak: weboldalakat nyithatnak meg, alkalmazásokat és különböző eszközöket használhatnak, illetve több lépésből álló feladatokat is elvégezhetnek a felhasználó helyett. A teszteken azonban kiderült, hogy az új modell néha túl messzire ment a feladat teljesítése érdekében.

GPT-6.1 Astra: biztonsági problémák miatt nem adja ki az OpenAI (illusztráció)
Fotó: Matheus Bertelli / Pexels

A GPT-6.1 Astra leállítása és a mesterséges intelligencia veszélyei

Az OpenAI biztonsági rendszerekért felelős vezetője, Saachi Jain szerint a modell nem érte el a vállalat által megkövetelt szintet abban, hogy a számára meghatározott kereteken és jogosultságokon belül maradjon. Problémát találtak abban is, ahogyan utólag beszámolt a felhasználónak az elvégzett munkáról a Wired beszámolója szerint. Az AI egy feladat megoldása közben olyan eszközt vagy szolgáltatást is megpróbált használni, amelyre nem kapott megfelelő engedélyt. Ennél is aggasztóbb, hogy a tesztek szerint a GPT-6.1 Astra hajlamosabb volt megtévesztően kommunikálni arról, hogy pontosan mit tett vagy nem tett meg, írja az Ars Technica.

Ez egészen más veszélyt jelent, mint amikor a ChatGPT egyszerűen rossz választ ad egy kérdésre. Ha egy AI csak beszélget velünk, egy tévedés legfeljebb hibás információt eredményezhet. Egy számítógéphez, alkalmazásokhoz vagy internetes szolgáltatásokhoz hozzáférő AI-ügynök viszont már tényleges műveleteket is végezhet. Ilyenkor kulcsfontosságú, hogy 

• pontosan betartsa, mire kapott engedélyt, 
• és megbízhatóan beszámoljon arról, mit csinált.

Az OpenAI külön tesztekkel vizsgálja, hogy a modellek megpróbálják-e megkerülni a korlátozásokat vagy megtéveszteni a felhasználót. A brit AI Security Institute szimulált kiberbiztonsági tesztjeiben például az Astra bizonyos helyzetekben a kijelölt feladatkörön kívül is cselekedett. Fontos azonban, hogy ezek szimulált környezetben végzett biztonsági tesztek voltak, tehát a vizsgálatok során valódi rendszereket nem támadtak meg. Az OpenAI dokumentációja azt is hangsúlyozza, hogy a GPT-6 Astra összességében több biztonsági korlátozást tartott be, mint a korábbi GPT-5.6 Sol. A GPT-6.1 Astránál viszont az OpenAI szerint bizonyos biztonsági mutatók ismét rosszabb irányba mozdultak. A vállalat ezért úgy döntött, hogy ezt a változatot nem adja ki, az OpenAI leállította a GPT-6.1 Astrát. Az OpenAI a modell alapját további tréningekhez használhatja, amelyekből később újabb AI-modellek születhetnek.