Iratkozzon fel hírlevelünkre 
Itt állíthatja be, hogy a Google keresőben elsők között legyen az Origo.huEgy olyan AI-modellt tettek nyilvánosan elérhetővé, amelyet korábban maga a fejlesztőcég is túl erősnek tartott a széles körű használathoz. A döntés újabb vitát indított arról, meddig mehet el a mesterséges intelligencia fejlődése, mielőtt komoly kockázatot jelentene.
A mesterséges intelligencia körül újabb vita alakult ki, miután nyilvánosan elérhetővé tettek egy olyan eszközt, amelyről korábban maga a fejlesztőcég állította: túl erős a széles körű kiadáshoz. A Claude Fable 5 névre keresztelt modell a korábban zárt körben tesztelt Mythos rendszerből származik, és komoly biztonsági kérdéseket vet fel – írja a BBC.
Miért tartották túl veszélyesnek a mesterséges intelligencia alapú eszközt?
Az Anthropic által fejlesztett Claude Mythos AI-t először áprilisban adták egy szűk szervezeti körnek tesztelésre, miután a cég szerint olyan fejlett volt, hogy akár számítógépes rendszerek feltörésére is alkalmas lehet.
A bemutató után több technológiai, pénzügyi és kormányzati szereplő is aggodalmát fejezte ki a rendszer képességeivel kapcsolatban.
A most nyilvánosan is elérhető Claude Fable 5 a Mythos alapjaira épül, de már különféle biztonsági korlátozásokkal és felhasználási limitekkel együtt használható. Az Anthropic hangsúlyozta: „egy ilyen képességű modell kiadása kockázatokkal jár”.
A túl erős AI veszélyei: mennyire valós a kockázat?
Egyes szakértők szerint az ilyen rendszerek komoly kiberbiztonsági és pénzügyi kockázatokat hordozhatnak, mások viszont túlzott marketingnek tartják az aggodalmakat. Egy kanadai miniszter korábban úgy fogalmazott: a legnagyobb probléma az, hogy ez „az ismeretlen ismeretlenje”. Az Anthropic szerint mintegy 150 szervezet már hozzáfért a Mythos előzetes verziójához, köztük kibervédelmi és infrastruktúracégek is. Ezek a felhasználók eddig több mint 10 ezer súlyos biztonsági hibát azonosítottak saját rendszereikben a modell segítségével.
Mennyire kontrollálható a mesterséges intelligencia?
A mostani hozzáférés még mindig korlátozott, de a jövőben egy szélesebb felhasználói program keretében bővülhet. A Claude Fable és a Claude Mythos lényegében ugyanaz a modell, a különbség csupán a biztonsági korlátozásokban és a hozzáférési szintekben rejlik.
A rendszerek képesek hosszabb ideig „felügyelet nélkül” végrehajtani utasításokat, mint a korábbi Claude verziók, ami újabb vitákat indított az AI szabályozásáról.
Az Anthropic társalapítója szerint a fejlődés olyan gyors, hogy a társadalomnak szüksége lenne egy „fékre” is a jelenlegi „gázpedál” mellett, hogy kontroll alatt tartható maradjon a mesterséges intelligencia fejlődése.
„A legjobb megoldás álmában megölni” – mondja a mesterséges intelligencia
Az elmúlt években elképesztő sebességre kapcsolt az MI-rendszerek fejlesztése. A mesterséges intelligencia működésében azonban most egy olyan jelenséget fedeztek fel, amely új kérdéseket vet fel a biztonság és az ellenőrizhetőség terén.
Mi nyaralunk, a mesterséges intelligencia dolgozik helyettünk
A nyári szabadság sok dolgozó számára a pihenésről szól, a kollégáknak azonban gyakran pluszterhet jelent, ha valaki hosszabb időre kiesik a munkából. Egyre több cég ezért már mesterséges intelligenciát vet be azért, hogy a szabadság idején is gördülékenyen működjön a munka.
