Iratkozzon fel hírlevelünkre 
Itt állíthatja be, hogy a Google keresőben elsők között legyen az Origo.huAggasztó jelentés jött ki a mesterséges intelligenciáról. Míg a legtöbb modellben egy biztonsági intézkedések akadályozzák meg egyes kérések teljesítését, addig a bűnözők ezt megtanulták kikerülni.
Egy nemrégiben megjelent jelentés figyelmeztet, hogy a mesterséges intelligencia segíthet a terrorista csoportoknak kifinomult biológiai és vegyi fegyverek létrehozásában.
Aggasztó jelentés jött ki a mesterséges intelligencia modellekről
Biztonsági kutatók figyelmeztetnek, hogy a népszerű MI-modellek könnyen módosíthatóak, hogy megkerüljék a biztonsági intézkedéseket. A Crimson Flare kutatócsoport által közzétett jelentés szerint mindez lehetővé teszi a mesterséges intelligencia számára, hogy végigvezesse a rosszindulatú szereplőket a robbanóanyagok, vagy vegyi és biológiai fegyverek létrehozásának konkrét lépésein. Ez azt jelenti, hogy az úgynevezett rossz szereplők, akik még az alapvető tudományos ismeretekkel is rendelkeznek, hamarosan halálos fegyverekkel szerelhetik fel magukat.
A jelentés egy új módszerre, amelyet nem hivatalosan megsemmisítésnek neveznek, figyelmeztet, amely lehetővé teszi a legtöbb MI-modell biztonsági intézkedéseinek percek alatti letiltását. Ezeket a modelleket ezután fel lehetne tölteni az internetre, ahonnan bárki letöltheti és saját céljaira felhasználhatja őket.
Míg egyes modellek csak alapvető vagy nem hasznos tanácsokat adnak, a kutatók úgy vélik, hogy mások olyan részleteket közölnek, amelyek elterjedésüket komoly nemzetbiztonsági kockázattá teszik.
A jelentés a nyílt súlyú nagy nyelvi modellek (LLM-ek) vizsgálja, amelyek ugyanazt az alapvető felépítést használják, mint a chatbotok, de letölthetők és szabadon futtathatók bárki számítógépén. Például a Meta nemrégiben kiadta legújabb nyílt súlyú modelljét, a Muse Glimmert, további népszerű alternatívák közé tartozik a kínai Qwen3.8-27b modell.
Normális esetben ezek a modellek bizonyos biztonsági korlátozásokkal rendelkeznek a felépítésükben, amelyek megakadályozzák a felhasználókat bizonyos kérések végrehajtásában. Néhány rosszindulatú szereplő azonban kifejlesztett egy technikát, amely megtalálja és eltávolítja a modell azon részeit, amelyek normális esetben biztonságos keretek között tartják azt.
A Crimson Flare szerint ezek a modellek elméletileg segíthetnének a bűnözőknek bármilyen olyan tevékenységben, amelyet egy tipikus modell elutasítana. Az ehhez a megsemmisítéshez szükséges eszközök széles körben elérhetők online, és viszonylag alapvető kódolási ismeretekkel is megvalósíthatók.
A fogyasztói hardvereken offline módon futó, nagy teljesítményű, cenzúrázatlan, nyílt súlyú LLM-ek komoly és egyre növekvő nemzetbiztonsági fenyegetést jelentenek. Ami még aggasztóbb, hogy tucatnyi előre megsemmisített modell könnyen megtalálható és letölthető egyetlen kereséssel.
A jelentés rámutat, hogy a vegyi és biológiai fegyverekkel kapcsolatos terrortámadás kockázata általában nagyon alacsony az ilyen eszközök előállításának technikai akadályai miatt. A biofegyverek elkészítéséhez szükséges ismeretek és készségek jellemzően az intézményi tudósokra korlátozódnak. Viszont a biztonsági korlátozások nélküli, nagy teljesítményű mesterséges intelligencia hirtelen bárki kezébe juttatja ezt a tudást, aki csak akarja - írta a Daily Mail.
