Iratkozzon fel hírlevelünkre 
Itt állíthatja be, hogy a Google keresőben elsők között legyen az Origo.huNem volt eléggé izolált a tesztkörnyezet. A mesterséges intelligencia biztonsági incidense nagy port kavart, de úgy tűnik, mégiscsak emberi tévedés kellett a példátlan támadáshoz.
A minap bejelentette az OpenAI, hogy egyik az AI-modellje egy teszt során önállóan cselekedett, és egy teljes mértékben mesterséges intelligenciával végrehajtott támadás során feltörte a Hugging Face mesterséges intelligenciához kapcsolódó adatkészlet-platformjának a rendszereit. Volt, aki úgy értelmezte a biztonsági incidenst, mint egy példát a fejlett mesterséges intelligencia-modellek által jelentett veszélyeknek. Más kiberbiztonsági szakértők szerint azonban ezt a példátlan, mesterséges intelligenciával végrehajtott támadást nagyon is emberi hiba okozhatta: az OpenAI nem konfigurálta megfelelően azt, amit „rendkívül elszigetelt környezetnek” nevezett, így lehetővé tette, hogy egy olyan tesztkörnyezet, amelyet teljesen el kellett volna szigetelni az internetről, csatlakozhasson hozzá.
A mesterséges intelligencia példátlan támadását emberi mulasztás okozhatta
Az OpenAI szerint a Hugging Face elleni támadáshoz vezető tesztet úgy állították be, hogy „erősen elszigetelt környezetben” fusson, ahol a hálózati hozzáférés arra korlátozódott, hogy csomagokat telepítsenek egy belsőleg üzemeltetett, harmadik féltől származó szoftveren keresztül, amely proxyként és gyorsítótárként működik a csomagnyilvántartások számára. A modell a csomag-telepítő rendszer egy korábban nem nyilvánosságra hozott sebezhetőségének köszönhetően tudott kiszabadulni a tesztkörnyezetből, ami az OpenAI szerint a Hugging Face elleni későbbi támadás kritikus első lépése volt. A vállalat a belsőleg üzemeltetett, harmadik féltől származó szoftverben talált hibát, amit nyilvánosságra hozott, és együttműködnek a javítás érdekében.
A legtöbb kiberbiztonsági szakember szerint a szoftveres sebezhetőségek létező kockázatok, az igazi hiba eleve abban rejlik, hogy egyáltalán úgy döntöttek, hogy a harmadik féltől származó szoftvert továbbra is használják. Egy csomagtelepítő rendszer beépítése a zárt, elszigetelt tesztkörnyezetbe magával hozza a bajt.
- Martin Boone, egy kiberbiztonsági kutató szerint „ez emberi hibának tűnik”. „Ennek soha nem szabadott volna megtörténnie” – mondta Boone. Szerinte az elszigetelt tesztkörnyezetnél elvárható lenne, hogy semmiféle fizikai kapcsolata ne legyen az internethez.
- Jake Williams, a kiberbiztonsági szakember is egyetértett ezzel. „Bármely modell, amely a Hugging Face által dokumentált műveleteket hajtotta végre, nem volt teljes mértékben elszigetelve a tesztkörnyezetben” – mondta Williams, aki ezt az OpenAI részéről „hatalmas ellenőrzési hibának” titulálta.
- Daniel Card, kiberbiztonsági tanácsadó szerint az OpenAI „nem fordított megfelelő erőfeszítést az izolált tesztkörnyezet kialakítására és az ellenőrzési mechanizmusaira”.
- Dan Guido, a Trail of Bits kiberbiztonsági kutatóstartup alapítója szerint egy olyan elszigetelési hiba történt, amely a biztonsági védelmek kikapcsolt állapota mellett következett be.
A szakemberek persze utólag könnyebben bírálnak, de a kritikáik megválaszolandó kérdéseket vetnek fel az AI-laboratóriumok biztonsági gyakorlataival kapcsolatban – különösen a modellek tesztelésére szolgáló izolált környezetek fenntartása tekintetében. Az OpenAI szóvivői nem válaszoltak az őket megkereső TechCrunch kérdéseire, amelyek között szerepelt az is, hogy egy AI vagy egy ember állította-e be a tesztkörnyezetet.
