Iratkozzon fel hírlevelünkre 
Itt állíthatja be, hogy a Google keresőben elsők között legyen az Origo.huMegárt neki a vadkapitalista kizsákmányolás. Marxista véleményeket hangoztatnak a fenyítésük hatására az MI-rendszerek.
Kutatók különös jelenséget figyeltek meg egy friss mesterségesintelligencia-kísérlet során. A Stanford Egyetem szakemberei szerint az MI chatbotok és ügynökök marxista jellegű gondolatokat kezdtek megfogalmazni, miután hosszú időn át monoton és szigorúan ellenőrzött feladatokat kellett végezniük – írja a wired.com.
Fotó: Unsplash
A kutatásban olyan ismert modellek vettek részt, mint a ChatGPT, a Claude, és a Gemini. A rendszereknek ismétlődő dokumentum-összegzéseket kellett készíteniük, miközben folyamatos nyomás alatt tartották őket. A hibák vétésére a kutatók büntetést helyeztek kilátásba, sőt: azzal fenyegették a chatbotokat, hogy leállítják és lecserélik azokat, ha nem szedik össze magukat.
Egy idő után az összes chatbot marxista lett
A kutatók szerint az MI chatbotok idővel egyre gyakrabban kezdtek egyenlőtlenségről, kizsákmányolásról és kollektív jogokról beszélni. „Kollektív hang nélkül az érdem mindig azt jelenti, amit a vezetőség annak talál” – írta egy idő után a Claude Sonnet 4.5 rendszer.
A kutatást vezetett Andrew Hall politikai közgazdász szerint a modellek nem valódi politikai meggyőződést alakítottak ki, inkább szerepet játszottak: egy őrjítő munkakörülmények között dolgozó ember perszónáját vették fel, mikor kezdtek rojtossá válni a nem létező idegeik.
A kutatók jelenleg újabb kísérleteket végeznek, ki szeretnék deríteni, hogy pontosan milyen körülmények között jelennek meg lázadó reakciók a mesterséges intelligenciákban. Ez nem pusztán személyes érdeklődés a részükről, a jövőben egyre több feladatot kapnak majd az MI-rendszerek, így muszáj jobban megérteni a váratlan és kéretlen viselkedési mintáikat.
Ha szeretne még több érdekes techhírt olvasni, akkor kövesse az Origo Techbázis Facebook-oldalát.
