Mi történt a Facebookkal? Mintha teljesen megőrültek volna a felhasználók

(FILES) This file photo taken on October 28, 2021 shows an illustration photo taken in Los Angeles of a person watches on a smartphone Facebook CEO Mark Zuckerberg unveiling the META logo. - Shares of Facebook parent Meta plunged 24 percent in opening trading February 3, 2022, weighing on the Nasdaq and threatening the stock market's four-day winning streak. (Photo by Chris DELMAS / AFP)

A Facebook, az Instagram és a WhatsApp anyavállalata a múlt héten jelentette be, hogy mesterséges intelligenciára (MI) épülő új eszközöket vezet be a Messengerben az Egyesült Államokban. Az egyik ilyen segítségével a felhasználók egy rövid leírás alapján képeket generálhatnak az alkalmazáson keresztül, amelyeket „matricaként" utána elküldhetnek az ismerőseiknek. De a fejlesztők valószínűleg nem számítottak arra, hogy többek között a kanadai miniszterelnök, Justin Trudeau, a "kommunizmus atyja", Karl Marx, Hillary Clinton, volt amerikai külügyminiszter és mások megsemmisítő ábrázolásai bukkannak fel a rendszerben.

A Meta bevezette az új, mesterséges intelligencia által generált matricáit a Messengerhez, a felhasználók pedig néhány nap alatt őrültebbnél őrültebb "műalkotásokat" készítettek az eszközzel.

A rendszer feje tetejére állításához nem kellett sok idő, és az emberek nevetséges, gusztustalan és egyenesen őrületes matricákat tudtak így gyártani. Pier-Olivier Desbiens kanadai művész például olyan képeket készített, mint

egy Miki egér-vécé hibrid, mosolygó gyerekkatonák, bögyös Karl Marx vagy Hillary Clinton börtönben.

found out that facebook messenger has ai generated stickers now and I don't think anyone involved has thought anything through pic.twitter.com/co987cRhyu

— defend trans rights ️⚧️ - podesbiens.bsky.social (@Pioldes) October 3, 2023

A rendszer egyelőre csak korlátozott mennyiséget tud elraktározni a matricákból, és emiatt most nem lehet több ilyen képet készíteni - írja a Világgazdaság. Azonban kétségtelen, hogy a nagy érdeklődés miatt a Meta nem fogja leállítani a programot – csak erősebb korlátokat fog rá bevezetni.

Kissé megdöbbentően hathat, hogy egy olyan nagy cég, mint a Meta, annyira kevés védőkorlátot tartalmazó MI-eszközöket tesz nyilvánossá, hogy azok olyan képeket generálnak, amelyek nemzetközi incidenseket indíthatnak el. De ez a probléma minden MI-modellt érint – az OpenAI például a Dall-E képgeneráló eszközsorozatába is kénytelen volt védőkorlátokat beépíteni, hogy a felhasználók ne tudjanak pikáns képeket generálni.

További részleteket ide kattintva olvashat a témában.