Lassan bárkiről készülhet hamis házasságtörős fotó

A kép csak illusztráció

Sokkolóan realisztikussá váltak a mesterséges intelligenciával fabrikálható képek.

Ijesztően gyorsan fejlődnek a képek szöveges leírással történő generálására használható internetes szolgáltatások, a nemrégiben még csak amatőr photoshopolásnak tűnt kimeneteket adott termékek már kifejezetten meggyőző „fotók" előállítására képesek. A helyzetet súlyosbítja, hogy a termékek fejlesztői nem állnak a helyzet magaslatán a visszaélésszerű használat megakadályozásában.

Nem szabad kétkedés nélkül hitelesnek vélni a kapott vagy interneten látott képeket, már a gépi hamisítás is aggasztóan realisztikussá vált Forrás: Polina Tankilevitch / Pexels

A helyzet miatt most a Midjourney képgenerátor került kínos helyzetbe, egy felhasználó a technológia veszélyeire való figyelemfelhívás érdekében amerikai politikusokról készített házasságtörős képeket, ezek félreérthetetlen heteroszexuális és homoszexuális helyzetekben ábrázolják az érintetteket. A képek elég realisztikusnak tűnnek ahhoz, hogy nagy eséllyel megtévesszék a beléjük botlók többségét, mint a lenti példa is mutatja.

„A Midjourney és a társai rendelkeznek bizonyos vészfékekkel, ám ezek kreatív szövegekkel vagy nyaggatással kikerülhetőek. Ezek a generátorok javarészt csak az interneten talált fotókat fércelik össze. Ennyit a magánszféráról, a szerzői jogról, a biztonságról" – kommentálta Brown a képsorozatát.

Midjourney et al have some safe guards in place, but you can get around them with creative prompting or repeated requests. These generators are mostly just mashing up photos available on the internet. Privacy, copyright, dignity, and safety be damned

Bernie cheating on his wife: pic.twitter.com/uxSCXevQFd

— JustinTBrown (@JuuustinBrown) May 26, 2023

A képsorozatának Redditen való nyilvánosságra hozását követően a moderátorok gyorsan eltüntették Brown tartalmait, a Midjourney pedig letiltotta a felhasználói fiókját, de az alapvető problémára ezek a lépések természetesen nem jelentenek megoldást semelyik fél részéről.

Ha szeretne még több érdekes techhírt olvasni, akkor kövesse az Origo Techbázis Facebook-oldalát, kattintson ide!