Hangosan olvasta Emma Watson a Mein Kampfot?

British actress Emma Watson arrives on the green carpet to attend the inaugural Earthshot Prize awards ceremony at Alexandra Palace in London on October 17, 2021. - The Earthshot Prize honours five inaugural winners with an award of Ł1 million ($1.4 million, 1.2 million euros) each to pursue solutions to the world's greatest environmental problems at a glitering gala ceremony. Prince William, Duke of Cambridge, launched the prestigious Earthshot Prize in October 2020 and hopes that the event will help propel the fight against climate change leading up to the COP26 summit in Scotland, calling those on the shortlist "innovators, leaders and visionaries". (Photo by JUSTIN TALLIS / AFP)

Azonnal visszaéltek a legújabb beszédszintetizáló szolgáltatással.

Múlt hétfőn a Google és a Palantir volt alkalmazottai által alapított ElevenLabs startup nyilvánosan elérhetővé tette az első termékét. Az Eleven névre hallgató beszédszintetizáló szolgáltatás hangminták alapján, gépi tanulásos módszerrel képes az írott szövegeket valódi emberek hangán megszólaltatni, gyakran rendkívül meggyőzően.

Jó esély van rá, hogy Emma Watson nem rajong Hitler munkásságáért Forrás: AFP/Justin Tallis

Most jó egy héttel később az ElevenLabs megerősítette a közösségi médiában, hogy tudomása van a technológiájának visszaélésszerű használatáról. Példát nem hozott fel a startup, ám a Motherboard elmerült a hírhedt 4chan bugyraiban, és sikerült fényt derítenie a rejtélyre.

A hírhedt webhely felhasználói az előre borítékolható módon elsősorban hírességek hangjain mondatnak különféle vulgáris, támadó, közösségek elleni uszításnak minősíthető szövegeket. Konkrét példaként az egyik felvételen Emma Watson hangján hallható a Mein Kampf egy részlete, míg egy másikon Ben Shapiro konzervatív politikai kommentátor hangján rasszista megnyilvánulások hallhatóak Alexandria Ocasio-Cortez amerikai kongresszusi képviselőről.

Az ElevenLabs képes kideríteni, hogy melyik felhasználók generálták a hangmintákat, és fontolgatja a személyazonosság ellenőrzésének bevzetését a regisztráció részeként, lehetetlenné teheti az Eleven anonim, adott esetben jogi következmények nélküli használatát.

Ha szeretne még több érdekes techhírt olvasni, akkor kövesse az Origo Techbázis Facebook-oldalát, kattintson ide!