Internet v rokah, saj uporabnik 4Chan uporablja glasovni simulator z umetno inteligenco za ponarejanje glasu Emme Watson in jo prisili, da prebere Hitlerjevo avtobiografijo

Nekdanji uslužbenci Googla in Palantirja so skupaj ustanovili startup Elevenlabs, katerega cilj je bil ustvariti visokokakovostne zvočne globoke ponaredke slavnih s pomočjo svojega orodja za kloniranje glasu z umetno inteligenco. Toda njihov začetek beta se je kmalu izjalovil, saj so številni zlorabili glasove slavnih, vključno z Emmo Watson, prek orodja za kloniranje glasu z umetno inteligenco.

Številne oboževalce je razjezila neetična in nemoralna uporaba orodja umetne inteligence, potem ko so nekateri troli zlorabljali glasove svojih najljubših zvezdnikov, da so posredovali nezaslišane komentarje. Toda startup je vsem zagotovil, da bodo spremenili svoj model, da bi se izognili nadaljnjim težavam.

Preberite tudi: 'Ker sem dopolnila 18 let, je bilo zakonito': Emmo Watson so travmatizirali paparaci, potem ko so ji poskušali klikniti fotografije v krilo tako, da so ležali na pločniku, ko je zvezda Harryja Potterja dopolnila 18 let

Oboževalci razjarjeni, ko je uporabnik 4Chan zlorabil glas Emme Watson prek orodja AI

Predstavitev orodja za kloniranje glasu z umetno inteligenco podjetja Elevenlabs je podžgala internet, potem ko so številni troli izkoriščali uporabo tega brezplačnega orodja. Čeprav so mnogi uporabljali programsko opremo za ustvarjanje zdrave vsebine, je del interneta zlorabil orodje, da bi zvezdnike prisilil k rasističnim žaljivkam in nezaslišanim komentarjem ter zlorabi Emme Watson glas je bil kaplja čez rob.

Pred kratkim. Matična plošča je poročala o ekstremni zlorabi programske opreme AI za ustvarjanje žaljivega globoko lažnega zvoka. Toda kaplja, ki je zlomila čašo, je bil uporabnik 4Chan, ki je ustvaril posnetek Harry Potter zvezda Emma Watson bere moj boj , avtobiografija nacističnega diktatorja Adolfa Hitlerja.

Oboževalce je razjezila ta neetična uporaba programske opreme o Emmi Watson in drugih priznanih zvezdnikih, vključno z Joejem Roganom, Robinom Williamsom itd. Elevenlabs, ki je tehnologijo dal na voljo javnosti, je obravnaval to naraščajočo težavo in obljubil, da se bo boril proti zloraba njihovega orodja za kloniranje glasu.

Preberite tudi: Režiser filma Prisoner of Azkaban je trio Harryja Potterja prosil, naj napiše esej o njihovem liku – Emma Watson je napisala 16 strani, Daniel Radcliffe je imel eno stran povzetka, Rupert Grint ni napisal niti enega

Elevenlabs obljublja, da se bo izognil nadaljnji zlorabi orodja AI

Startup je bil na začetku navdušen nad pozitivnim odzivom tudi na njih, saj so mnogi uporabljali orodje za glasovno kloniranje z umetno inteligenco za zdravo ustvarjanje. Toda podjetje se je kmalu soočilo s težavo, potem ko so troli začeli izkoriščati programsko opremo za nečedne namene. Elevenlabs je internetu zagotovil, da poglobljeno preučujejo zadevo in ugotavljajo možne rešitve.

Čeprav so ustvarjalci Elevenlabs priznali, da lahko izsledijo uporabnike, ki zlorabljajo moč orodja AI, iščejo dodatne varnostne ukrepe, da bi se izognili tej težavi. Ustvarjalci so delili različne ideje za reševanje zadeve, ki vključuje uvedbo ročne verifikacije za vsako kloniranje in popolno identifikacijsko verifikacijo uporabnika s plačilom ali katerim koli drugim načinom.

Preberite tudi: 'Morali bi ji pustiti, da izrazi svoje mnenje': Helena Bonham Carter ni oboževalka Emme Watson in Daniela Radcliffeja, ki protestirata proti J.K. Rowling za zaščito njihove baze oboževalcev

Čeprav se je beta testiranje Startupa začelo mešano, številni oboževalci so bili jezni zaradi neetične uporabe glasov slavnih prek orodja AI, zlasti Emme Watson. Toda ljudje so startupu tudi priznali, da se ni otresel situacije in sprejel dejavnih ukrepov za spopadanje s temi internetnimi troli.

Vir: podpredsednik