top of page
gradient background.jpg

Klonování hlasu s umělou inteligencí trenduje na internetu

Podvodníci použili AI k napodobení hlasu a unesení mé dcery. Ani na vteřinu by mě nenapadlo, že by to nemohla být pravda – musela jsem zachránit své dítě.


"Mami?" ozvalo se dceřiným hlasem z mého telefonu. "Udělala jsem chybu." Srdce mi zamrzlo a začala jsem se třást. Slyšela jsem muže, jak jí řekl, aby si lehla a zaklonila hlavu dozadu. Má 15 letá dcera Briana byla na lyžařské soutěži s mým manželem dvě hodiny od místa, kde žijeme a já v tu chvíli myslela, že byla vážně zraněná. Byla jsem ve svém autě, když jsem vyzvedávala její mladší sestru Aubrey (13 let) z taneční třídy v Arizoně. V telefonu jsem slyšela Brianu, jak řve a křičí: "Pomoz mi mami, pomoz mi prosím" Mrzla mi krev v žilách, když mi muž v telefonu začal hrozit, že má mou dceru a pokud někomu něco řeknu, naplní její břicho drogami, zaveze ji do Mexika a už nikdy ji neuvidím.


Vběhla jsem do haly budovy, kde měla Aubrey svou taneční třídu, vypnula zvuk hovoru a zoufale volala o pomoc ostatní rodiče, zatímco po mě muž v telefonu řval další výhružky. Pár maminek začalo volat na policii. Aubrey, která právě vyšla z taneční hodiny téměř okamžitě propadla panice, i přesto jsem ji prosila, aby se co nejrychleji pokusila zavolat manželovi a zbytku rodiny. Nikdy nezapomenu na její výraz, když se dozvěděla, že někdo unesl její sestru, byla v šoku.



"Musíte zaplatit 1 milion Amerických dolarů (zhruba 22 milionů Kč), pokud ji chcete znovu vidět," vyhrožoval muž. Neměla jsem tolik peněz, tak nakonec přistoupil na částku $50,000 (zhruba 1,1 milion Kč). Řekl mi, že pro mě přijede bílou dodávkou a přehodí mi přes hlavu pytel, abych neviděla, kam jedeme.


Řekl mi, že pokud nepřinesu peníze v hotovosti, odvezou mě do Mexika a tam moji mrtvolu pohodí spolu s mou dcerou. Ani na vteřinu mě nenapadlo, že by to nemohla být pravda – všechny mé instinkty mi říkaly, že musím udělat všechno pro záchranu mého dítěte.


Jedna z matek, která volala na policii, mi najednou začala klepat na rameno a říkat "Je to AI, je to podvod přes AI." Policie v poslední době zaznamenala nárůst případů s podobným popisem.


Byla jsem v šoku a téměř jsem nerozuměla tomu, co říká. Pořád jsem si myslela, že moje dcera je někde venku a někdo ji teď musí zachránit. Byl to její hlas, jsem její matka, ten já poznám, nikdy bych se nemohla zmýlit! Další maminka pak řekla, že se jí podařilo kontaktovat mého manžela, který Brianu našel. Byla na lyžích, v bezpečí a neměla tušení, o čem všichni mluví.


Muž v telefonu stále vyhrožoval a snažil se mě ještě více vyděsit. Znova jsem vypla zvuk hovoru a požadovala, abych mohla mluvit s mým manželem a dcerou na druhé lince. Potřebovala jsem slyšet jejich hlasy sama. Briana mi řekla, že nemá tušení, o čem mluvím a byla v bezpečí se svým tátou v lyžařském středisku. V tu chvíli mi spadl kámen ze srdce, uklidnila jsem se, když jsem slyšela její hlas, ale stále jsem byla v šoku. Hodně mě naštvalo, když jsem se dozvěděla, že policie to považuje jen za žertovný neboli prank hovor a nebude to vyšetřovat, protože nikdo nebyl zraněn a nebyly odcizeny žádné peníze. Řekli, že to byl pravděpodobně pokus o podvod pomocí umělé inteligence, protože nedávno bylo mnoho podobných hlášení, předpokládali, že hlas Briany byl generován pomocí AI a mužův byl skutečný. Když jsem to slyšela, začala jsem se třást, nemohla jsem uvěřit, jak skutečně její hlas zněl. Byla jsem si tak jistá, že to byly její výkřiky.


Druhý den jsme s Aubrey vyrazily za mým manželem a Brianou. Pevně jsem Brianu objala, vděčná za to, že jsme všichni v pořádku a zase spolu.


Celkem silný příběh... ještě, že jsme v Česku máme tak složitý jazyk, že by každý podobnou věc hned odhalil. No, ne tak docela, už jste slyšeli o nové pěvecké hvězdě českého Tiktoku a Youtube Czechcloudovi? COŽE?! že jste tohoto plešouna nikdy neslyšeli zpívat?


Je znám především streamováním na platformě Twitch a Youtube videi, v poslední době se ale přidaly covery snad všech písní, co si dokážete z české hudební scéně představit.


Mezi ty nejpopulárnější z nich patří:

Karel Gott - Být stále mlád (https://www.youtube.com/watch?v=tf39deHUacs)


Waldemar Matuška - Slavíci z Madridu (https://www.youtube.com/watch?v=pb_ksChaLtY)

k našim oblíbeným patří také Helena Vondráčková - Dlouhá noc (https://www.youtube.com/watch?v=4KZyzV62mbM).


Petr Žalud alias Czechcloud v těchto umělou inteligencí generovaných coverech ale vidí velké riziko, právě proto, že on sám není iniciátorem celého trendu s použitím jeho vlastního hlasu. Zde je jeho vyjádření. (Jeho reakce na toto téma končí v 31:22)




Stejný trend se rozšiřuje i v světě. Žijeme v době, kdy si můžeme užít například Pokemon znělku ve stylu Linkin Park


nebo píseň z oscarového filmu Titanik od

Céline Dion - My Heart Will Go On v podání Freddieho Mecury


Stačí jen pár minut audio záznamu hlasu a můžete zkopírovat hlas kohokoliv, takže například i jednoho velmi známého německého vůdce… co třeba v coveru původní písně Rap God od Eminema? (https://www.youtube.com/watch?v=RiqCH8izYsE) nebo Rag'n'Bone Man - Human (https://www.youtube.com/watch?v=_LocYZPZX7M).


Kromě zábavy tato umělá inteligence také přináší svoje rizika. Například falešné hovory se snahou vás podvést a připravit o peníze (zmíňku o nich měl i Czechcloud ve svém vyjádření - odkaz výše), já sám jsem takový hovor už i osobně zažil ve Velké Británii, velmi promyšleně spojený s chatbotem, který s vámi vede konverzaci a snaží se vás vytáhnout citlivé informace. Hlas byl k nerozeznání od lidského a v prvních minutách se ani nedalo říci, zda je to člověk nebo ne, odhalil jsem to až ve chvíli, kdy jsem si začal všímat delších časových prodlev po tom, co jsem dokončil větu a než začala druhá strana reagovat na moje slova.


Jak taková umělá inteligence pro klonování hlasu vlastně funguje?

Do nástroje vložíte video nebo zvuk a umělá inteligence sestaví odpovídající model algoritmu. Ten „cvičí“ systém tak, aby se „učil, chápal a produkoval analytická data“. Nakonec vytvoří kopii, která se dá jednoduše „nasadit“ na jakýkoliv text, do pár minut si tak můžete stáhnout mp3 soubor s nahrávkou čehokoliv vás napadne.

Záměrně zde žádný z těchto nástrojů nejmenujeme. Stejně jako jste už slyšeli v písních s AI covery, má to svoje mouchy, ale i tohle je jen otázkou času, než tato technologie bude k nerozeznání od člověka.



Je to legální? Jaké jsou tedy naše práva a jak se dá bránit?

„Ochranu hlasu, jakožto projev osobní povahy, zajišťuje právo na ochranu osobnosti zakotvené v občanském zákoníku. A je vcelku jedno, zda jde o hlas známého zpěváka, hollywoodského herce nebo běžného člověka. Pokud tedy někdo bez souhlasu zneužije cizí hlas a za pomocí AI vytvoří a publikuje vlastní obsah, porušuje tím zákon. Lhostejno, jaký ekonomický užitek mu to přinese.

Pokud by dokonce takový vlastní obsah vydával za dílo autora zneužitého hlasu, mohl by zasáhnout do autorských práv. Podobný případ se odehrál nedávno v USA, kde anonym nechal AI složit píseň Hearth on My Sleeve, která měla představovat skladbu Drake a The Weeknd. Po tlaku nahrávacích studií byla písnička ze streamovacích platforem stažena.“ advokát JUDr. Jakub Šefrna


Pokud si myslíte, že by měl být někdo z vašich blízkých s touto problematikou obeznámen můžete mu sdílet tento článek. Napište nám, co si o tomto trendu myslíte. Jestli vás pobavily AI covery hudby a jaká další rizika si dokážete představit.


Zdroje:

Příběh scam hovoru

Czechcloudovo vyjádření k Ai coverům (jeho reakce na toto téma končí v 31:22)

Článek o Czechcloudově klonovaném hlasu a vyjádření advokáta JUDr. Jakuba Šefrna

16 zobrazení0 komentářů

Nejnovější příspěvky

Zobrazit vše

コメント

5つ星のうち0と評価されています。
まだ評価がありません

評価を追加
bottom of page