To, jakou rychlostí se umělá inteligence „učí“ novým kouskům, až bere dech. Doslova ze dne na den toho umí víc a víc, a v budoucnu hrozí, že bude různými způsoby zneužita. Jednou z možností, jak může umělá inteligence škodit u telefonů, jsou tzv. deepfake. Konkrétně v průběhu videovolání přes Facebook, WhatsApp nebo FaceTime se může druhá strana stylizovat pomocí AI do podoby vašeho známého (video + hlas), a přitom to vůbec nebude pravda. Nová studie však ukázala, že tento problém budou moci smartphony v budoucnu eliminovat celkem snadno – a to pomocí svých vibrací.
Srovnání reálné a podvržené tváře při videovolání přes telefon. Když se s ním zatřepe (nebo telefon výrazně zavibruje), umělá inteligence si s obrazem neví rady...
Už dnes existuje řada tzv. deepfake aplikací, které mohou vcelku realisticky reagovat na pohyb hlavy uživatele, který mluví upraveným hlasem. Protistranu vidíte při volání v samostatném okně, a i její pohyb před kamerou vypadá realisticky, byť osoba navenek vypadá jinak, než tak, jak ji vidíte.
Protože však v tréninkových datech bylo minimum hovorů rozmazaných v pohybu, je možné podvržená videovolání odhalit vibracemi. Pokud komunikační služba pošle do druhého telefonu povel k tomu, aby zavibroval, umělá inteligence není schopna reagovat na drobné rozmazání obrazu, a část z něj zůstane i při lehkém pohybu telefonem stále na svém místě.
Ochranu půjde nasadit přímo do telefonu
V rámci studie vzniklo cloudové řešení SFake, které slouží jako hypotetický prostředník mezi komunikačními službami. Dokáže na komunikující telefony zaslat specifický vzorec vibrací a ten následně vyhodnotit. Pokud se u obrazu objeví artefakty popsané výše, služba varuje uživatele o tom, že se může jednat o podvržený hovor. Autoři studie tvrdí, že je ve výzkumu nutné pokračovat, ovšem už samotné zjištění, že pomocí vyhodnocení zaslaných vibračních příkazů do druhého telefonu lze odhalit deepfake obsah, může do budoucna vylepšit stávající ochrany.
Do studie se zapojilo osm různých telefonů značek Xiaomi, Oppo, Huawei, Oppo a Google, 15 uživatelů a pětice nejpoužívanějších deepfake algoritmů. Řešení SFake bylo následně srovnáno s šesti dalšími metodami pro detekci deepfake. Ve finále mělo větší přesnost detekce (více než 95 %) i nižší nároky na paměti a rychlejší vyhodnocení než konkurenční řešení. SFake však nemusí běžet jen na cloudu, má velikost 450 MB, takže je možné jeho nasazení i přímo ve smartphonech, které tak nebudou závislé na kvalitě konektivity. Kompletní studii si můžete přečíst zde.
Via: Unite
