Umělá inteligence nepřináší jen výhody v podobě automatizace nejrůznějších činnosti, ale také určitá bezpečnostní rizika. Ta se týkají hlavně oblasti generativní umělé inteligence, která umí dnes už poměrně věrohodně napodobit vzhled i hlasový projev existujícího člověka, za nějž se může vydávat. Tak vznikají deepfake multimédia (obrázky, videa, zvuky). Právě deepfakes jsou u mnoha lidí příčinou nedůvěry k technologiím založeným na umělé inteligenci.
Firmy z oboru jsou si tohoto rizika vědomy a snaží se investovat do technologií, které uživatelům pomohou zorientovat se v komplexním světě umělé inteligence. Takové řešení teď představil i mobilní výrobce Honor, který stále častěji uplatňuje AI u ovládání smartphonů. Jeho řešení AI Deepfake Detection bude integrováno přímo do zařízení, kde má detekovat pokusy o podvodné napodobení obličeje a upozorní na ně uživatele.
Porovnání obrazu na úrovni pixelů
Technologie je trénovaná na rozsáhlém souboru dat a podle Honoru dokáže odhalit a varovat uživatele před vygenerovanou nebo pozměněnou tváří. AI Deepfake Detection snižuje riziko podvodů díky analýze prostorových prvků, které rozpoznávají syntetické nedokonalosti na úrovni pixelů, artefakty na okrajích kompozice, konzistenci obličeje a vlasů, ale i umístění dalších syntetických stop. Tato technologie tak dokáže zachytit i drobné anomálie a upozornit uživatele na potenciální podvod.
Tento proces zajišťuje přesné rozpoznání změn v rysech obličeje, konzistence mezi snímky i anomálií, jako je chvění nebo blikání obrazovky, což umožňuje odhalit pachatele a varovat uživatele před nebezpečím. Zabezpečení a ochrana soukromí na úrovni systému je podle Honoru v éře umělé inteligence zásadní. Proto ji výrobce integruje v rámci prostředí Magic OS přímo na úroveň čipsetu. Tomuto zabezpečení říká výrobce MagicGuard, chránit bude uživatelovo zařízení na úrovni čipsetu, operačního systému i jednotlivých aplikací. Ve které verzi Magic OS se nová funkce objeví, výrobce zatím neuvedl.
Ukázka řešení AI Deepfake Detection na smartphonu:
