4. mája 2025 • 2m čítanie

Otrava pre AI: Softvér, ktorý upraví fotky proti rozpoznaniu cez AI

Nástroj, ktorý sťaží AI analyzovanie vašej tváre.

Na stránke Chicagskej univerzity výskumníci zo SAND Lab na tejto univerzite zverejnili nástroj na maskovanie fotografií pre AI. Na základe vlastného algoritmu zmenia vašu fotografiu tak, aby ju detekčné mechanizmy analyzujúce pixely neboli schopné rozpoznať do porovnania s vašou tvárou v budúcnosti.

Softvér Fawkes (pomenovaný podľa masky Guya Fawkesa z filmu V ako Vendeta) vkladá do fotografií malé zmeny na úrovni pixelov. Pre ľudské oko nepostrehnuteľné alebo takmer nebadateľné, pre AI zatiaľ problém.

originalne a maskovane tváre na fotografách proti analyzovaniu AI

Autori projektu hovoria doslova o otrave pre AI. Bližšie preskúmanie ľudským okom by mohlo ukázať malé zmeny, musíte sa ale veľmi sústrediť. Na testovacej fotografii s veľkosťou 3 MB vznikla nová zamaskovaná pre AI, s veľkosťou 10 MB.

Analyzovanie tváre sa rozmáha v čoraz väčšom pošte krajín a represívne zložky budú túto AI funkciu využívať vo veľkom. Produkty ako poskytuje firma Clearview AI budú na vzostupe. Nespoliehajte sa na GDPR alebo právnu ochranu.

Pozor na to, že fotografie, ktoré ste mali na verejných profiloch sociálnych sietí a na webe, už analyzované boli. Na nich sú AI nástroje naučené, Fawkes by mal poskytnúť vyššiu úroveň do budúcna. Dokedy? Nevedia ani samotní výskumníci. Tí priznávajú, že AI sa vyvíja, a tak použitie tohto nástroja dnes nebude v terajšej verzii zárukou na ďalšie roky. Je tu teda predpoklad ďalšieho vývoja a držania kroku s AI analyzátormi tvárí.

Softvér si môžete zadarmo stiahnuť tu pre Windows aj macOS. Je to jeden 600 MB súbor. Nič netreba inštalovať, počítajte s tým, že spustenie bude trvať niekoľko sekúnd aj na výkonnejších počítačoch.

Zdroj: SAND Lab

Prečítajte si aj:

Umelá inteligencia

Nahlásiť chybu

Redaktor

Michal Reiter

Sledujem aktuálne trendy z oblasti technológií, bezpečnosti, súkromia a dôveryhodnosti diania v digitálnej scéne. Mojimi rukami prešlo stovky produktov od notebookov, smartfónov cez slúchadlá až po špecializovaný hardvér. Prinášam zrozumiteľný pohľad na výzvy a problémy, ktoré so sebou prináša digitalizácia a dianie vo svete IT. Hľadaniu odpovedí v tejto oblasti sa venujem už viac ako 20 rokov.