Rasistická umělá inteligence. Má problém s identifikací obličejů tmavé pleti - Euro.cz

Předplatné

  • 49x týdeník Euro
  • 30x Speciál
  • Přístup k premium článkům
  • Web bez reklam
  • Týdeník v elektronické podobě
Výhody předplatného

Přihlášení

Rasistická umělá inteligence. Má problém s identifikací obličejů tmavé pleti

,
Rasistická umělá inteligence. Má problém s identifikací obličejů tmavé pleti
Zdroj: Profimedia.cz

Až desetkrát horší výsledek vykazují algoritmy na identifikaci obličeje v případě lidí s tmavou barvou pleti. Software, který vytvořili lidé, se tak nechová ke všem lidem rovnoprávně, namítají kritici používání této technologie.

Software, který slouží k rozpoznávání obličejů například na letištích nebo v přístavech, vykazuje větší chybovost, pokud se jedná o analýzu lidí s tmavší pletí. Nejhorší výsledky vykazuje u žen, které mají tmavou barvu kůže.

Časopis Wired upozornil na to, že algoritmy francouzské společnosti Idemia, jejíž technologii používají například celníci a pohraničníci Spojených států, „nevidí“ všechny tváře stejně. Vychází z čerstvých testů amerického Národního institutu pro standardy a technologie NIST, které je financováno z rozpočtu amerického ministerstva obchodu.

Institut prováděl testování na pasových fotografiích. V případě bílých obličejů žen měl software chybovost jen jednou na 10 tisíc vzorků, v případě tmavých ženských obličejů to bylo jedna ku tisíci, tedy desetkrát častěji. Jedna chyba na deset tisíc vzorků je uznávaným standardem pro to, že technologie pro rozpoznávaní obličejů je spolehlivá.

Donnie Scott z americké pobočky firmy Idemia se brání tvrzením, že testované algoritmy nebyly komerčně nasazeny a technologie je stále ve vývoji. „Existují fyzické rozdíly u různých lidí a algoritmy se budou vylepšovat,“ zdůraznil Scott.


Jak miliardáři ze Silicon Valley krmí Trumpovu deportační mašinérii

Americko-mexická hranice u města Tijuana


Pravdou nicméně zůstává, že technologie rozpoznávání obličejů má u lidí s tmavou barvou kůže větší problémy vybrané jedince identifikovat. Obecně vykazuje vyšší chybovost také u žen, protože často používají výrazné líčení. Nejspolehlivější výsledky testovaných algoritmů od různých výrobců se dosahují u bílých mužů. To znamená, že Běloši jsou lépe identifikovatelní než ostatní etnické skupiny.

Už v roce 2018 odborníci z technologického institutu v Massachusetts upozornili na to, že algoritmy pro identifikaci obličejů od firem Amazon, Microsoft a IBM jsou v případě lidí tmavší pleti méně přesné. Také proto se v americké společnosti vede debata o tom, zda je správné tuto technologii v masovém měřítku používat. San Francisco ji v květnu jako první z měst v USA zakázalo a přidávají se další města.

Proč umělá inteligence dělá více chyb v případě tmavé pleti, odborníci neumí jasně identifikovat. Šéf vývoje u firmy Cognitec Thorsten Thies připustil, že by to mohlo být tím, že je složitější udělat kvalitní snímek někoho, kdo má tmavou pokožku, než u lidí se světlou barvou kůže.

Zástupci policie, kteří také identifikaci obličejů z kamerových systémů hojně využívají, zdůrazňují, že odpovědní důstojníci vždy pečlivě srovnávají fotografie možných pachatelů, které mají v databázi a proto odmítají, že by mohlo dojít k rasovým rozdílům při vyšetřování kriminality. Přitom podle zprávy z roku 2016 už mají policejní a další bezpečnostní složky Spojených států v databázích polovinu všech občanů žijících v USA.


Daň nulové tolerance k migrantům: američtí pohraničníci se hroutí, sebevražd přibývá

Ochrana hranice USA s Mexikem. Ilustrační foto.


Problémem může být to, že většina firem při vývoji technologie nepoužívá dostatečně reprezentativní vzorky druhů obličejů. Větší zastoupení mají lidé se světlejší pletí.

Patrick Grother z NIST doplnil, že také fotografické technologie byly od svého počátku optimalizovány pro světlejší typy kůže, a proto je kvalita snímků tmavších lidí horší. Navíc jsou si statisticky tváře Afroameričanů více podobné, uvedl provokativní postřeh.

Odborník na technologii rozpoznávání obličejů z technologického institutu na Floridě Michael King tvrdí, že je třeba dalšího výzkumu, aby se mohlo spolehlivě říci, proč jsou lidé s tmavou pokožkou hůře identifikovatelní současnými technologiemi. Dlouhodobým cílem by mělo být to, aby technologie pracovaly bez ohledu na barvu kůže pro všechny stejně spolehlivě.

Dále čtěte:

Na americkou hranici může přijít až 42 milionů lidí, varuje šéf Gallupova ústavu

Jak maká Trump? Většinu pracovní doby se fláká a šaškuje, tvrdí kritici

Letošní karavana migrantů je jenom začátek. Do pohybu se dá 150 milionů lidí

Americká armáda natahuje ostatný drát v Texasu na hranici s Mexikem.

Ohodnoťte tento článek
Diskuze