Reakce na protesty v USA: IBM končí s prodejem technologií pro rozpoznávání obličeje - Euro.cz

Předplatné

  • 49x týdeník Euro
  • 30x Speciál
  • Přístup k premium článkům
  • Web bez reklam
  • Týdeník v elektronické podobě
Výhody předplatného

Přihlášení

Reakce na protesty v USA: IBM končí s prodejem technologií pro rozpoznávání obličeje

,
Reakce na protesty v USA: IBM končí s prodejem technologií pro rozpoznávání obličeje
Zdroj: Profimedia.cz

Ve stínu událostí posledních dní ve Spojených státech se technologická společnost IBM rozhodla, že ukončí distribuci a prodej technologie rozpoznávání obličejů, která podle ředitele Arvinda Krishny porušuje občanská práva a svobody. Je na čase začít s celostátní debatou, jak by technologie rozpoznávání obličeje měla být využívána, uvedl Krishna.

Jako jedna z reakcí na protesty proti rasismu, odehrávajících se ve Spojených státech, se v posledních dnech společnost IBM rozhodla ustoupit od distribuce technologií zaměřených na rozpoznávání obličejů. Jedním z faktorů je problematika omezené funkčnosti těchto systémů u etnického obyvatelstva, příslušníků menšin a žen. V minulosti se už několikrát ukázalo, že technologie dosud fungují s velkou chybovostí a to zejména z důvodu nereprezentativních vstupních dat.

Souhlasíte s použitím technologií pro rozpoznávání obličejů v ulicích?

IBM se nadále nechce podílet na technologiích, které podle společnosti slouží k plošnému dohledu, rasovému rozřazování, porušování základních lidských práv a svobod nebo jiných přístupech, které by porušovaly hodnoty a principy IBM, tedy důvěru a transparenci.

Umělá inteligence, díky které má rozpoznávání tváří fungovat lépe, často vycházela ze snímků vybraných vývojáři. Tato data však byla zavádějící, jelikož se většinou jednalo o bílé muže a neodráželo to tak různé odstíny kůže ani pohlaví zastoupená ve společnosti. Kvůli tomu nebyla technologie schopna správně rozpoznávat tváře. U některých skupin obyvatelstva docházelo k chybovosti kolem 30 procent.

„Věříme, že je na čase abychom začali s celostátní debatou, zda by měla být technologie rozpoznávání obličejů využívána ze strany státní moci,“ uvedl Krishna v prohlášení. Dosud v Americe neexistuje federální zákon, který by použití technologie omezoval, či jinak upravoval. Jednotlivá města a státy tak přistupují k různým řešením – někde se použití výrazně omezí, jinde dostane zelenou.

IBM je první z velkých technologických firem, která se rozhodla pro nerozvíjení technologie rozpoznávání obličejů. Amazon dva dny po oznámení společnosti IBM oznámil, že v následujícím roce přerušuje distribuci systému Rekognition pro americkou policii. V roce 2018 Americká unie pro občanské svobody (ACLU) demonstrovala nedokonalost systému, když dokázala, že Rekognition špatně přiřadil 28 členů Kongresů k zločinců, kteří byli vybraní z 25 tisíc policejních identifikačních fotek po zatčení.

Podle kritiků z ACLU technologie dochází při rozpoznávání identity k porušování soukromí například v případě společnosti Clearview AI – ta v Illinoiss spojuje biometrické údaje s internetovou stopou zaznamenané osoby. Zástupci ACLU tvrdí, že sbírání těchto dat bez oznámení nebo bez získání souhlasu od daného člověka znamená porušení místních zákonů. „Použití rozpoznávací technologie Clearview získal více než tři miliardy identifikačních fotek, které jsou dostupné online. To vše bez vědomí- více či méně – těch, co jsou na fotkách,“ tvrdí představitelé ACLU.

Reakce na protesty v USA: IBM končí s prodejem technologií pro rozpoznávání obličeje
4.4 (87.5%) 8 hlasování
Zdroj: gendershades.org, theverge.com, ibm.com, wired.com, aclu.com
Diskuze