Umělá inteligence se naučila chápat sarkasmus. Kvůli teroristům - Euro.cz

Zprávy

Přihlášení

Umělá inteligence se naučila chápat sarkasmus. Kvůli teroristům

,
Umělá inteligence se naučila chápat sarkasmus. Kvůli teroristům
Zdroj: Depositphotos
  • Výzkumníci z americké univerzity vyvinuli nový způsob strojového rozpoznání sarkasmu

  • Metoda funguje na principu hledání skrytých vztahů mezi slovy

  • Výzkum spolufinancovala DARPA, protože může mít zpravodajský význam

Rozpoznat humor či nadsázku je pro počítačové programy jedním z nejobtížnějších úkolů. Přesvědčili se o tom mnozí, jimž byl dočasně zablokován účet na Facebooku nebo Twitteru kvůli nevhodnému slovu v příspěvku, který se lidskému rozumu jevil jako nevinný. Výzkumníci z americké University of Central Florida nyní vyvinuli novou metodu, jak sarkasmus spolehlivě detekovat umělou inteligencí. Jejich cílem ovšem nebylo vylepšit funkčnost sociálních sítí, ale zpravodajských služeb.

Analytikům agentur jako CIA, NSA a podobně totiž přidělává práci analýza textů, které automatický monitoring mylně označí jako zpravodajsky významné právě na základě určitých klíčových slov. Zpravodajci se tak musí mimo jiné probírat tisíci ironických, parodických či sarkastických příspěvků ze sociálních sítí. Vědci z floridské univerzity ale přišli na to, že právě klíčová slova, respektive některé jejich kombinace, jsou spolehlivým ukazatelem sarkasmu – a to i v situacích, kdy prakticky chybí kontext, který by humornou povahu textu pomohl odhalit. O výzkumu financovaném částečně americkým ministerstvem obrany informoval specializovaný server Defense One.

Ivan Garibay a Ramya Akula trénovali umělou inteligenci na datových sadách sestavených z příspěvků na Twitteru nebo Redittu, ale také titulků známého parodického serveru The Onion. O své metodě hovoří jako o „sebepozorovací architektuře“. V principu jde o to, že neuronové sítě se učí dávat některým slovům větší váhu než jiným na základě toho, jaká slova se vyskytují v jejich blízkosti a jaký úkol má počítačový program plnit.

Na financování výzkumu se podílela vojenská agentura DARPA, a to s cílem „porozumět způsobu, jímž nepřátelé využívají globální informační prostředí, lépe, než je aktuálně možné s využitím existujících postupů“.

I vojáci mají v poušti žízeň. Proto chtějí vyrábět vodu ze vzduchu, do výzkumu investují miliony dolarů

Klíčovou výhodou nové techniky je podle Garibaye to, že umožňuje zpětně zjistit, jak počítač ke svým závěrům dospěl. Právě tuto vlastnost považují výzkumníci za klíčovou ke spolehlivému uplatnění umělé inteligence v kontextu národní bezpečnosti. „Musíme mít opravdu dobré důkazy toho, jak jsme svých závěrů dosáhli,“ cituje Defense One na jiném místě zástupkyni ředitele CIA pro vědu a techniku Dawn Meyerriecksovou. „Nemůžete jít k prezidentovi a dát mu doporučení založené na procesu, kterému nikdo nerozumí,“ vysvětlovala nedůvěru politiků k analytickým údajům získaným umělou inteligencí.

Sarkasmus je pro počítačové systémy záludnější než jiné druhy humoru, protože staví na opačném či extrémně přehnaném významu slov. Twitter tak například v roce 2018 zablokoval množství uživatelů kvůli frázi „Kill me“ (doslova zabijte mě). Běžně se používá v nadsázce, připodobnit bychom ji mohli třeba k českému „já se picnu“, algoritmy ji ovšem vyhodnotily jako projev vůle k sebepoškozování.

Humor nicméně lákal vědce už dlouho před vzestupem umělé inteligence. Americký profesor Victor Raskin publikoval v roce 1985 knihu s velmi nehumorným názvem „Sémentické mechanismy humoru“, v níž definoval teoretický rámec a lingvistické algoritmy pro interpretaci slovního humoru. Jeho student Salvatore Attardo posléze Raskinovu práci rozvedl do obecné teorie slovního humoru.