Jeden z nejvýznamnějších vědeckých pracovníků v odvětví umělé inteligence (AI), jehož raný výzkum týkající se hlubokého učení a neuronových sítí stál na začátku současného boomu AI, pronesl na nedávném Světovém ekonomickém fóru v Davosu znepokojivé varování. Kanaďan Yoshua Bengio se totiž domnívá, že rozvoj takzvaných AI agentů může skončit velmi špatně.
Pojmem AI agenti se označuje umělá inteligence, jež dokáže samostatně přemýšlet a jednat, a to nezávisle na lidském vstupu. Podle mnoha významných technologických společností jsou přitom právě tito agenti ideálním způsobem, jak co nejdříve dosáhnout obecné umělé inteligence (AGI), která by dokázala uvažovat podobně jako lidé.
Představuje podle vás umělá inteligence hrozbu pro lidstvo?
Bengio ovšem s tímto názorem nesouhlasí a AI agenty považuje pro celé lidstvo hlavně za hrozbu. „Pokud je k vývoji AGI a dalších superinteligencí skutečně použijeme, pak se všechny ty katastrofické scénáře doopravdy stanou. Chci zdůraznit, že toto je podle mého názoru vskutku velmi nebezpečná cesta. Zároveň jsem ale přesvědčen, že je možné vyvinout obecnou umělou inteligenci i bez agentů,“ řekl podle Business Insideru kanadský odborník.
Konkurenční boj vede k opomenutí bezpečnosti
Bengio během svého vystoupení v Davosu uvedl mimo jiné to, že podle něj jsou přínosy připisované AI agentům nadsazené a že celkově je zájem firem o ně zbytečně velký a přehnaný. „Veškerá umělá inteligence pro vědu a medicínu, a tedy všechny věci, které lidi zajímají, nejsou AI agenty. Můžeme proto bez problémů pokračovat ve vytváření výkonnějších systémů umělé inteligence i bez nich,“ doplnil.
Navzdory Bengiově prohlášení se ovšem zdá, že řada technologických společností má zcela odlišný názor. Třeba jedna z nejvýznamnějších firem v oboru OpenAI minulý týden představila AI agenta, který může za člověka provádět různé úkoly, jako je třeba rezervace restaurací nebo přidávání potravin do košíku. Pilotní verzi podobného nástroje nedávno spustil také Google.
A právě stupňující se konkurence mezi jednotlivými technologickými firmami je trochu paradoxně jedním z hlavních důvodů, proč AI agenti představují hrozbu. Jednotliví hráči se totiž snaží své produkty uvést na trh co nejdříve, kvůli čemuž dle Bengia nevěnují dostatečnou pozornost jejich bezpečnostním aspektům.
Jedna AI může kontrolovat jinou AI
I kanadský otec umělé inteligence připouští, že přimět firmy k opuštění vývoje AI agentů bude pravděpodobně nereálné. Kvůli tomu vyzval alespoň k zavedení regulací, které by společnostem vyvíjejícím zmíněné nástroje zabránily ve vytváření AI agentů, aniž by nejprve prokázaly, že jsou zcela bezpečné. K takovému účelu by přitom mohly sloužit třeba speciálně vyvinuté AI softwary, jež by činnost AI agentů zvládly kontrolovat.
„Musíme pokračovat ve vývoji bezpečné a schopné umělé inteligence, ale nejprve je nutné uvědomit si možná rizika a dobře je pochopit. Teprve poté můžeme začít provádět velké technologické investice, aby se nestalo, že vytvoříme věci, které nás mohou zničit,“ uzavřel Bengio.
