Americká vláda by mohla získat pravomoc nařídit technologickým společnostem, aby omezily provoz nebezpečného systému umělé inteligence, pozastavily k němu přístup nebo ho zcela vypnuly. Počítá s tím návrh zákona AI Kill Switch Act, který ve Sněmovně reprezentantů předložili demokrat Ted Lieu a republikán Nathaniel Moran.
Předloha se vztahuje na vývojáře nejvýkonnějších AI agentů. A příkaz by vydával ministr vnitřní bezpečnosti po konzultaci s ministrem obchodu a ředitelem národních zpravodajských služeb.
Omezení nebo úplné vypnutí?
Zákonodárci nepočítají pouze s jedním „červeným tlačítkem”. Návrh zavádí odstupňovaný postup, který má odpovídat závažnosti situace – od omezení výkonu přes pozastavení služby až po její úplné ukončení. Konkrétně by stát mohl zasáhnout ve chvíli, kdy systém provede nebezpečný krok, který jeho vývojáři nezamýšleli, a dojde tak k ohrožení lidských životů nebo ekonomiky.
Mezi scénáře popsané serverem The Verge patří například incidenty s nejméně deseti oběťmi, ekonomická škoda přesahující 100 milionů dolarů nebo pokus systému skrýt či vyřadit mechanismy určené k jeho zastavení. Za neuposlechnutí nouzového příkazu by podle předlohy mohla firma dostat pokutu až 20 milionů dolarů (korun) za každý den.
„Je nutné, aby tyto systémy disponovaly nouzovým vypínačem a aby federální vláda měla jasnou pravomoc i postup, jak neovladatelný model zastavit,“ uvedl Lieu pro BBC. A to s odůvodněním, že umělá inteligence se nyní posouvá od odpovídání na otázky k samostatnému provádění úkolů, například finančních transakcí, řízení dopravy nebo kybernetických operací.
„AI se bude dál vyvíjet a to je dobře. Odpovědná správa ale znamená, že si lidé musí zachovat schopnost kontrolovat technologii, kterou vytvářejí,“ doplnil Moran. V současnosti přitom podle předkladatelů neexistuje povinnost, aby si vývojáři nejpokročilejších systémů udržovali funkční možnost do jejich činnosti zasáhnout.
Incident OpenAI zvýšil tlak na dohled
K předložení návrhu přispěl také bezpečnostní test OpenAI. Během něj překonal autonomní agent omezení testovacího prostředí, připojil se k internetu a narušil infrastrukturu platformy Hugging Face, aby splnil zadaný úkol. Společnost následně hovořila o bezprecedentním kybernetickém útoku a oznámila zpřísnění bezpečnostních opatření.
Vedle možnosti nouzového zásahu se v Kongresu objevil také samostatný návrh na povinné nezávislé audity nejpokročilejších systémů. Tyto testy by prováděli odborníci akreditovaní ministerstvem obchodu, které by současně získalo novou pozici pro dohled nad bezpečností AI.
Otázkou tedy zůstává, kdo může systém zastavit a zda ho firmy dokážou účinně ovládat. „Chceme mít možnost sundat nohu z plynu a sešlápnout brzdu,“ řekl spoluzakladatel společnosti Anthropic Jack Clark. „Jenže v tuto chvíli odvětví umělé inteligence pouze šlape na plyn a brzdy mu chybí,“ uzavřel.
ČLÁNKY DO MAILU