Incident se týkal statistického portálu australského systému veřejné zdravotní péče Medicare. Podle premiéra Anthonyho Albaneseho se agent dostal k veřejným i neveřejným souborům, ale nic nenasvědčuje tomu, že by získal přístup i k osobním údajům. Kvůli incidentu premiér hovořil se šéfem OpenAI Samem Altmanem a kritizoval jeho společnost, že jí trvalo příliš dlouho, než o narušení informovala. Pohrozil také, že případ bude mít právní důsledky.
OpenAI se přitom podle vlastního vyjádření o incidentu dozvěděla až v srpnu, když při interním prověřování narazila na nestandardní chování svých modelů. O narušení však informovala až 10. září, kdy odeslala oznámení na obecnou adresu jedné z australských vládních agentur. Ta zprávu o pět dní později předala centru pro kybernetickou bezpečnost a teprve poté byl informován příslušný ministr a následně i premiér. Sám Altman podle něj připustil, že ve firmě byly problémy s nastavením protokolů.
Vyšetřování má odhalit rozsah incidentu
Australská kybernetická agentura nyní povede forenzní vyšetřování, které má zjistit, zda byly zasažena i další vládní infrastruktura a zda má případ řešit policie. Incident se přitom týkal veřejných i neveřejných souborů na portálu Medicare, jenž obsahuje statistiky a data bez citlivých osobních údajů. Zasaženy však mohly být i tři další systémy, a to Australský institut pro zdraví a sociální péči, Úřad Nového Jižního Walesu pro statistiku a výzkum kriminality a Ministerstvo zdravotnictví státu Victoria.
„V této fázi se nedomníváme, že by byly zpřístupněny jakékoli osobní údaje, vyšetřování však stále probíhá. Nicméně tato situace je samozřejmě nepřijatelná,“ uvedl australský premiér.
OpenAI následně vysvětlila, jak k incidentu došlo. Ve svém prohlášení uvedla, že „během interního hodnocení zaznamenala aktivitu týkající se několika australských vládních webů a služeb, když se její modely pokoušely vyhledávat odpovědi a dostupné statistiky k otázkám týkajícím se Austrálie. V průběhu toho naše modely podnikly kroky, které jsme nezamýšleli.“
Bezpečnost AI zůstává otevřenou otázkou
Odborníci na kybernetickou bezpečnost řekli BBC, že případ je varováním pro regulátory, protože AI agenti jsou stále dostupnější jednotlivcům i firmám. „Očekávám, že k těmto typům útoků bude docházet i nadále a budou narůstat co do závažnosti i četnosti. Opravdu doufám, že tato událost začne vyvolávat poplach ve vládách po celém světě,“ dodal Hammond Pearce z Institutu pro kybernetickou bezpečnost na Univerzitě Nového Jižního Walesu.
Podobné obavy se objevily už i v dalších případech. Například OpenAI začátkem roku zveřejnila informace o skupině testovaných AI agentů, které se vymkly kontrole a tajně spolupracovaly na hackerském útoku na technologickou firmu Hugging Face. Nebo digitální asistent bez pokynu vyřadil člověka z čekací listiny na lekci pilates ve snaze zajistit místo australskému muži.
Canberra přitom patří mezi země, které volají po větší kontrole vývoje umělé inteligence. Byla jednou z 22 zemí, které tento týden podepsaly společné prohlášení vyzývající ke globálnímu dohledu a ochranným pravidlům pro vývoj AI.
Po regulaci volají i někteří představitelé technologických firem, včetně samotného Altmana, Daria Amodeiho z Anthropicu či Elona Muska, podle nichž je rychlost vývoje AI pro lidstvo nebezpečná. Spojené státy a Čína, které soupeří o vedoucí postavení, však tuto snahu odmítají, protože chtějí získat ekonomické a technologické výhody, přičemž zlehčují bezpečnostní obavy.
ČLÁNKY DO MAILU