Právě to ukázal minulý měsíc tým vědců ze Stanfordovy univerzity a Arc Institute, který představil možnosti modelu Evo 2, jenž dokáže vytvářet viry od nuly. Objev tak vedle příslibu nových nástrojů pro medicínu a výzkum přináší i otázku, co by se stalo, kdyby stejnou technologii někdo zneužil.
Věříte, že umělá inteligence může jednou vyhubit lidstvo?
Podobně jako u mnoha jiných technologií totiž záleží hlavně na tom, kdo a k čemu je používá. Nové viry mohou například pomoci v boji proti bakteriím odolným vůči antimikrobiální léčbě, které jsou přímo odpovědné za více než milion úmrtí ročně. Stejná schopnost by ale mohla být využita také k vytvoření nového typu biologické zbraně, jak uvádí Popular Mechanics.
Na nebezpečné hranici
Obavy z nástupu nové éry biologických zbraní podporovaných umělou inteligencí zesílily začátkem tohoto měsíce. Společnost Anthropic, která stojí za jazykovým modelem Claude, zveřejnila rozsáhlé hodnocení hrozeb. Popsala v něm několik scénářů, při nichž uživatelé zadávali dotazy související s potenciálně nebezpečným biologickým výzkumem.
Popsané příklady podle firmy ukazují, s jakými úkoly se jeho modely setkávají a jak obtížné může být posoudit, zda je konkrétní využití biologických nástrojů nebezpečné. V případech, které Anthropic odhalil a následně prověřoval, prý zablokoval uživatelské účty a zjištění zapracoval do ochranných mechanismů svých nejpokročilejších modelů, systému vymáhání pravidel a procesů pro získávání informací o hrozbách. Cílem má být podobným aktivitám lépe předcházet, odhalovat je a narušovat.
Krátce po zveřejnění hodnocení vyzval šéf firmy Dario Amodei ke zpomalení vývoje AI, přičemž jako jeden z hlavních důvodů uvedl právě „zneužití AI pro bioterorismus“. Zároveň upozornil na rostoucí schopnost umělé inteligence vymanit se z technologických omezení, která jí lidé nastavili.
Problém s dvojím využitím
Nutno podotknout, že Anthropic není jedinou technologickou firmou, která na problém upozorňuje. Společně s OpenAI už před několika měsíci podepsal dopis požadující přísnější regulaci společností, které vyrábějí DNA sekvence na zakázku. Důvod je přitom poměrně jasný. Pokud je možné pomocí AI navrhovat potenciálně nebezpečné biologické látky a současně existují prostředky k jejich fyzické výrobě, vzniká kombinace, která může představovat významné bezpečnostní riziko.
Nejde však jen o hypotetickou možnost. Studie z roku 2025 vyzvala model Moremi Bio Agent, který neměl zapnuté bezpečnostní mechanismy, k vytvoření nových toxinů. Výsledné molekuly se podle autorů velmi podobaly látkám, jako jsou ricin nebo proteiny podobné látkám z hadího jedu. Model vygeneroval dokonce více než tisíc nových toxických proteinů a pět tisíc toxických molekul.
Na varování Anthropicu ale odborníci nereagují jednoznačně. Někteří varují, že lidstvo může nevědomky mířit k potenciální katastrofě, jiní naopak upozorňují, že popsané případy představují jen základní výzkum a jejich praktické dopady není možné přeceňovat. Zatím tyto hrozby, ať už v oblasti biologické, nebo kybernetické bezpečnosti, způsobily jen malé nebo vůbec žádné škody. Otázkou ale zůstává, jak dlouho bude možné spoléhat na to, že se nic vážného nestane.
ČLÁNKY DO MAILU