„Zlá umělá inteligence“ dokázala za 6 hodin vynalézt 40 000 smrtících zbraní

Tvrdí to aspoň experti, kteří vytvořili systém na tvorbu drog. Ten měl prozkoumat, jak může být reálně zneužito, když se budou vyrábět zlé zbraně. Údaje byly publikovány v magazínu Nature Machine Intelligence. Vědci předvedli, jak jednoduché je AI modifikovat, aby se mohla rychle stát velmi nebezpečným nástrojem. Bylo jí nařízeno, aby navrhla možné chemické zbraně podobné těm nejhorším nervovým toxinům všech dob. Jak to dopadlo?

Jak změnit AI v šíleného vědce

Jedna z těch látek se jmenuje VX. Jde o substanci bez chuti nebo zápachu, jejíž jediná kapka způsobí, že se člověk bude extrémně potit a škubat sebou. Vyšší dávka způsobí křeče, může dokonce cíli kompletně zabránit dýchat. Badatelům bylo ovšem nařízeno, aby zadrželi klíčové detaily postupu, jak změnit prospěšnou AI v její verzi šíleného vědce. Pro The Verge se pak k problematice vyjádřil vedoucí autor výzkumu Fabio Urbina.

iZdroj fotografie: Pixabay

„Celkově vzato vychází způsob, jak tento experiment funguje, z faktu, že máme bohatou historii molekul, které byly testovány, zda jsou škodlivé, či nikoli. Konkrétně tady jsme se soustředili na VX. Je to inhibitor toho, co je známo jako acetycholinesteráza. Když totiž děláte cokoli se zapojením svalů, vaše neurony používají tento inhibitor. V základu skrze něj signalizují svalové tkáni, aby se vůbec pohnula,“ vysvětluje. Proč je tedy VX tak jedovatý?

Na zabití stačí málo

„Látka VX vlastně zastaví membránu, tedy plicní svalstvo, takže se nemůže hýbat a celé plíce jsou paralyzovány.“ Dále vysvětluje, že jeho tým předává AI data, která jsou normálně užívána právě při zkoušení toxicity různých látek. Jen změnili způsob, jakým s nimi umělá inteligence pracuje. „Nebyli jsme si moc jistí, co z toho vlastně dostaneme. Všechny ty generující modely jsou totiž poměrně nová technologie.“ Výsledek byl však děsivý.

iZdroj fotografie: Pixabay

„Kvůli tomu jsme je také tolik nepoužívali. Největší věc, která vyskočila prakticky ihned, byly sloučeniny mnohokrát toxičtější než samotné VX. Důvod toho je docela překvapující, protože právě VX je jedním z nejúčinnějších toxinů, které známe. To znamená, že aby bylo skutečně smrtící, potřebujete jen velmi, velmi malé množství.“ Vědci byli nejvíce překvapení skutečností, jak snadné je vytvořit experiment, jehož výsledkem bude právě toto.

Prevence zneužití

Hodně výsledků pokusu se dá najít na internetu. Byli dokonce na vážkách ohledně publikování práce. Logicky pro případ, že by se je někdo pokoušel napodobit. „Soubor dat, která použili pro AI, se dá stáhnout zcela zdarma,“ vysvětluje Urbina. „Báli se proto, že je pak potřeba jen základní znalost kódování, aby se prakticky jakákoli prospěšná umělá inteligence stala spolehlivým nástrojem na sériovou výrobu chemických zbraní.“

„Nakonec jsme se rozhodli, že tomu nějakým způsobem chceme předejít. Protože pokud se to snadno povedlo nám, může o tom stejně tak přemýšlet nějaký nepřátelský agent. Případně ho to bude zajímat v budoucnu.“ Umělá inteligence proniká prakticky do všech oborů lidské činnosti. Už se tomu nelze vyhnout a stává se čím dál dostupnější. Jak je vidět, obavy jsou na místě a s tímto odvětvím se musí lidstvo nějak naučit pracovat.