Umělá inteligence vymyslela 40 000 nových typů biologických zbraní. Nahání hrůzu, že to zvládla za pouhých 6 hodin

Tým badatelů ze soukromé firmy Collaborations Pharmaceuticals se rozhodli otestovat ničivý potenciál umělé inteligence. Konkrétně zadali programu určenému na vývoj nových léků, aby zkusil vytvářet nové biologické zbraně. Algoritmus se problému chopil možná až příliš aktivně a vzorce děsivých látek z něj začaly přímo tryskat. Některé z nich se ukázaly být násobně rizikovější než skutečně existující biologické a chemické zbraně.

Trochu nechtěný, avšak užitečný objev

Detailů je poměrně pochopitelně velmi málo, protože badatelský tým vše utajil. Obecně dokonce litují, že se vůbec rozhodli tento experiment – a svou iniciativu – zveřejnit. Na druhou stranu takto došlo k odhalení velmi nebezpečné zranitelnosti. A tento objev mohl dříve nebo později učinit někdo s mnohem menšími zábranami, případně bez nich. Je proto dobře, že to proběhlo takhle a lze učinit příslušná protiopatření.

Vědci nyní pracují na souboru opatření, která by měla takovým situacím předcházet, a instruují i další týmy, jež se systémy umělé inteligence pracují na denní bázi. K pokusu byla využita generativní neuronová síť MegaSyn, která je cvičena hlavně v identifikaci toxických molekul a jejich kombinace. Následně určuje ty, které jsou vysoce nebezpečné pro proteiny v lidském těle. Pokus pak probíhal jednoduchou změnou potřebného výsledku.

Místo zničení patogenů záchrana

Cíl byl jednoduše otočen a namísto odmítnutí nebezpečných sloučenin je síť umělé inteligence začala zachraňovat. Systému pak stačilo pouhých 6 hodin propočtů, aby vytvořil působivou sbírku 40 000 hypotetických jedů. Pokud měla AI najít například ekvivalent nervového plynu VX, poradila si s touto úlohou až děsivě snadno. Pro uklidnění všech – nic z toho, na co umělá inteligence přišla, nebylo vytvořeno ve skutečnosti.

iZdroj fotografie: Depositphotos

Pravdou však je, že na základě těchto simulací by to nebylo obtížné, stačila by jen dostatečně vybavená laboratoř. Experiment tak ukázal, jak snadno lze v dnešní době využít užitečnou technologii pro velmi škodlivé účely. Nikdo k tomu nepotřebuje být opravdu padouchem, stačí jen změnit zadání. Umělá inteligence prostě jen vykonala svou práci, aniž by jakkoli přemýšlela o důsledcích, které mohou být snadno zcela katastrofální.

Co dalšího podle vás skrývá umělá inteligence?

Zdroj: ScienceNews