Elon Musk varuje před umělou inteligencí, a dokonce ji označil za „největší riziko pro lidskou civilizaci“. I její zakladatel z ní má strach

Jeho jméno vzbuzuje v poslední době dost emocí, hlavně jeho kroky stran sociálních sítí. Prominentní technolog také nedávno sdílel varování ohledně umělé inteligence.

Zdroj fotografie: Se souhlasem Jack Dunhill

Konkrétně jde o otevřený dopis, který popisuje pokročilé systémy umělé inteligence jako jasnou hrozbu pro lidskou společnost. Programy jak ChatGPT a další se totiž neustále rozšiřují včetně samostatného učení. Ostatně už v roce 2017 ji majitel Twitteru a zakladatel Tesly označil za „největší riziko pro lidskou civilizaci“. V souvislosti s momentálním rychlým šířením a využíváním chatbota se majitel Space X opět ozval, aby své stanovisko připomněl.

Společný dopis pro jasné regulace

Společně se skupinou odborníků na umělou inteligence a také lídrů těchto oborů požádali, aby byl další vývoj algoritmů na 6 měsíců pozastaven. Momentální systémy jsou daleko výkonnější než nedávno vydaný model GPT-4 a OpenAI. O odkazování na potenciální rizika pro společnosti i celé lidstvo informovala agentura Reuters. Samotný dopis zveřejnila nezisková organizace Future of Life Institute, podepsalo ho na 1 000 profesionálů.

Zdroj fotografie: Depositphotos

Krom samotného Muska šlo například o spoluzakladatele společnosti Apple Steva Wozniaka, ředitele Stability AI Emada Mostaque, stejně tak odborníky v poli Yoshua Bengio a Stuarta Russella. Ti všichni volají po dočasném moratoriu na vývoj umělé inteligence, dokud nebudou stanoveny jasné bezpečnostní protokoly. Ty mají pak schválit nezávislí odborníci. Dopis podrobné popisuje potenciální rizika těchto systémů pro společnosti a civilizaci.

Má z ní strach i zakladatel

„Pokročilé systémy umělé inteligence by měly být vyvíjeny jen tehdy, pokud jsme si jisti tím, že jejich dopad bude pozitivní a případná rizika lze řídit,“ stojí v dokumentu. Vyzývá také vývojáře k tomu, aby s tvůrci politici spolupracovali na regulacích. Dopis nepodepsal Sam Altman, generální ředitel společnosti OpenAI, který stojí za vývojem ChatGPT. Agentuře Reuters to sdělil mluvčí již zmíněného institut Future of Life.

Zdroj fotografie: Depositphotos

Altman sám ovšem zároveň přiznává, že se svého výtvoru „trochu bojí“. Lze jej podle něj použít k rozsáhlým kybernetický i dezinformačním útokům. „Společnost stále potřebuje čas na to, aby se adaptovala,“ sdělil v polovině března stanici ABCNews. Podle autorů a signatářů dopisu se laboratoře umělé inteligence během posledních měsíců zapojily do zcela nekontrolovatelného závodu ve vývoji a implementaci těchto digitálních mozků.

Muskův odchod a Hawkingův scénář

Tento vývoj tlačí také na konkurenci, která samozřejmě nechce v žádném případě zůstat pozadu. Například vydání chatbota ChatGPT podporovaného v loňském roce společností Microsoft přimělo soupeře k urychlení vlastních vývojů. Sám Musk byl v roce 2015 jedním za zakladatelů OpenAI, tehdy ještě s několika dalšími investory. V témže roce se však rozhodl společnost opustit, údajně kvůli neshodám stran dalšího rozvoje firmy.

Riziko umělé inteligence je také jedním z apokalyptických scénářů profesora astrofyziky Stephena Hawkinga. Lidstvo podle něj vytvoří technologie, které ho postupně eliminují z jakéhokoli rozhodování. Stejně tak se mohou ubránit jakýmkoli pokusům o vypnutí sebe sama. A čím více funkcí a obsluhy společnosti bude lidstvo těmto systémům svěřovat, tím více se bude vzdávat vlastní kontroly nad vlastním životem.