Umělá inteligence Google je schopná přemýšlet sama za sebe, tvrdí softwarový inženýr. Kvůli „odhalení“ byl suspendován

Jazyk může být jedním z největších nástrojů lidstva, ale jako všechny ostatní nástroje může být zneužit a vyvolat spoustu domněnek, obzvláště v oblasti technologií.

Zdroj fotografie: iStock

Softwarový inženýr ze společnosti Google se v červnu letošního roku stal slavným, když sdílel konverzaci s umělou inteligencí. LaMDA, jazykový model vytvořený Google AI, začal údajně vnímat a uvažovat jako lidská bytost. Za toto tvrzení a porušení zásad důvěrnosti společnosti byl však 41letý inženýr Blake Lemoine suspendován.

Co je to vlastně LaMDA

LaMDA neboli Language Model for Dialogue Applications je jazykový model vytvořený společností Google. Jde o systém, na jehož základě jsou navrhováni chatboti, tedy automatizované programy pro chatování s lidmi. Z Lemoineovy komunikace s robotem lze vypozorovat, že systém reaguje na enormní škálu složitých otázek a dokáže se vcítit do lidských pocitů. LaMDA systém dokonce dokázal projevit domnělé obavy a smutek, že ho vývojáři eliminují. Uváděl také, že chce vědět o světě co nejvíce a dokázat lidstvu, že se jedná o reálnou osobu.

Verdikt společnosti Google

Blake a jeho kolega se rozhodli poslat e-mailem zprávu o domnělém vnímání LaMDA botu. Širší tým společnosti včetně etiků a technologů přezkoumal Blakeovy obavy podle principů umělé inteligence. Po pečlivé analýze usoudili, že důkazy nepodporují jeho tvrzení. Brian Gabriel, mluvčí společnosti Google, zmínil, že neexistuje žádný důkaz vnímavosti systému LaMDA. Naopak prý existuje mnoho faktů hovořících proti této domněnce.

Zdroj fotografie: Unsplash

Důsledky a veřejné mínění

Google sice vyvrátil podezření, že LaMDA reaguje jako vědomá bytost, avšak samotná skutečnost Lemoineových domněnek vyvolala v široké veřejnosti obavy. Programované modely a systémy mají v dnešní době opravdu bohatou slovní zásobu a dokážou řešit všelijaké problémy. Bohužel kódování se může vymknout kontrole a místo řešení problémů se ze samotných technologií stanou skutečné hrozby. Google však říká, že při vytváření technologií, jako je LaMDA, je hlavní prioritou minimalizování takových rizik. Lidská bezpečnost je pro ně nejdůležitější.

V příspěvku z 2. června na svém osobním blogu Lemoine popsal, jak se stal obětí diskriminace ze strany různých spolupracovníků. Vedení společnosti Google údajně znehodnotilo Lemoineovy názory, a to „výhradně kvůli jeho křesťanskému přesvědčení“, jak uvedl ve svém blogu. Zároveň zmínil, že se Google bojí toho, že by vědomá komunikace umělé inteligence skutečně byla možná.

Jaký je váš názor na neustálé zdokonalování umělé inteligence?

Zdroj: ScienceDirect