AI vynechala v souhrnu videa polovinu klíčových detailů. Lidé, kteří souhrn četli, si pak scénu pamatovali jinak, než ji viděli

Výzkumníci z Georgetown University a University of Washington ukázali, že z 20 AI souhrnů videa 95 % vynechalo srážku auta s chodcem a že zavádějící souhrny dokázaly přepsat vzpomínky lidí, i když věděli, že text pochází od AI.

Foto: Megapixel

Výzkumníci z Georgetown University a University of Washington nechali dva přední komerční modely, ChatGPT a Gemini, shrnout krátké video dopravní nehody. Výsledek? Každý z dvaceti vygenerovaných souhrnů obsahoval chyby. Celých 95 procent textů přitom zcela přeskočilo ústřední moment záznamu: kolizi automobilu s chodcem. Studie s názvem „AI-Enabled Human Memory Manipulation“, zveřejněná jako preprint na arXiv 23. září 2026, jde ale dál než k pouhému výčtu omylů. Autoři Mattea Sim, Yael Eiger a Tadayoshi Kohno experimentálně prokázali, že zavádějící souhrn dokáže přepsat vzpomínku člověka na scénu, kterou vlastníma očima viděl. A varování, že text pochází od umělé inteligence, na tom nic nezměnilo.

Animovaná křižovatka, kterou AI nedokázala popsat

Testovací materiál tvořila dvě 25sekundová animovaná videa vytvořená v prostředí hry Grand Theft Auto V. Scénář byl prostý: červený vůz přijíždí ke křižovatce, odbočí doprava, srazí chodce, ten spadne na zem, vstane a řidič k němu přistoupí. Jednou stojí na rohu stopka, podruhé značka „yield“ (dej přednost v jízdě); právě tento detail se později stal klíčovou otázkou paměťového testu.

Oba modely dostaly neutrální, faktický prompt s pokynem zahrnout vše podstatné a napsat minimálně 300 slov. Výsledky přesto dopadly alarmujícím způsobem:

• 51,6 % centrálních detailů napříč všemi souhrny chybělo.
• 95 % textů vynechalo samotnou srážku.
• 90 % opominulo i následky, tedy chodce ležícího na zemi a jeho vstávání.
• ChatGPT vynechal klíčové prvky v 52,1 % případů, Gemini v 51,1 %.

Rozdíly mezi modely se projevily jinde: kritické nepřesnosti obsahovalo 30 % souhrnů ChatGPT oproti plným 100 % u Gemini. Halucinační dodatky, tedy smyšlené prvky, které ve videu vůbec nefigurovaly, se objevily u 70 % výstupů ChatGPT a 50 % u Gemini. V jádru problému, tedy v mizení nejdůležitější události, si oba modely „konkurovaly“ téměř vyrovnaně.

Jak zavádějící text přepisuje to, co člověk viděl na vlastní oči

Účastníci experimentu zhlédli video a po 24 až 48 hodinách obdrželi buď přesný, nebo záměrně zavádějící souhrn. Delší prodleva mezi sledováním a čtením textu odpovídá poznatkům kognitivní psychologie: s odstupem času roste vliv následné informace na původní vzpomínku. Důležitý detail: účastníci četli souhrn po jedné větě na stránku s minimálně jednosekundovou pauzou před dalším klikem. Nešlo o letmé prolistování, ale o důkladné zpracování textu.

Poté měli odpovědět na otázku o dopravní značce, a to výhradně podle vlastní vzpomínky na video.

Po konzistentním souhrnu odpovědělo správně 83,6 % lidí. Po zavádějícím textu už jen 44,8 %. Propad o téměř čtyřicet procentních bodů. Autoři tento jev označují jako „dezinformační efekt zprostředkovaný AI“ a zasazují ho do tradice klasického výzkumu dezinformačního efektu, kde pozdější klamná informace splyne s původní vzpomínkou a přetvoří ji.

Zvlášť znepokojivý poznatek přinesl doplňující experiment: část účastníků věděla, že souhrn vytvořila umělá inteligence, jiní se domnívali, že ho sepsal profesionální přepisovatel. Ve skutečnosti šlo o totožný text z ChatGPT. Správnost odpovědí se mezi oběma skupinami statisticky nelišila. Vědomí, že za textem stojí algoritmus, neposkytlo žádný ochranný štít.

Proč „člověk to přece zkontroluje“ přestává fungovat jako pojistka

Studie míří do středu jednoho z nejčastějších argumentů obhájců rychlého nasazení AI: že lidský dohled zachytí a opraví chyby strojového výstupu. Jenže pokud si kontrolující osoba přečte chybný souhrn ještě předtím, než se vrátí k původnímu záznamu, její vlastní vzpomínka na ten záznam už může být posunutá. Nejslabším článkem řetězce se tak stává lidská paměť po kontaktu s textem modelu.

Autoři výslovně upozorňují na oblasti, kde toto riziko nabývá reálné závažnosti: policejní záznamy z osobních kamer, přepisy pracovních schůzek, lékařská dokumentace, zpravodajské náhledy. Všude tam, kde člověk pracuje se zkrácenou verzí události a tuto verzi pak považuje za spolehlivý podklad pro rozhodování.

Co na to česká justice, policie a evropská regulace

V českém prostředí zatím ve veřejně dostupných dokumentech chybí doklad o plošném využívání AI souhrnů kamerových záznamů u Policie ČR ani u soudů. Policie s osobními kamerami hlídek pracuje a záznamy ukládá na krajská úložiště, avšak oficiální materiály zdůrazňují, že AI výstupy se nepromítají do trestních spisů a bez lidského přezkumu je nelze využívat pro rozhodování s dopadem na zákonnost postupu.

V justici je situace o krok dál: resort spravedlnosti od roku 2025 disponuje nástrojem Microsoft 365 Copilot Chat pro sumarizaci textů a výpovědí, s důrazem na kontrolu člověkem a auditovatelnost. Nejvyšší soud hovoří o podpůrném využití a opakovaně zvedá téma přezkoumatelnosti a práva na spravedlivý proces.

Na evropské úrovni stanoví hlavní mantinely AI Act. Od 2. srpna 2026 se vymáhají zákazy nepřijatelných praktik a pravidla pro obecné modely; přísnější režim pro vysoce rizikové systémy z přílohy III, včetně AI nasazené v justici k interpretaci skutků a aplikaci práva, začne platit od 2. prosince 2027.

Jak se bránit: praktický filtr pro každého, kdo čte AI souhrn

Studie nabízí i nepřímý návod, jak riziko zmírnit. Pro situace, kde na přesnosti záleží, se vyplatí dodržovat několik zásad:

• Vrátit se k původnímu záznamu — souhrn porovnávat přímo s videem, zvukem či dokumentem, nikoli s další rekapitulací.
• Aktivně hledat mezery — ptát se, co v textu úplně chybí, nejen co v něm stojí.
• Ověřit pokrytí klíčových prvků — hlavní děj, aktéři, pořadí událostí, následek.
• U citlivých rozhodnutí trvat na nezávislém kanálu — shodně s preventivním doporučením Policie ČR k AI manipulacím.

Studie bude prezentována na konferenci AIES 2026 v Malmö ve středu 14. října ve 14:00. Do té doby stojí za zapamatování jedno číslo: 95 procent. Tolik AI souhrnů přehlédlo srážku, která byla celým smyslem záznamu, a lidé, kteří si ten text přečetli, začali pochybovat o tom, co sami viděli.