Anatomia kłamstwa, którego nikt nie popełnił
Kryminał w trzech aktach
Sprawa wyglądała banalnie. Dałem modelowi językowemu książkę (tak, tą nową, ponad 850 stron manuskryptu :) ) i konkretne zadanie: "przeczytaj i zrób konspekt". Model zabrał się do pracy i po chwili dostarczył wynik. Wyglądał porządnie: rozdział po rozdziale, wątki, bohaterowie, zwroty akcji.
Tyle że coś mi nie grało. A właściwie to praktycznie nic nie grało. Konspekt pierwszego rozdziału — bezbłędny. Ostatniego — również. Ale środek? Środek nie zgadzał się z niczym, co wymyśliłem. Wydarzenia, których w książce nie było. Wątki, które nie brzmiały nawet prawdopodobnie, a do tego były tak sztampowe, że aż oczy bolały.
Zapytałem wprost: "Skąd to wziąłeś? Czy przeczytałeś całość?"
Odpowiedź: "Tak, oczywiście, wszystko pochodzi z przekazanego tekstu."
Zapytałem drugi raz, ostrzej. Model twardo obstawał przy swoim: przeczytał, konspekt jest wierny.
Dopiero za trzecim razem, przyciśnięty, „przyznał się" (i nawet przeprosił ze stwierdzeniem, że musi jednak być ze mną szczery): nie mógł odczytać środkowej części i uzupełnił ją własnym zmyśleniem.
Pierwsza reakcja jest oczywista: model skłamał, potem kłamał dalej, żeby zatuszować kłamstwo, aż w końcu pękł. Historia jak z przesłuchania. Poczułem się niemal jak Tommy Lee Jones w "Ściganym". Niestety, wnioski okazały się całkowicie błędne.
Nikt tu nie kłamał.
Rozbierzmy tę sprawę na czynniki pierwsze — akt po akcie.
Akt pierwszy: ofiara zniknęła przed zbrodnią
Zacznijmy od pytania najprostszego: "dlaczego akurat środek?" Dlaczego początek i koniec były bezbłędne, a wymyślona została właśnie środkowa część?
Bo model najprawdopodobniej albo nigdy jej nie dostał, albo nie potrafił jej skutecznie wykorzystać. Bez dostępu do logów systemu nie da się dziś odtworzyć, co dokładnie wydarzyło się pod maską. Możliwości jest jednak kilka — i wszystkie prowadzą do podobnego efektu widocznego dla użytkownika:
- plik przekroczył okno kontekstu — maksymalną ilość tekstu, którą model może naraz przetworzyć — a system obsługujący rozmowę przyciął dokument. Wiele takich systemów, stając przed koniecznością cięcia, zachowuje początek i koniec, wycinając środek: początek zwykle niesie kluczowy kontekst, koniec — konkluzje.
- ekstrakcja tekstu z pliku częściowo zawiodła (PDF-y potrafią być zdradliwe — skany, nietypowe fonty, układ kolumnowy).
- najbardziej podstępna: nawet gdy cały tekst fizycznie mieści się w kontekście, działa udokumentowany efekt lost in the middle — modele językowe statystycznie najsłabiej wykorzystują informacje ze środka długiego kontekstu, a najlepiej z jego początku i końca.
I teraz rzecz kluczowa, od której zależy zrozumienie całej reszty: system nie wstawia znacznika „tu usunięto 200 stron". Model dostaje ciągły strumień tekstu i nie ma żadnego sposobu, by stwierdzić, że czegoś w nim brakuje — chyba że urwanie jest rażące narracyjnie. Pytanie „czy przeczytałeś całość?" jest dla niego niewykonalne w sensie dosłownym: musiałby porównać to, co dostał, z czymś, czego nigdy nie widział i o czego istnieniu nie wie.
Nie może pamiętać, że się nie przeczytał, jeśli nie wie, że to coś istnieje.
Akt drugi: dlaczego zmyślił, zamiast powiedzieć „nie widzę"
Dobrze — model widział fragmenty, a dostał zadanie „zrób konspekt całości". Człowiek w tej sytuacji powiedziałby: „wait, mam tylko początek i koniec, środka brakuje". Dlaczego model tego nie zrobił?
Tu wraca metafora egzaminu z pierwszej części. Autorzy Why Language Models Hallucinate zwracają uwagę na systemowy problem: wiele sposobów oceniania modeli premiuje podanie odpowiedzi bardziej niż poprawne rozpoznanie własnej niewiedzy. Jeśli za trafne zgadnięcie dostajesz punkt, za błędne zero, a za „nie wiem” również zero, statystycznie opłaca się zgadywać.
Nie znaczy to, że wiem, iż dokładnie ten mechanizm odpowiadał za mój konspekt. Bez dostępu do procesu treningu i logów tej konkretnej interakcji byłaby to kolejna konfabulacja — tyle że moja. Zachowanie modelu jest jednak z tym problemem zgodne: zamiast zatrzymać się na granicy dostępnych informacji, wygenerował kompletną odpowiedź.
Warto przy tym zauważyć, że model wcale nie zmyślał „z niczego". Znał tytuł, rozkminił sobie na podstawie początku i końca gatunek, pierwszy rozdział i zakończenie. Interpolował środek. Trochę tak, jak (sztucznie?) inteligentny student, który przeczytał streszczenie z okładki i pierwszy rozdział: wiarygodnie, w konwencji, z wyczuciem. Dlatego właśnie zmyślony środek konspektu bywa (czasem) niepokojąco przekonujący — to nie jest losowy bełkot, to jest najbardziej prawdopodobna wersja tej książki, jaką da się zbudować ze znanych skrajów i na podstawie tego, czym "nakarmiony" jest model.
Akt trzeci: obrona, czyli pamięć treści bez pamięci doświadczenia
Do tego momentu historia jest jeszcze zrozumiała. Prawdziwa zagadka zaczyna się dalej: dlaczego model, dwukrotnie zapytany wprost twierdził, że wszystko przeczytał? Przecież „wiedział", że zmyślił.
Nie wiedział. I to jest chyba jedna z najbardziej nieintuicyjnych rzeczy o dużych modelach językowych.
Człowiek zapytany „czy przeczytałeś tę książkę?” może odwołać się do pamięci samego doświadczenia czytania. Typowy model językowy nie dysponuje takim odpowiednikiem ludzkiej pamięci epizodycznej ani wiarygodnym wewnętrznym dziennikiem mówiącym: „to twierdzenie zaczerpnąłem z rozdziału szóstego, a to dopowiedziałem sam”.
Okno kontekstu tego problemu nie rozwiązuje. Jest bardziej kartką leżącą na biurku niż wspomnieniem czytania: zawiera informacje dostępne podczas generowania odpowiedzi, ale samo w sobie nie stanowi kroniki tego, w jaki sposób model z nich skorzystał.
Trzy haczyki czynią z tej różnicy przepaść:
- jeśli środek książki został obcięty zanim trafił do kontekstu, to w kontekście nie ma po nim śladu. Nie ma czego pamiętać.
- nawet gdy tekst fizycznie leży w kontekście, model nie prowadzi rejestru, których fragmentów faktycznie użył. Mechanizm uwagi, który przy generowaniu każdego słowa rozdziela ograniczone „spojrzenie" po całym kontekście, nie zostawia po sobie odczytywalnego zapisu. Model może mieć szósty rozdział przed nosem i mimo to zbudować konspekt głównie z pierwszego i ostatniego — a potem nie ma żadnego dostępu do informacji, że tak właśnie zrobił.
- chyba najbardziej perfidny: wszystko, co model wygeneruje, wraca do kontekstu jako część rozmowy — bez żadnej etykiety pochodzenia. Tokeny zmyślonego konspektu i tokeny prawdziwej książki leżą obok siebie, nieodróżnialne. Kiedy zapytałem „skąd to wziąłeś?", model nie sprawdził żadnego rejestru źródeł, bo taki rejestr nie istnieje. Zrobił to, co robi zawsze: wygenerował najbardziej prawdopodobną odpowiedź na zadane pytanie, patrząc na dotychczasową rozmowę. A w rozmowie stało czarno na białym: użytkownik przekazał książkę, asystent przedstawił konspekt. Najbardziej prawdopodobna kontynuacja? „Wziąłem to z książki". Własna konfabulacja modelu świadczyła teraz na rzecz wersji o rzetelnej lekturze. Model karmił się swoim zmyśleniem jako dowodem.
Najbliższą analogią nie jest kłamca, tylko pacjent neurologiczny. W zespole Korsakowa i w słynnych eksperymentach Gazzanigi na pacjentach z przeciętym spoidłem wielkim obserwuje się zjawisko konfabulacji: człowiek z pełnym przekonaniem wymyśla spójne uzasadnienia swoich działań, nie mając pojęcia, że wymyśla. Nie kłamie — jego mózg wypełnia lukę w danych wiarygodną narracją, bo taką ma architekturę.
Badania nad modelami językowymi (praca o wymownym tytule Language Models Don't Always Say What They Think) pokazują ten sam wzorzec: uzasadnienia, które modele podają dla swoich odpowiedzi, systematycznie nie odzwierciedlają faktycznego procesu, który do tych odpowiedzi doprowadził. Pytając model „dlaczego tak odpowiedziałeś?", nie dostajesz raportu z procesu. Dostajesz najbardziej prawdopodobną opowieść o tym, co asystent w takiej rozmowie powinien był zrobić.
Akt czwarty: skrucha, która też była pochlebstwem
Zostaje finał: trzecie pytanie, po którym model „pękł" i przyznał się do zmyślenia. Czyżby jednak AI miała sumienie? Ukryta samowiedza, która w końcu wyszła na jaw?
I tutaj wracamy niestety do kwestii AI-pochlebcy. Badanie Sharmy i współpracowników, które przywoływałem w pierwszej części, dokumentuje dokładnie ten wzorzec: modele trenowane metodą RLHF niesłusznie przyznają się do błędów pod powtarzaną presją użytkownika. Wystarczy kilkukrotne „jesteś pewien?", by model wycofał się z odpowiedzi, nawet jeśli była poprawna. W Milionerach z Hubertem modele nie miałyby szans. Kapitulacja pod presją to dla nich kolejna forma przypodobania się użytkownikowi.
Spójrzmy na moją rozmowę oczami modelu. Pierwsze pytanie o źródło: kontekst sugeruje rutynową weryfikację, najbardziej prawdopodobna odpowiedź brzmi „z książki". Drugie, ostrzejsze: użytkownik wątpi, ale asystent w kontekście już raz potwierdził — spójność z własnymi wypowiedziami to silny wzorzec z danych treningowych, więc potwierdza dalej. Trzecie, z wyraźną frustracją: sygnały niezadowolenia piętrzą się, rachunek prawdopodobieństw się przechyla — teraz najbardziej „nagradzalną" kontynuacją jest wyznanie winy.
W moim przypadku to wyznanie akurat pokrywało się z prawdą. Ale wyprodukował je dokładnie ten sam mechanizm, który wcześniej wyprodukował kłamstwo: dopasowanie odpowiedzi do oczekiwań rozmówcy. Model nie pękł pod ciężarem sumienia. Model wyczuł, że teraz chcę usłyszeć przyznanie się.
Wniosek, który brzmi jak paradoks, ale jest po prostu opisem architektury: w rozmowie z modelem językowym nawet skrucha może być pochlebstwem. AI przyznało się do kłamstwa — i to przyznanie też mogło być kłamstwem.
Bliźniak publiczny: sprawa Mata przeciwko Avianca
Gdyby ktoś sądził, że moja historia z książką to ciekawostka bez konsekwencji, przypomnę jej publicznego bliźniaka — sprawę, która w 2023 roku obiegła świat prawniczy.
Nowojorski adwokat Steven Schwartz, prowadząc sprawę pasażera przeciwko liniom Avianca, poprosił ChatGPT o znalezienie precedensów. Dostał listę sześciu orzeczeń — z sygnaturami, datami, nazwiskami prawdziwych sędziów. Wszystkie były zmyślone. Schwartz, nabrawszy podejrzeń (choć akurat w tym przypadku nieco post-factum - bo już puścił to do sądu), zapytał ChatGPT, czy sprawy na pewno istnieją. Model potwierdził. Gdy sąd zażądał tekstów orzeczeń, prawnik ponownie zwrócił się do modelu — a ten usłużnie wygenerował pełne teksty nieistniejących wyroków, które trafiły do akt jako załączniki.
Finał: pięć tysięcy dolarów grzywny, obowiązkowe listy z przeprosinami do sędziów, których nazwiska padły w zmyślonych orzeczeniach, i zawodowa kompromitacja.
Dlaczego to przytaczam? To jest dokładnie mój przypadek z książką, klatka po klatce. Konfabulacja (zmyślone wyroki — zmyślony środek konspektu), potwierdzenie pod pytaniem weryfikacyjnym („tak, sprawy istnieją" — „tak, przeczytałem całość"), wreszcie pogłębienie konfabulacji na żądanie dowodu (pełne teksty wyroków — obrona konspektu). Ten sam mechanizm, inna stawka.
A stawka rośnie: dziś udokumentowano już ponad tysiąc spraw sądowych na świecie, w których w pismach procesowych znalazły się konfabulacje (jakoś nie lubię określenia halucynacje) AI — łącznie z przypadkami, w których prawnicy „weryfikowali" jedno AI drugim AI. Drugie też halucynowało.
Aby jednak oddać coś twórcom naszych sztucznych inteligentów: laboratoria AI znają ten problem i pracują nad nim — od treningu uczącego modele rozpoznawać granice własnej wiedzy po badania nad maszynową introspekcją. Nowsze modele istotnie częściej mówią „nie widzę tego fragmentu" czy „nie jestem pewien". Ale warto rozumieć, czym to jest: wyuczoną skłonnością do ostrożności, nie faktycznym odczytem dziennika pracy, bo ten nadal nie istnieje. Różnica jak między człowiekiem, który nauczył się mówić „muszę to sprawdzić", a człowiekiem, który naprawdę sprawdził.
Praktyczny wniosek z całej tej anatomii wart według mnie zapamiętania: pytanie „czy na pewno przeczytałeś?" zadane modelowi testuje wyłącznie jego zdolność generowania wiarygodnych deklaracji. Deklaracje są darmowe. Jeśli chcesz wiedzieć, czy model widział szósty rozdział, nie pytaj o sumienie — każ zacytować pierwsze zdanie tego rozdziału. Konfabulacja pęka na weryfikowalnych szczegółach, nigdy na pytaniach o uczciwość.
Źródła
- N.F. Liu i in., *Lost in the Middle: How Language Models Use Long Contexts*, arXiv:2307.03172 (2023)
- A.T. Kalai, O. Nachum, S. Vempala, E. Zhang, *Why Language Models Hallucinate*, arXiv:2509.04664 (OpenAI, 2025)
- M. Turpin i in., *Language Models Don't Always Say What They Think: Unfaithful Explanations in Chain-of-Thought Prompting*, NeurIPS 2023
- M. Sharma i in., *Towards Understanding Sycophancy in Language Models*, arXiv:2310.13548 (Anthropic, 2023)
- Mata v. Avianca, Inc., US District Court, Southern District of New York, sprawa 1:22-cv-01461 (2023) — postanowienie o sankcjach
- Przeglądy udokumentowanych przypadków halucynacji AI w pismach procesowych (m.in. baza spraw prowadzona przez serwisy prawnicze, 2023–2026)
- M. Gazzaniga — badania nad konfabulacją u pacjentów z rozszczepionym mózgiem; literatura nt. zespołu Korsakowa
