Halucynacje AI: dlaczego ChatGPT zmyśla i jak chronić przed tym firmę

Co to są halucynacje AI

Halucynacje sztucznej inteligencji (ang. AI hallucination, przy modelach językowych także LLM hallucination) to sytuacje, w których model generuje wiarygodnie brzmiącą, ale nieprawdziwą odpowiedź. OpenAI definiuje je jako „wiarygodne, ale fałszywe stwierdzenia generowane przez modele językowe”. LLM, czyli duży model językowy, to silnik, który napędza ChatGPT, Gemini czy Copilota. Szersze tło, od wyboru narzędzi po wdrożenie w zespole, zebraliśmy w przewodniku po sztucznej inteligencji w firmie.

Halucynacje modeli językowych dotyczą wszystkich popularnych czatów, płatnych i bezpłatnych, choć w różnym stopniu.

Halucynacja nie jest kłamstwem w ludzkim sensie. Model nie wie, że się myli. Przewiduje najbardziej prawdopodobny ciąg słów, a ten ciąg czasem układa się w nieistniejący raport, datę premiery, której nie było, albo cytat prezesa, którego nikt nigdy nie wypowiedział. Najgorsze? Błędna odpowiedź brzmi dokładnie tak samo pewnie jak poprawna.

• Zmyślone fakty. Data, liczba, nazwisko albo wynik finansowy, którego nigdy nie było.
• Zmyślone źródła AI. Tytuł artykułu, raportu lub wyroku, który nie istnieje, często z wiarygodnie wyglądającym adresem.
• Błędne przypisanie. Źródło jest prawdziwe, tylko nie mówi tego, co twierdzi model.
• Nieaktualne informacje. Stan sprzed kilku miesięcy podany jako obecny.

Dlaczego AI zmyśla

We wrześniu 2025 roku OpenAI opublikowało analizę przyczyn halucynacji modeli językowych. Wniosek jest prosty i trochę niewygodny. Modele są uczone i oceniane tak, że zgadywanie im się opłaca: jeśli test nagradza tylko trafne odpowiedzi, „nie wiem” zawsze daje zero punktów, a strzał daje przynajmniej jakąś szansę. Model uczy się więc strzelać.

Drugi powód to sposób, w jaki model „pamięta”. Ogólne wzorce języka opanowuje dobrze: gramatykę, styl, typowe skojarzenia. Rzadkie pojedyncze fakty, takie jak data założenia średniej firmy z Podkarpacia czy nazwisko jej dyrektora sprzedaży, widział w danych raz albo wcale, więc właśnie tam halucynacje ChatGPT i innych czatów zdarzają się najczęściej.

Trzeci powód leży po stronie pytającego. Polecenie z ukrytą tezą („podaj trzy badania, które potwierdzają…”) zachęca model do dopasowania odpowiedzi, a nie do sprzeciwu. Jak pisać polecenia, które tego nie prowokują, pokazujemy w poradniku o promptach dla marketingu.

Z tych trzech przyczyn wynika odpowiedź na pytanie, czy ChatGPT podaje prawdziwe informacje: zwykle tak, gdy temat jest popularny, a pytanie neutralne. Najmniej pewny jest wtedy, gdy pytasz o rzadki fakt i sugerujesz, jaką odpowiedź chcesz dostać.

Jak często ChatGPT i inne modele halucynują

Jednej liczby nie ma. Odsetek halucynacji zależy od modelu, od rodzaju zadania i od tego, czy model ma przed sobą dokumenty źródłowe. Poniżej trzy niezależne pomiary, które dobrze pokazują skalę.

Dwa głośne przypadki, w których halucynacja kosztowała firmę

W lutym 2024 roku kanadyjski trybunał orzekł w sprawie Moffatt przeciwko Air Canada. Czat na stronie linii lotniczej błędnie poinformował klienta, że o zniżkę na bilet po śmierci bliskiej osoby może się ubiegać w ciągu 90 dni od podróży. Linia broniła się, że czat jest „odrębnym podmiotem” odpowiedzialnym za swoje słowa. Trybunał to odrzucił: firma odpowiada za informacje na swojej stronie, bez względu na to, czy podał je człowiek, czy program. Odszkodowanie było niewielkie, około 650 dolarów kanadyjskich. Sprawa i tak obiegła świat.

Jesienią 2025 roku Deloitte zgodził się zwrócić ostatnią ratę wynagrodzenia za raport przygotowany dla australijskiego rządu. W dokumencie wykryto między innymi nieistniejące publikacje naukowe i zmyślony cytat z wyroku sądu, a firma przyznała, że przy pracy korzystała z modelu GPT-4o. Błędy wychwycił naukowiec z Uniwersytetu w Sydney.

Co łączy obie historie? Halucynacja przestaje być problemem technicznym w chwili, gdy trafia do klienta. Od tego momentu to sprawa wizerunkowa i tak trzeba ją prowadzić, z gotowym stanowiskiem i osobą, która je wypowie. Jak przygotować się na to, zanim cokolwiek się wydarzy, opisaliśmy w poradniku o zarządzaniu PR kryzysowym.

Dla kogo halucynacje są problemem i w jakich sytuacjach

Ryzyko rośnie w dwóch miejscach: tam, gdzie treść z AI wychodzi poza firmę bez sprawdzenia, i tam, gdzie ktoś na jej podstawie podejmuje decyzję. Przed publikacją zadaj sobie jedno pytanie. Czy w tekście jest coś, co dziennikarz albo klient sprawdzi w pięć minut? Jeśli tak, Ty sprawdź to pierwszy.

Najczęściej w tabeli wraca informacja prasowa, bo tam liczba ze złym źródłem od razu trafia do redakcji. Zasady, które chronią skuteczny komunikat prasowy przed wpadką, obowiązują także wtedy, gdy pierwszą wersję napisał model.

Jak ograniczyć halucynacje AI krok po kroku

Nie ma przełącznika „bez halucynacji”. Działa zestaw prostych nawyków. Każdy z osobna zmienia niewiele, ale razem obniżają ryzyko do poziomu, z którym zespół może spokojnie pracować na co dzień, bez poczucia, że każdą odpowiedź modelu trzeba rozbrajać jak minę.

1. KROK 01Daj modelowi źródła

   Zamiast pytać model z pamięci, wklej albo podłącz dokumenty: raport, cennik, notatkę. Firmy, które robią to systemowo, budują asystenta opartego na własnych dokumentach, a jak to działa i kiedy się opłaca, wyjaśniamy w artykule o RAG, czyli AI na wiedzy firmy.

2. KROK 02Pozwól powiedzieć „nie wiem”

   Dopisz w poleceniu jedno zdanie: „jeśli nie masz pewności albo informacji nie ma w dokumentach, napisz, że nie wiesz”. To bezpośrednia odpowiedź na mechanizm opisany przez OpenAI.

3. KROK 03Żądaj odsyłaczy i je otwieraj

   Otwórz każde źródło podane przez model i sprawdź dwie rzeczy: czy w ogóle istnieje i czy naprawdę mówi to, co twierdzi model, bo wiarygodnie wyglądający adres internetowy sam w sobie niczego nie dowodzi. Jak poprawić błędny opis firmy w odpowiedziach AI, opisujemy w tekście jak sprawić, żeby AI poprawnie opisywało Twoją firmę.

4. KROK 04Zawężaj zadanie

   Jedno konkretne zadanie na jedno polecenie. „Streść rozdział 3” da mniej błędów niż „napisz wszystko o rynku”.

5. KROK 05Weryfikuj cztery rzeczy zawsze

   Liczby, nazwiska, cytaty, daty. Weryfikacja odpowiedzi AI w tych czterech punktach zajmuje kilka minut, a wyłapuje najgroźniejsze błędy.

6. KROK 06Człowiek zatwierdza i podpisuje

   Nic nie wychodzi na zewnątrz bez akceptacji konkretnej osoby, z imienia i nazwiska. To także warunek zwolnienia z oznaczania tekstów z AI, o czym więcej przeczytasz w artykule o oznaczaniu treści AI według AI Act.

Ile kosztuje ochrona przed halucynacjami

Najtańsza ochrona to dyscyplina. Kilka minut sprawdzania na każdy tekst z faktami kosztuje mniej niż jedno sprostowanie. Budżet rośnie dopiero wtedy, gdy firma uruchamia czat dla klientów albo asystenta na własnych dokumentach, bo trzeba przygotować bazę wiedzy, przetestować odpowiedzi na typowe pytania i wyznaczyć kogoś, kto będzie to stale nadzorował.

Gdzie przebiega próg decyzji? Jeśli z AI powstaje mniej niż kilka tekstów z danymi w tygodniu, wystarczy nawyk sprawdzania czterech rzeczy i jedna osoba, która podpisuje publikację. Gdy tekstów jest więcej albo AI odpowiada klientom, potrzebujesz stałego procesu i przeszkolonego zespołu. Od tego drugiego zaczyna się większość firm, więc jeśli chcesz ułożyć weryfikację raz, a dobrze, sprawdź program szkolenia AI dla firm, które uczy wyłapywać błędy AI.

Gdy tekstów z danymi jest dużo, ręczne sito przestaje wystarczać. W systemie Commwork®AI działa bramka prawdy: każda liczba dostaje etykietę dowodu, a pytanie, przy którym pewność jest niska, trafia do pięciu modeli od różnych dostawców. Kiedy modele się nie zgadzają, nikt nie uśrednia wyniku, tylko decyzję podejmuje człowiek.

Gdy model zmyśla o Twojej marce

Halucynacje dotyczą nie tylko tekstów, które firma pisze, ale też tego, co modele mówią o niej samej. Klient pyta czat o dostawców w branży i dostaje zmyśloną ofertę, nieaktualną siedzibę albo pomylone nazwisko prezesa. Z pomiaru Commplace z 21 września 2026 roku wynika, że 28 z 40 fraz, na które blog Commplace ma pozycję w pierwszej dwudziestce Google, ma w wynikach odpowiedź AI. Ludzie coraz częściej czytają więc wersję modelu, zanim zobaczą stronę firmy.

Modele rzadziej zmyślają o markach, o których istnieje dużo wiarygodnych i spójnych publikacji, dlatego ochrona przed halucynacjami o firmie to w dużej mierze praca PR: publikacje w mediach, aktualne dane na stronie, spójne opisy w katalogach. Mechanizm tłumaczymy szerzej w artykule o tym, dlaczego publikacje w mediach decydują, co ChatGPT powie o Twojej firmie. Zacznij od pomiaru. Audyt widoczności w AI polega na tym, że zadajesz modelom pytania, które zadają Twoi klienci, i zapisujesz, co odpowiadają. Pomiar pokaże, czego o Tobie brakuje w sieci, a codzienną higienę opisujemy w tekście o tym, jak dbać o wizerunek w sieci.

Lista kontrolna przed publikacją i plan na 90 dni

Błędy AI w tekstach firmowych rzadko wynikają z braku wiedzy. Częściej z braku kolejności: nikt nie ustalił, kto sprawdza i co. Poniższa lista mieści się na jednej kartce i działa jako ostatni krok przed wysyłką tekstu do klienta, redakcji albo zarządu.

Poglądowo, na wymyślonym przykładzie. Dział marketingu z pięcioma osobami przygotowuje z AI newsletter, posty i dwie informacje prasowe w miesiącu. W pierwszym miesiącu zespół przegląda ostatnie 20 tekstów i zapisuje, gdzie model coś zmyślił albo przeinaczył. W drugim wprowadza etykiety dowodu, jedno zdanie o „nie wiem” w każdym poleceniu i zasadę, że liczby sprawdza ktoś inny niż autor. W trzecim porównuje liczbę poprawek i sprostowań z okresem sprzed zmian, a przy okazji sprawdza, czy nowe zasady nie wydłużyły pracy tak bardzo, że ludzie zaczęli je omijać, bo to najczęstszy powód, dla którego dobre procedury po kwartale lądują w szufladzie. Taka weryfikacja faktów z AI kosztuje głównie czas. Kilka minut na tekst.

Jeśli firma kupuje asystenta albo czat od dostawcy, zadaj mu pięć pytań. Na jakich dokumentach odpowiada narzędzie i kto je aktualizuje? Co robi, gdy odpowiedzi nie ma w bazie? Czy pokazuje źródło przy każdej odpowiedzi? Jak testujecie halucynacje LLM przed startem i po zmianie cennika? Kto u nas może zatrzymać odpowiedź, zanim zobaczy ją klient? Brak konkretnej odpowiedzi na trzecie i czwarte pytanie to powód, żeby wstrzymać zakup. Mechanikę takich asystentów opisujemy przy temacie asystenta AI w firmie, a wpływ wpadek na odbiór marki w tekście o tym, jak dbać o rozpoznawalność marki.

• Każda liczba ma źródło z datą i ktoś otworzył to źródło.
• Każde nazwisko i stanowisko sprawdzono na stronie firmy albo w oficjalnym rejestrze.
• Cytaty pochodzą z nagrania, maila albo dokumentu, a nie z pamięci modelu.
• Daty i terminy prawne zgadzają się z tekstem przepisu.
• Twierdzenia bez sprawdzalnego źródła mają etykietę DO_POTWIERDZENIA albo wypadły.
• Pod tekstem jest nazwisko osoby, która go zatwierdziła.

Kiedy AI można zaufać bardziej, a kiedy nie

AI sprawdza się tam, gdzie sam dostarczasz materiał i oceniasz wynik. Redakcja Twojego tekstu, skrót notatki ze spotkania, warianty nagłówków, tłumaczenie z późniejszą korektą. Halucynacje zdarzają się tu rzadziej i łatwo je wyłapać, bo znasz oryginał.

Ostrożność jest potrzebna przy rzadkich faktach, przepisach, bieżących wydarzeniach, liczbach rynkowych i konkretnych osobach. Gdy od odpowiedzi zależą pieniądze, zdrowie, prawo albo reputacja, model może przygotować szkic, ale decyzję podejmuje człowiek po sprawdzeniu źródeł. Pełniejszą mapę ryzyk znajdziesz w tekście o zagrożeniach i etyce AI w firmie, a obowiązki prawne opisuje nasz materiał o AI Act w Polsce.

Wybierasz narzędzie dla zespołu? Porównanie planów znajdziesz w zestawieniu ChatGPT, Gemini czy Copilot dla firmy. Planujesz czat dla klientów? Najpierw przeczytaj, jak projektować chatboty w obsłudze klienta. Weryfikacji jako nawyku, a nie wyjątku, uczymy zespoły marketingu i komunikacji na szkoleniach AI dla firm.

Nawyki, przez które zmyślenia AI trafiają do publikacji

Czytaj dalej