Halucynacje AI: co to jest i czy można ufać ChatGPT?

Halucynacje AI: co to jest?

Halucynacja AI to treść wygenerowana przez model sztucznej inteligencji, która jest podana z pewnością, a jest fałszywa albo niezgodna z pytaniem. Po angielsku mówi się „AI hallucination”, a w dokumentach technicznych także „confabulation”.

Amerykański NIST w profilu ryzyk generatywnej AI (NIST AI 600-1, lipiec 2024) definiuje konfabulację jako tworzenie pewnie podanych, ale błędnych lub fałszywych treści, które mogą wprowadzić użytkownika w błąd. Do tej kategorii NIST zalicza też odpowiedzi sprzeczne z pytaniem albo z tym, co model napisał wcześniej w tej samej rozmowie.

OWASP, organizacja zajmująca się bezpieczeństwem aplikacji, umieszcza ten problem na swojej liście dziesięciu największych ryzyk aplikacji z modelami językowymi jako LLM09:2025 Misinformation. Zwraca uwagę na dwie strony: model zmyśla, a ludzie za bardzo mu ufają.

Halucynacje AI: przykłady

Najczęstsze w pracy biurowej są zmyślone źródła. Czatbot podaje tytuł artykułu, autora i rok, a taka publikacja nie istnieje. Podobnie z przepisami: numer artykułu się zgadza, treść nie. Albo odwrotnie.

OWASP opisuje kilka znanych przypadków. Czatbot linii lotniczej Air Canada podał klientowi błędne informacje o zasadach zwrotu, a kanadyjski trybunał uznał, że firma odpowiada za to, co mówi jej czatbot. Prawnicy w Stanach Zjednoczonych złożyli w sądzie pismo z orzeczeniami, które ChatGPT wymyślił. Asystenci programowania podpowiadają biblioteki, które nie istnieją, a przestępcy rejestrują pakiety o takich nazwach i czekają, aż ktoś je zainstaluje. Więcej o tym w tekście o bezpieczeństwie vibe codingu.

Głośny przykład biznesowy to raport Deloitte dla australijskiego ministerstwa pracy (DEWR) wart 440 tys. dolarów australijskich. Według Australian Financial Review z 5 października 2025 r. zawierał nieistniejące publikacje naukowe i zmyślony cytat z wyroku sądu federalnego. Poprawiona wersja usunęła kilkanaście fałszywych przypisów i ujawniła użycie modelu Azure OpenAI GPT-4o, a firma zgodziła się zwrócić ostatnią ratę wynagrodzenia.

Dlaczego AI halucynuje?

Model językowy nie sprawdza faktów w bazie. Przewiduje kolejne słowo na podstawie wzorców z danych treningowych. NIST pisze wprost, że konfabulacje są naturalnym skutkiem tej konstrukcji: ta sama statystyczna przewidywalność daje często poprawne odpowiedzi, a czasem fałszywe.

Badacze z OpenAI i Georgia Tech w pracy „Why Language Models Hallucinate” (wrzesień 2025) dodają drugi powód. Przy trenowaniu i ocenie modeli zgadywanie jest nagradzane bardziej niż przyznanie się do niewiedzy, tak jak na teście, na którym za brak odpowiedzi nie ma punktów. Model uczy się więc odpowiadać zawsze, nawet gdy nie wie.

Najwięcej halucynacji pojawia się tam, gdzie model miał mało danych: wąskie specjalizacje, lokalne przepisy, mało znane firmy i osoby, świeże wydarzenia, dokładne liczby i daty.

Czy można ufać ChatGPT i innym czatbotom?

To zależy od zadania. Czatbot dobrze sprawdza się tam, gdzie łatwo ocenić wynik: poprawa stylu, szkic maila, streszczenie tekstu, który sam wkleiłeś, burza pomysłów. Gorzej tam, gdzie odpowiedź trzeba przyjąć na wiarę: przepisy, stawki podatkowe, dane medyczne, cytaty, źródła.

Czy ChatGPT kłamie? Nie w ludzkim sensie, bo nie ma zamiaru wprowadzić Cię w błąd. Ale efekt bywa ten sam: pewny ton i brak sygnału, że czegoś nie wie. Dlatego pewność w odpowiedzi nie jest dowodem jej prawdziwości.

Pomaga prosta zasada: im trudniej sprawdzić wynik i im większe skutki błędu, tym mniej zaufania. Szkic posta możesz poprawić od ręki. Odpowiedź o terminie w urzędzie, dawce leku albo warunkach umowy musi przejść przez źródło albo specjalistę. Wyszukiwanie w sieci wbudowane w czatbota zmniejsza ryzyko, bo odpowiedź opiera się na stronach, ale go nie usuwa: model nadal może źle streścić stronę albo połączyć dwa źródła w jedną fałszywą informację.

Osobna sprawa to bezpieczeństwo danych, które wpisujesz do czatu. To opisujemy w tekście czy ChatGPT jest bezpieczny.

Jak sprawdzać odpowiedzi AI w pracy i ograniczyć halucynacje

1. Sprawdzaj u źródła każdy przepis, cytat, liczbę, datę i nazwę. Przepis w ISAP albo EUR-Lex, firmę w KRS lub CEIDG, publikację w bazie wydawcy. Jeśli źródła nie da się znaleźć, traktuj informację jako zmyśloną.

2. Otwieraj linki, które podaje czatbot. Zdarza się, że link działa, ale strona mówi coś innego niż odpowiedź. Jeśli czatbot podał adres nieznanej strony, możesz sprawdzić domenę za darmo przed wejściem.

3. Dawaj modelowi materiał zamiast pytać z pamięci. Wklej dokument (o ile wolno go wkleić) i poproś o odpowiedź tylko na jego podstawie. To prosta wersja techniki RAG, którą OWASP wymienia jako pierwszy sposób ograniczania halucynacji.

4. Pozwól modelowi nie wiedzieć. Dopisz w poleceniu: „jeśli nie masz pewności, napisz, że nie wiesz” i poproś o oznaczenie, które fragmenty są pewne, a które to przypuszczenia.

5. Ustal w firmie, kto sprawdza wynik przed wysłaniem na zewnątrz. Odpowiada człowiek, nie narzędzie. Ten punkt warto wpisać do polityki korzystania z AI w firmie.

6. Przy kodzie sprawdzaj, czy proponowana biblioteka istnieje i kto ją publikuje, zanim ją zainstalujesz.

Jak sprawdzić, czy tekst napisała AI?

Krótko: nie da się tego sprawdzić pewnie. Wykrywacze tekstu AI podają prawdopodobieństwo, nie dowód, i często się mylą.

Badanie Stanfordu „GPT detectors are biased against non-native English writers” (Liang i in., 2023) sprawdziło siedem popularnych wykrywaczy. Wypracowania pisane przez osoby, dla których angielski nie jest językiem ojczystym, uznawały za tekst z AI średnio w 61% przypadków. Te same wykrywacze łatwo było oszukać prostym przeredagowaniem tekstu. Autorzy przestrzegają przed używaniem ich do oceniania ludzi.

Pewniejszą drogą są znaczniki techniczne. Art. 50 AI Act od 2 sierpnia 2026 r. wymaga, żeby dostawcy systemów generujących tekst, obraz, dźwięk i wideo oznaczali wynik w formacie odczytywalnym maszynowo. Systemy wprowadzone na rynek wcześniej mają czas do 2 grudnia 2026 r. Takie oznaczenie znika jednak po przepisaniu tekstu, więc też nie rozstrzyga sprawy.

Jeśli podejrzewasz, że dokument powstał z AI, nie zgaduj autora. Sprawdź treść: czy źródła istnieją, czy liczby się zgadzają, czy autor potrafi wyjaśnić tekst. To ocenia jakość, a o nią zwykle chodzi.