Halucynacje AI – ale o co właściwie chodzi?

W TYM ARTYKULE PRZECZYTASZ O:

  * CZYM SĄ HALUCYNACJE AI I DLACZEGO MODELE „ZMYŚLAJĄ”

  * JAKIE REALNE KONSEKWENCJE MOGĄ MIEĆ BŁĘDY AI

  * JAK CZĘSTO AI SIĘ MYLI I CO MÓWIĄ O TYM BADANIA

* SKĄD SIĘ BIORĄ HALUCYNACJE – MECHANIZMY DZIAŁANIA MODELI JĘZYKOWYCH

* W JAKI SPOSÓB ROZPOZNAWAĆ I UNIKAĆ BŁĘDÓW GENEROWANYCH PRZEZ AI

W promocyjnym gifie na platformie X, gogolowski model AI otrzymał pytanie „O jakich nowych odkryciach z Kosmicznego Teleskopu Jamesa Webba (JWST) mogę powiedzieć mojemu 9-latkowi?”. Jedna z odpowiedzi, jaka padła, była informacja o wykonaniu przez teleskop pierwszego w historii zdjęcia planety spoza Układu Słonecznego. W istocie… pierwsze zdjęcie tzw. egzoplanety zostało wykonane w 2004 roku, 17 lat przed wystrzeleniem teleskopu Webba. 

Konsekwencje były ogromne – spadek wartości akcji Alphabet o ponad 100 miliardów dolarów. Inwestorzy obawiali się, że Google zostaje w tyle za Microsoftem i OpenAI (twórcami ChatGPT). By uratować projekt, Google musiało szybko zintensyfikować prace nad ulepszaniem swojego AI. Przy okazji zmieniło nazwę, by nie kojarzyło się z tą spektakularną wpadką. 

Dziś dokładnie ten model AI znacie jako Gemini. 

AI potrafi nieźle zmyślić

Błędne przypisy i fikcyjne źródła w książce znanej dziennikarki. Choć autorka i wydawca nie potwierdzili użycia AI przy powstawaniu książki, została ona w całości wycofana. Albo słynna sprawa firmy wykluczonej z przetargu na utrzymanie dróg, której oferta, uznana za najlepszą, zawierała dokumentację z całkowicie wymyślonymi, nieistniejącymi interpretacji podatkowymi i przepisami prawnymi. Przypadków, w których to AI staje się swoistym „wspólnikiem zbrodni” z roku na rok pojawia się coraz więcej. 

Według badania BBC przygotowanego na zlecenie Europejskiej Unii Nadawców (EBU), aż 45 % (tak tak!) odpowiedzi generowanych przez narzędzia takie jak ChatGPT, Microsoft Copilot, Google Gemini i Perplexity zawierało istotne błędy. Analiza obejmowała ponad 3000 odpowiedzi. 

Błędy, zmyślone fakty, niepoprawne wzory, nieścisłości metodologiczne. Problem ten dotyka artykuły prasowe, wypracowania szkolne ale także i prace naukowe czy wyroki sądowe. Skutki mogą być długofalowe. Dezinformacja i nieporozumienia. Utrata zaufania do publikacji, konieczność wycofywania prac czy spadek wiarygodności całych instytucji to realne zagrożenia. Konsekwencje prawne i etyczne. Wreszcie: niebezpieczeństwo awarii pojazdów autonomicznych czy diagnostyki medycznej. A wszystko to…

Wina halucynacji AI

Halucynacje AI to zjawisko, w którym modele językowe LLM generują odpowiedzi pewne siebie lecz… nie do końca zgodne z prawdą. Zdarza się, że AI, zamiast przyznać się do braku potrzebnej wiedzy, zmyśla fakty, daty czy źródła. 

Dzieje się tak, ponieważ jego działanie opiera się na statystycznym przewidywaniu kolejnych słów, a nie rozumieniu rzeczywistym świata. Obecne modele AI to potężne narzędzia statystyczne, lecz nieposiadające świadomości ani zrozumienia prawdy. 

– Zmyślone fakty: nieistniejące daty historyczne, przypisanie odkryć niewłaściwej osobie

– Fałszywe źródła: AI potrafi wygenerować realistycznie wyglądające linki, tytuły książek czy artykułów naukowych, które w rzeczywistości nie istnieją. 

– Błędy logiczne i matematyczne: czasem to mogą być problemy z prostymi obliczeniami czy wyciąganiem poprawnych wniosków z właściwych przesłanek.

Badacze z OpenAI opisują to zjawisko jako „prawdopodobne, ale fałszywe stwierdzenia generowane przez modele językowe. Mogą się one pojawiać w zaskakujący sposób, nawet w przypadku pozornie prostych pytań”. 

Garbage In, Garbage Out

Śmieci na wejściu, śmieci na wyjściu. To jeden z głównych powodów tego zjawiska. Jeśli dane treningowe zawierały błędy lub sprzeczne informacje, AI może je powielać jako prawdę.

Chyba świetnym jest tego przykładem „szaleństwo Groka”. Model xAI należący do Elona Muska, karmiący się często informacjami z platformy X, po jednej z aktualizacji zaczął publikować obraźliwe i agresywne treści. Używał przy tym słów, które nigdy nie powinny  pojawić się w komunikacji systemu AI dostępnego publicznie.

Kolejne powody dla halucynacji AI to:

– Zgadywanie statystyczne 

AI nie potrafiąc podać konkretnej odpowiedzi (bo jej nie zna) nie odpowiada „nie wiem. Zamiast tego z poczuciem pewności wybiera najbardziej prawdopodobne słowo, co prowadzi do dalszego zmyślania. 

– Nadmierne dopasowanie 

Model trzyma się wzorców, na których został wytrenowany i trzyma się starych kontekstów. Gdy pojawia się coś nowego, traci zdolność do poprawnej analizy.

– Brak dostępu do aktualnych informacji

Starsze modele, bezpłatne wersje mogą mieć ograniczone zdolności i bazy najświeższych informacji. A gdy nie mają funkcji przeglądania sieci, mogą podawać takie dane jako fakty. 

Dlaczego tak się dzieje? To ciekawe zjawisko, które leży u podstaw budowania modeli językowych. Są one halucynogenne, ponieważ standardowe procedury szkoleniowe i ewaluacyjne nagradzają zgadywanie bardziej niż przyznawanie się do niepewności.

W badaniu OpenAi autorzy podają ciekawy przykład: jeśli model językowy zostaje zapytany o datę urodzin, ma 1 do 365 szans na poprawną odpowiedź. Gdy odpowie „nie wiem”, otrzyma pewne 0 punktów. Przemnóżmy to wielokrotnie i otrzymamy rozwiązanie: model zgadujący wypada lepiej niż model ostrożny, dopuszczający niepewność. 

Halucynacje to wyzwanie 

Czy pomyłki AI to same kłopoty? Badacze zauważają, że czasem może stać się to przydatne. Halucynacje AI mogą inspirować nowe style i projekty artystyczne. Pomóc w wizualizacji i interpretacji danych naukowych. Może przydać się też w grach czy VR, pobudzając wyobraźnię i tworząc przestrzenie, o których my, ludzie, nawet nie potrafimy dziś pomyśleć. 

Kto wie, co przyniesie nam jutro? 

===

Jak rozpoznać ściemę AI?

1) Fact-checkuj: podchodź krytycznie do każdej informacji i weryfikuj ją u źródeł. Sprawdzaj uważnie dane, daty, nazwiska i podane linki.

2) Analizuj konstrukcje odpowiedzi: te fałszywe mają często

• Schematyczne, „idealne” formatowanie i powtarzalny styl
• Clickbaitowy ton i nadmiernie emocjonalne nagłówki
• Niewiarygodnie, wyjątkowo wysokie, jednostronne procenty (np. 93%).
• Brak wiarygodnego kontekstu metodycznego albo ram czasowych danych.
• Nadmierne użycie charakterystycznych słów-kluczy modeli językowych.

3) Stosuj prompt engineering: czyli poprawne i precyzyjne formułowanie zapytań wraz z dodaną instrukcją: „jak nie znasz odpowiedzi, powiedz o tym”. 

4) Testuj modele i ich walidację: regularne sprawdzanie i testowanie modeli sztucznej inteligencji w porównaniu ze scenariuszami ze świata rzeczywistego pozwala identyfikować i korygować halucynacje.

5) Korzystaj z kilku modeli na raz: to może pomóc w identyfikacji i korygowaniu halucynacji.

Lista przypisów – tu znajdziesz więcej danych: 

1. Wpadka Google
   https://www.bbc.com/news/business-64576225
2. Ciekawy wywiad na temat rozwoju SI
   https://wit.pwr.edu.pl/aktualnosci/od-halucynacji-do-samoswiadomosci-sztucznej-inteligencji-306.html
3. Wpadki AI w polskim wydaniu
   https://ithardware.pl/aktualnosci/halucynacje_ai_polska_problem_narasta_kolejne_wpadki_sztuczna_inteligencja-46859.html
4. Badania o niepokojących wpadkach Chata GPT
   https://www-sciencedaily-com.translate.goog/releases/2026/03/260317064452.htm?_x_tr_sl=en&_x_tr_tl=pl&_x_tr_hl=pl&_x_tr_pto=sge
5. Ciekawe porównanie jak największe modele traktują newsy
   https://www.cjr.org/tow_center/we-compared-eight-ai-search-engines-theyre-all-bad-at-citing-news.php
6. A tutaj artykuł Rzeczpospolitej na temat wspomnianego wyżej badania OpenAI
   https://cyfrowa.rp.pl/technologie/art42988781-ai-wymysla-fakty-tworcy-chatgpt-zbadali-halucynacje-i-maja-na-nie-sposob

W AdScool znajdziesz materiały i szkolenia poświęcone m.in. social media, e-commerce, influencer marketingowi i nowym modelom sprzedaży online. To praktyczna wiedza, która pozwala lepiej poruszać się w dynamicznie zmieniającym się środowisku cyfrowym.