Z pewnością zdarzyło ci się już nie raz, że odpowiedz podana przez AI (np. modele językowe typu ChatGPT czy Gemini) choć wydawała się ciekawie napisana zawierała błędy. Nie zgadzały się daty, fakty ( np. miejsce jakiegoś zdarzenia, lokalizacja obiektu, fragmenty historii). To to jednak nic AI potrafi też tworzyć nie istniejące miejsca, książki czy wydarzenia, które nie miały nigdy miejsca.
Tego typu sytuację nazywamy właśnie halucynacjami AI.
Czym są halucynacje AI?
Halucynacje AI lub sztuczna halucynacja to sytuacja kiedy AI podaje nie prawdziwe wprowadzające w błąd informacje. Błędy takie są często wynikiem nie umiejętności odpowiedzenia AI na dany temat. Inaczej mówiąc sztuczna inteligencja jeśli nie posiada wiedzy na jakiś temat sama ją sobie tworzy, stosując różnego typu algorytmy prawdopodobieństwa.
Przy czym nie „kłamie” ona celowo – bo nie jest jeszcze do tego zdolna. Po prostu stara się odpowiedzieć na pytanie zgodnie ze swoją wiedzą.
Przykładowo zapytałam kiedyś ChatGPT o Zamek Królewski w Poznaniu (Muzeum Rzeczy Użytkowych w sąsiedztwie Starego Rynku) a w odpowiedzi otrzymałam informacje o Zamku Cesarskim w Poznaniu. Prawdopodobnie nie posiadał informacji o właściwym obiekcie więc podał o innym (o podobnej nazwie).
Przykłady halucynacji:
- wymyślone książki, artykuły lub publikacje naukowe;
- błędne daty, miejsca, imiona i nazwiska;
- nieistniejące przepisy prawne;
- nieistniejące strony internetowe i źródła;
- fałszywe cytaty przypisywane znanym osobom;
- błędne informacje o funkcjach programów lub aplikacji.
Dlaczego wychwycenie halucynacji AI jest istotne?
Wykrycie tego zjawiska jest bardzo istotne z wielu różnych praktycznych powodów. Zaczniemy może od tego, że coraz więcej osób korzysta z różnych modeli językowych AI. Wykorzystuje je do:
- wyszukiwania informacji i porządkowania wiedzy na różne tematy,
- tworzenia wiadomości e-maili, notatek i różnego typu podsumowań (np. ze spotkania z klientami, inwestorami),
- przygotowywania treści marketingowych oraz informacyjnych,
- wspierania, wykonywania różnego rodzaju analiz, raportów i prezentacji,
- pomocy przy pracy z dokumentami i regulacjami.
Te rzeczy wymagają nie tylko dokładności, ale także oparcia o fakty. Potrzebne są nam bowiem wiarygodne i poprawne informacje nie tylko ładnie sformatowane teksty i grafiki.
Dlaczego sztuczna inteligencja zmyśla?
Halucynacje sztucznej inteligencji są zjawiskiem losowym wynikającym z funkcjonowania danego modelu. AI nie popełnia ich więc celowo, a przynajmniej w takim sensie jak robią to ludzie. Na błędy te zaś wpływ mają:
Brak informacji lub danych
Modele przetwarzają duże ilości danych. Obejmują one duże zbiory informacji, ale nie zawsze są one kompletne. Do tego nie zawsze są one aktualizowane.
Nieaktualne lub niepełne informacje
Podczas generowania odpowiedzi AI nie sprawdza na bieżąco informacji. Korzysta ze swojej już gotowej bazy. W efekcie czego wypisane informacje mogą być już nie aktualne lub niepełne.
Nieprecyzyjne zapytania użytkowników
Kiedy pytanie zadane przez użytkownika jest zbyt ogólne lub za mało precyzyjne AI będzie starał się znaleźć odpowiedź najlepiej dopasowaną. Bardzo często w takim przypadku nie jest to odpowiedz, której szukał użytkownik.
Presja na udzielenie odpowiedzi
AI starają się odpowiedzieć na zadane im pytanie nawet jeśli nie posiadają wiedzy na dany temat. W takiej sytuacji może łączyć ze sobą jego zdaniem podobne pojęcia, daty i miejsca.
Jak ograniczyć ryzyko halucynacji AI?
By ograniczyć prawdopodobieństwo wystąpienia tego typu błędu warto:
- Zadawać konkretne i precyzyjne pytania (np. dodawać kontekst).
- Prosić o wskazanie źródeł, z których skorzystał przy tworzeniu odpowiedzi. Dzięki czemu można będzie je samodzielnie zweryfikować.
- W przypadku ważnych informacji porównuj odpowiedź z niezależnymi źródłami.
- Poproś model o zaznaczenie, które informacje są pewne, a których nie może samodzielnie potwierdzić.
- Jeśli nie ma wystarczających danych, pozwól mu odpowiedzieć „nie wiem”.
Pamiętaj, że halucynacje AI na pierwszy czasem i drugi rzut oka mogą wyglądać wiarygodnie. Jednak to jedynie wynik ładnej prezentacji. Zawsze więc czytaj i weryfikuj otrzymany wynik.
FAQ – pytania, które warto dodać
Tak. ChatGPT, tak jak i inne modele, czasem generuje nieprawdziwe informacje. Podaje np. nieistniejące źródła (lub wygasłe), błędne daty (myli np. ze sobą dwa wydarzenia) czy zmyślone fakty.
Nie. Z godnie z definicją kłamstwo to świadome wprowadzanie kogoś w błąd. Model AI nie posiadają takich intencji – po prostu popełniają błędy. Halucynacje są wynikiem sposobu działania i braku wiedzy w konkretnej dziedzinie. W takiej sytuacji AI wypisze informacje na podobny temat z godnie z tym jaką wiedzę posiada.
Nie. Można jedynie ograniczać ich występowanie.
Nie. Model może generuje odpowiedź nawet wtedy, gdy nie posiada informacji na dany temat.
Nie. Dostęp do aktualnych stron i dokumentów może ograniczyć część błędów, ale model nadal może źle odczytać, połączyć lub zinterpretować informacje.
źródła:
- https://www.cognity.pl/halucynacje-ai-jak-je-rozpoznawac-i-ograniczac-ryzyko
- https://semcore.pl/slownik/halucynacje-ai/
- https://pl.wikipedia.org/wiki/Halucynacja_(sztuczna_inteligencja)