Halucynowanie sztucznej inteligencji to generowanie przez nią fałszywych treści, niesprawdzonych danych, falsyfikowanie źródeł itp., a także wytwarzanie materiałów wizualnych lub dźwiękowych zawierających elementy, które nie występują w świecie realnym (np. człowieka z trzema nogami). Słowo używane z dezaprobatą, często prześmiewczo.

[…] takiej książki pewnie nie ma. To zjawisko nazywa się halucynowanie AI [komentarz do wpisu: “zadalem mu [Chatowi GPT — przyp. red.] pyt odnoszace sie do fortyfikacji na terenie obecnej Polski w xix wieku. jego odpowiedz byla zaskakujaca, a ksiazki na ktorej sie opieral nie znalazlem w googlu” — przyp. red.] (Źródło)

To się nazywa – halucynowanie.
Próbuje odpowiedzieć na pytanie i dobiera złe dane.  Kwestia „douczenia” algorytmy. [komentarz do wpisu: “Ktoś mi wytłumaczy: dlaczego ChatGPT zmyśla brnąc w drobne szczegóły, zamiast mówić, że nie wie?” — przyp. red.] (Źródło)

💬 Każdy model, każdy algorytm sztucznej inteligencji […] ma tendencję do halucynowania; dlatego niezależnie od używanego modelu, należy uważać na uzyskane odpowiedzi […] (Źródło)

Ale zdajesz sobie sprawę, że AI przekazuje wiele błędnych informacji? Ja co chwilę łapię AI na pleceniu bzdur i wymyślaniu/halucynowaniu. (Źródło)

Halucynowanie sztucznej inteligencji może doprowadzić do dezorientacji. W sieci można spotkać wiele przytaczanych przypadków, kiedy to AI pisała swoją własną historię. (Źródło)

Producenci ChatGPT i innych podobnych narzędzi zapowiadają walkę z halucynowaniem i konfabulacjami, by systemy popełniały jak najmniej błędów. (Źródło)