Chatbot Hallucinations vs. Truth: Mainstream Debates and Their Interpretations

Kreft, Jan; Boguszewicz-Kreft, Monika; Cyrek, Barbara

Chatbot Hallucinations vs. Truth: Mainstream Debates and Their Interpretations

dc.contributor.author	Kreft, Jan
dc.contributor.author	Boguszewicz-Kreft, Monika
dc.contributor.author	Cyrek, Barbara
dc.date.accessioned	2024-04-23T10:29:34Z
dc.date.available	2024-04-23T10:29:34Z
dc.date.issued	2023
dc.description.abstract	Generative artificial intelligence (AI) systems are able to create content by applying machine learning to large amounts of training data. This new data may include text (e.g. Bard by Google, LLaMa by Meta or ChatGPT by OpenAI) and visuals (e.g. Stable Diffusion or DALL-E by OpenAI) and audio (e.g. VALL-E by Microsoft). The level of sophistication of this content may make it indistinguishable from human work. However, chatbots are characterized by the so-called hallucinations, which are a new type of disinformation. The aim of the article is to identify the main trends in the debate on the effects of the use of artificial intelligence, with particular emphasis on disinformation involving chatbots in the media environment. Generatywne systemy sztucznej inteligencji (SI) są w stanie tworzyć treści medialne poprzez zastosowanie uczenia maszynowego do dużych ilości danych szkoleniowych. Te nowe dane mogą obejmować tekst (np. Bard firmy Google, LLaMa firmy Meta lub ChatGPT firmy OpenAI) oraz elementy wizualne (np. Stable Diffusion lub DALL-E OpenAI) i dźwięk (np. VALL-E firmy Micro-soft). Stopień zaawansowania tych treści może czynić je nieodróżnialnymi od twórczości człowieka. Chatboty cechują się jednak tzw. halucynacjami, które w istotnej części są nowym rodzajem dezinformacji. Celem podjętych badań jest identyfikacja głównych nurtów debaty poświęconej skutkom wykorzystania sztucznej inteligencji ze szczególnym uwzględnieniem dezinformacji z udziałem chatbotów w środowisku mediów. W badaniu przyjęto metodę badawczą systematycznego przeglądu literatury ograniczającą m.in. błąd selekcji. Interpretacja głównych nurtów debaty skłania do wniosku, że dezinformacja chatbotów w postaci ich halucynacji jest znacząca pod względem skali, jest optymalizowana i personalizowana oraz ma istotny potencjał erodowania zaufania społecznego.
dc.identifier.citation	"Roczniki Nauk Społecznych", 2024, Vol. 52, nr 1, s. 167-185
dc.identifier.doi	10.18290/rns2024.0009
dc.identifier.issn	2544-5812
dc.identifier.issn	0137-4176
dc.identifier.uri	https://hdl.handle.net/20.500.12153/6581
dc.language.iso	pl
dc.publisher	Towarzystwo Naukowe KUL, Katolicki Uniwersytet Lubelski Jana Pawła II
dc.rights	Attribution-NonCommercial-NoDerivatives 4.0 International	en
dc.rights.uri	http://creativecommons.org/licenses/by-nc-nd/4.0/
dc.subject	chatbots
dc.subject	disinformation
dc.subject	artificial intelligence
dc.subject	chatboty
dc.subject	dezinformacja
dc.subject	sztuczna inteligencja.
dc.title	Chatbot Hallucinations vs. Truth: Mainstream Debates and Their Interpretations
dc.title.alternative	Halucynacje chatbotów a prawda: Główne nurty debaty i ich interpretacje
dc.type	info:eu-repo/semantics/article