Hidden Algorithms of Culture: A Review and Critical Analysis of Cultural Bias in General-Purpose Generative AI Chatbots

Abstract

The aim of the article is to review and systematise the results of the latest empirical studies on the manifestations of cultural bias in the content produced by general-purpose generative AI chatbots such as ChatGPT, Copilot, Gemini, Claude and DeepSeek, and to identify their potential social consequences. The following research questions were formulated: What types and what is the scale of cultural biases in generative AI chatbots? What are the social consequences of their occurrence and possible ways and directions of counteraction? A review study was based on a critical analysis of 17 recent empirical studies published in 2024-2025. The analysis shows the complex nature of the presence and consequences of cultural bias in current AI models. It has been clearly demonstrated that they reflect and reinforce Western cultural patterns. Four types of cultural bias have been identified: axiological-civilisational, racial-ethnic, national, and religious-ideological. The analysis also showed that cultural bias is not only a technical problem of algorithms, but a deeply rooted social phenomenon resulting from the contexts of training data and design decisions made by technology developers.

Celem artykułu jest przegląd i systematyzacja wyników najnowszych badań empirycznych dotyczących przejawów uprzedzeń kulturowych w treściach wytwarzanych przez generatywne chatboty AI ogólnego zastosowania, takich jak ChatGPT, Copilot, Gemini, Claude czy DeepSeek oraz identyfikacja ich potencjalnych konsekwencji społecznych. Sformułowano następujące pytania badawcze: jakie rodzaje i jaka jest skala uprzedzeń kulturowych występują w generatywnych chatbotach AI? jakie są społeczne konsekwencje ich występowania oraz możliwe sposoby i kierunki przeciwdziałania? Badanie przeglądowe oparto na krytycznej analizie 17 najnowszych badań empirycznych opublikowanych w latach 2024–2025. Przeprowadzona analiza ukazuje złożony charakter obecności i konsekwencji cultural bias w obecnych modelach AI. Jednoznacznie wykazano, że odzwierciedlają i wzmacniają one zachodnie wzorce kulturowe. Wyróżniono cztery odmiany cultural bias: aksjologiczno-cywilizacyjną, rasowo-etniczną, narodowościową oraz religijno-światopoglądową. Analiza wykazała także, że uprzedzenia kulturowe nie są jedynie technicznym problemem algorytmów, ale głęboko zakorzenionym zjawiskiem społecznym, wynikającym z kontekstów danych treningowych oraz projektowych decyzji podejmowanych przez twórców technologii.