Assessing Anti-Indigenous Bias in Large Language Models
Proceedings of the Annual Conference of CAIS / Actes du congrès annuel de l'ACSI · 15.06.2026
DOI: 10.29173/cais2028 ↗Kurz gefasst
Fachartikel in der Zeitschrift Proceedings of the Annual Conference of CAIS / Actes du congrès annuel de l'ACSI, online erschienen am 15.06.2026. Verfasst von Ali Shiri. Der Volltext ist frei zugänglich (Open Access, CC BY 4.0).
Abstract (Originalsprache)
Large language models (LLMs) pose a complex challenge for Indigenous communities, offering tools for language revitalization while threatening to entrench colonial biases and knowledge exploitation. This paper addresses the critical lack of empirical research and evaluative benchmarks for Indigenous-specific biases. Using "ChatGPT 5.1 Thinking," a pilot experiment was conducted to demonstrate how prompt engineering can serve as a "repair tool" to identify and mitigate these harms. It presents a rudimentary audit framework featuring 10 high-level themes, such as data sovereignty and cultural safety, and 160 test prompts. While this experiment provides a technical starting point for detection, it should be emphasized that authentic debiasing requires community-driven, participatory design to ensure relational accountability and the protection of Indigenous knowledge systems. Réparer les biais autochtones dans les grands modèles de langage : une expérience pilote en ingénierie des invites Les grands modèles de langage (GML) représentent un défi complexe pour les communautés autochtones : ils offrent des outils de revitalisation linguistique tout en risquant de renforcer les biais coloniaux et l’exploitation des savoirs. Cet article répond au manque criant de recherches empiriques et de cadres d’évaluation portant sur les biais propres aux réalités autochtones. À l’aide de « ChatGPT 5.1 Thinking », une expérience pilote a été menée afin de démontrer comment l’ingénierie des invites peut servir d’« outil de réparation » pour repérer et atténuer ces préjudices. L’étude propose un cadre rudimentaire d’audit comprenant 10 grands thèmes, notamment la souveraineté des données et la sécurité culturelle, ainsi que 160 invites de test. Bien que cette expérience fournisse un point de départ technique pour la détection des biais, il convient de souligner qu’une véritable réduction des biais exige une conception participative dirigée par les communautés afin d’assurer une responsabilité relationnelle et la protection des systèmes de savoirs autochtones.
Zitieren
APA
Shiri, A. (2026). Assessing Anti-Indigenous Bias in Large Language Models. Proceedings of the Annual Conference of CAIS / Actes du congrès annuel de l'ACSI. https://doi.org/10.29173/cais2028
Vancouver
Shiri A. Assessing Anti-Indigenous Bias in Large Language Models. Proceedings of the Annual Conference of CAIS / Actes du congrès annuel de l'ACSI. 2026. doi:10.29173/cais2028
BibTeX
@article{Shiri2026,
author = {Shiri, Ali},
title = {Assessing Anti-Indigenous Bias in Large Language Models},
journal = {Proceedings of the Annual Conference of CAIS / Actes du congrès annuel de l'ACSI},
year = {2026},
doi = {10.29173/cais2028}
}
EUVIMED