Transparency and Trust in Artificial Intelligence: The Effect of Explainable AI on Algorithmic Appreciation Under Ambiguous Decision-Making Conditions. Masters thesis, King Fahd University of Petroleum and Minerals.

PDF Thesis Document - Razan AlShammari.pdf Restricted to Repository staff only until 14 June 2027. Download (2MB)

Arabic Abstract

أظهر الذكاء الاصطناعي أداءً استثنائيًا في الوقت الحاضر، حيث تفوق على المتخصصين وعزز من قدرة البشر على اتخاذ القرار. ومع ذلك، يكمن أحد التحديات الحرجة للتعاون بين الإنسان والذكاء الاصطناعي في أن العديد من أنظمة الذكاء الاصطناعي تعمل بآلية الصندوق الأسود، حيث تظل الأسباب الكامنة وراء التوقعات غير واضحة. وهذا يجعل من الصعب على البشر الاعتماد على توصيات الذكاء الاصطناعي والثقة بها، خاصة في حالات اتخاذ القرار الغامضة؛ وذلك لعدم قدرتهم على التحقق من صحة التوصية مقابل معرفتهم بمجال تخصصهم. بالإضافة إلى ذلك، استكشفت الدراسات السابقة مفاهيم التقدير الخوارزمي والنفور الخوارزمي في المواقف الموضوعية، وركزت بشكل أكبر على التصميم التقني للذكاء الاصطناعي القابل للتفسير بدلاً من الاستجابات السلوكية. ولهذه الأسباب، تقترح هذه الدراسة نموذجًا نظريًا يعتمد على نظام القاضي والمستشار، وتختبر تجريبيًا تأثير ثلاثة مصادر للنصح هي: الذكاء الاصطناعي القابل للتفسير، والذكاء الاصطناعي بنظام الصندوق الأسود، وحشد المصادر، وذلك لبيان أثرها في الاعتماد على النصيحة، لا سيما في القرارات الغامضة

English Abstract

Artificial intelligence (AI) has shown extraordinary performance nowadays, outperforming professionals and augmenting humans’ decision-making. However, one critical challenge of human-AI collaboration is that many AI systems operate in a black-box manner where the reason behind the prediction remains opaque. This makes it difficult for humans to rely on and trust the AI recommendation, especially in ambiguous decision-making, because they cannot validate the recommendation against their own domain knowledge. In addition, prior studies explored algorithmic appreciation and aversion in objective situations and focused more on the technical design of XAI than behavioral responses. For these reasons, we propose a theoretical model based on the judge-advisor system (JAS) and empirically examine the effect of the three advice sources (explainable AI, black-box AI, crowdsourcing) in influencing reliance on the advice, especially in ambiguous decisions.

Item Type:	Thesis (Masters)
Subjects:	Computer Management and Marketing Research > Information Technology Research > Management
Department:	KFUPM Business School > Management and Marketing
Thesis Advisor:	Mazen Shawosh,
Thesis Committee Members:	Mohammad Al-ahmadi, Nasser Al-qahtani,
Depositing User:	RAZAN ALSHAMMARI
Date Deposited:	15 Jun 2026 05:23
Last Modified:	15 Jun 2026 05:23
URI:	https://eprints.kfupm.edu.sa/id/eprint/144585