Communication-Efficient Federated Learning for Personal Assistant Application on Smartphones

Communication-Efficient Federated Learning for Personal Assistant Application on Smartphones. Masters thesis, King Fahd University of Petroleum and Minerals.

[img] PDF (Communication-Efficient Federated Learning for Personal Assistant Application on Smartphones)
Thesis_Report_Abdulmumin_Sa_ad_202203620.pdf - Accepted Version
Restricted to Repository staff only until 7 July 2025.

Download (5MB)

Arabic Abstract

وسرعان ما أصبحت الهواتف الذكية منتشرة في كل مكان، مع أكثر من خمسة مليارات مستخدم على مستوى العالم. وهي مجهزة بأجهزة استشعار متقدمة مثل GPS والكاميرات والميكروفونات، وتولد كميات كبيرة من البيانات المتنوعة. معظم هذه البيانات، بما في ذلك المواقع وسجلات المكالمات والصور والأنشطة عبر الإنترنت، خاصة للغاية. مطلوب بنية تدريب نموذجية مناسبة لتعزيز سهولة الاستخدام من خلال التطبيقات الذكية مع الحفاظ على خصوصية البيانات وأمنها. في هذه الأطروحة، قمنا بتطوير إطار عمل التعلم المعزز بكفاءة الاتصال (CEFEL) لتطبيقات المساعد الشخصي للهواتف الذكية لحماية خصوصية المستخدم والحفاظ على تجربة المستخدم مع انخفاض الاتصالات والحمل الحسابي. يحدد إطار العمل الخاص بنا المعلمات التي تتقارب مبكرًا ويمكن تجميدها أو توصيلها بشكل متقطع، مما يقلل من حمل الاتصال دون المساس بدقة النموذج. تثبت التجارب الموسعة قوة نهجنا ضد توزيعات البيانات غير المتوازنة وغير IID. تظهر التجارب أن إطارنا المطور لتقنيات FedFreeze وFedFreeze+ يتفوق على أحدث خوارزميات FL مثل FedAvg في تقليل تكاليف الاتصالات والحساب، والحفاظ على الخصوصية، والحفاظ على كفاءة التدريب بدقة مماثلة.

English Abstract

Smartphones have rapidly become ubiquitous, with over five billion users globally. Equipped with advanced sensors such as GPS, cameras, and microphones, they generate large amounts of diverse data. Much of this data, including locations, call logs, images, and online activities, are highly private. A suitable model training architecture is required to enhance usability through intelligent applications while preserving data privacy and security. In this thesis, we develop a Communication Efficient FEderated Learning (CEFEL) framework for smartphone personal assistant applications to protect user privacy and maintain user experience with low communication and computational overhead. Our framework identifies parameters that converge early and can be frozen or communicated intermittently, reducing communication overhead without compromising model accuracy. Extensive experiments demonstrate the robustness of our approach against unbalanced and non-IID data distributions. The experiments show that our developed framework of FedFreeze and FedFreeze+ techniques outperforms state-of-the-art FL algorithms like FedAvg in reducing communication and computational costs, preserving privacy, and maintaining training efficiency with comparable accuracy.

Item Type: Thesis (Masters)
Subjects: Computer
Systems
Engineering
Research
Research > Information Technology
Department: College of Computing and Mathematics > Computer Engineering
Committee Advisor: Abdulrazzak Felemban, Muhamad
Committee Members: Salah Tabbakh, Abdulaziz and Rahil Sheltami, Tarek
Depositing User: ABDULMUMIN SA'AD (g202203620)
Date Deposited: 09 Jul 2024 07:37
Last Modified: 09 Jul 2024 07:37
URI: http://eprints.kfupm.edu.sa/id/eprint/142986