Privacy-preserving Non-Intrusive Load Monitoring Using Deep Learning Techniques

Privacy-preserving Non-Intrusive Load Monitoring Using Deep Learning Techniques. Masters thesis, King Fahd University of Petroleum and Minerals.

[img] PDF
MS_Thesis_Ayub_g201707490-final.pdf - Accepted Version
Restricted to Repository staff only until 29 May 2022.

Download (18MB)

Arabic Abstract

أصبح استخدام الطاقة بكفاءة أحد أكبر الاهتمامات الحديثة لدورها المتزايد في الاقتصاد والبحوث المتعلقة بالبيئة. في ثمانينيات القرن الماضي تم تقديم فكرة أساسية لمراقبة استهلاك الأجهزة المنزلية بشكل غير تدخلي وتوسعت تطبيقاتها في الوقت الحاضر. في هذه الأطروحة، قمنا بدراسة المراقبة غير التدخلية بشكل متعمق مع التركيز على نماذج الانحدار من نقطة إلى نقطة ومن تسلسل إلى نقطة أحادية ومتعددة الأهداف. كما تم اقتراح نماذج مبنية على أساليب التعلم العميق وتقييم أدائها على ثلاث مجموعات بيانات، وتتمثل تلك الأساليب في بنيات التعلم العميق للشبكة العصبية التلافيفية (CNN) والذاكرة طويلة قصيرة المدى أحادية (LSTM) وثنائية الاتجاه (BiLSTM) ووحدة البوابات المتكررة (GRU)، وقمنا بإجراء عدة تجارب وملاحظة ومناقشة النتائج باستخدام عدد من المقاييس المختلفة. بينت النتائج أن المعالجة المسبقة للبيانات بتطبيق التطبيع على عينات الإدخال أكثر كفاءة من تطبيقه على قيم السمات. وفي حالة مجموعة بيانات ENERTALK ونماذج التصنيف أحادية الهدف حققت CNN معيار F1 بنسبة 99.34٪ للأجهزة الفردية، و 84.58٪ للمتوسط الإجمالي لجميع الأجهزة ، وحوالي 87.0 ٪ للأجهزة متعددة الحالات. أما بالنسبة لمجموعة بيانات REDD والنماذج متعددة الأهداف، حققت BiLSTM أعلى درجات F1 بنسبة 98.99٪ للأجهزة الفردية ، و 91.37٪ للمتوسط الإجمالي لجميع الأجهزة و95.33٪ للأجهزة متعددة الحالات. في هذا البحث تم أيضا استعمال تحليل تحويل مويجات مورليت واستخلاص سمات أكثر كفاءة. وقد أظهرت النتائج التجريبية أن النماذج متعددة الأهداف أكثر تعقيدًا من أحادية الهدف لكنها تتطلب وقتًا وتكلفة أقل بسبب استخدام نموذج واحد مشترك لجميع الأجهزة. وعلاوة على ذلك ، تمتاز النماذج المقترحة بكفاءة عالية وقدرتها على تجزئة دقيقة مما يعزز الفصل عبر الأجهزة والمجالات المختلفة للأجهزة الحيوية. ولضمان خصوصية لبيانات العداد الذكي تم تطبيق الخصوصية التفاضلية باستخدام خوارزمية تحسين الانحدار العشوائي التفاضلي.

English Abstract

Efficient energy use has become one of the highest plausible concerns that have recently attracted growing attentions in economy and environmental related research. In 1980s, the basic idea and process of Non-Intrusive Load Monitoring (NILM) have been introduced and nowadays its applications are expanding. In this thesis, NILM is rigorously investigated in the form of point-to-point and sequence-to-point direct regression on the setting of single- and multi-target disaggregation models. The experimental works are executed on the three public datasets ENERTALK, REDD and UK-DALE using state-of-the-art deep learning architectures of Convolutional Neural Network (CNN), Long Short-Term Memory (LSTM), Bi-directional LSTM (BiLSTM) and Gated Recurrent Unit (GRU), and the performance is bench-marked using a number of different metrics. Our investigation reveals that applying normalization to input samples is more efficient than applying it to feature values. In ENERTALK dataset, for single target disaggregation models, CNN has the highest disaggregation F1-score of 99.34% for individual appliance, 84.58% for overall average of all appliances, and as high as about 87% for simultaneously operating multiple multi-state devices. In REDD dataset, for multiple target disaggregation models, BiLSTM has the highest F1-scores of 98.99% for individual appliance, 91.37% for overall average of all appliances and 95.33% for simultaneously operating multiple devices of the same type. According to the analysis of wavelet transform, 2D scaleogram features are more efficient than 1D coefficients if Morlet wavelet is considered. The experimental results show that multi-target disaggregation setting is more complex than single-target but requires less computational time and cost due to the use of a common model for all appliances. Moreover, point-to-point disaggregation learns granular consumption information to enable cross-appliance and cross-domain disaggregation that in-turn foster real-time online monitoring of critical appliances. Sequence-to-point disaggregation can estimate the energy of an appliance taking into consideration of all previous time point consumption. Comparisons with the existing works highlight the efficiency of point-to-point and sequence-to-point disaggregation paradigms. Moreover, to ensure the privacy of smart meter data against model inversion or inference attacks, differential privacy is applied using the Differentially Private Stochastic Gradient Descent (DP-SGD) optimization algorithm.

Item Type: Thesis (Masters)
Subjects: Computer
Department: College of Computing and Mathematics > Information and Computer Science
Committee Advisor: El-Alfy, E.-S.M.
Committee Members: Abido, Mohammed Ali and Mohammed, Salahadin Adem
Depositing User: MOHAMMED AYUB (g201707490)
Date Deposited: 03 Jun 2021 07:29
Last Modified: 03 Jun 2021 07:29
URI: https://eprints.kfupm.edu.sa/id/eprint/141890