Domain Knowledge Utilization in Dynamic Graph Convolutional Neural Networks. Masters thesis, King Fahd University of Petroleum and Minerals.

PDF Ziyad Alswaidan's Thesis.pdf Restricted to Repository staff only until 23 June 2025. Download (11MB)

Arabic Abstract

الشبكات العصبية الديناميكية للرسوم البيانية هي نوع شائع من شبكات العصبية الرسومية، حيث تقوم بتكوين الرسوم البيانية وإعادة تكوينها باستمرار عبر الشبكة مما يتيح لها استخراج المعلومات من البيانات ورسومها البيانية، يتم استعمال هذه الشبكات في عدد متنوع من المجالات والمهام التابعة لها، وتولد معظم الشبكات الديناميكية للرسوم البيانية الرسوم باستخدام خوارزميات محددة مسبقًا أو باستخدام الشبكة نفسها في تعلّم بناء الرسم البياني، وهذه الطرق عادةً لا تضع نوع المجال الخاص بالمهمة وعلمه في عين الاعتبار عند بناء الرسوم البيانية، وقد يحد ذلك من أداء مثل هذه الشبكات حيث قد تقوم ببناء رسوم بيانية تربط النقاط بنمط لا يتطابق مع نوع البيانات التابعة للمجال. تهدف هذه الرسالة إلى الانتفاع من علم المجالات المختلفة للأبحاث في الشبكات العصبية الديناميكية للرسوم البياني لتحسين أداء هذه الشبكات، ولإثبات ذلك قمنا باختيار مجالين مختلفين وصممنا الشبكات العصبية الديناميكية للرسم البياني بشكل محدد للانتفاع من معرفة علم كل من هذين المجالين، المهام والمجالات المستقصاة في هذا العمل هي تصنيف السحنات الصخرية للصور الزلزالية وتقدير ناظم السطح لسحابة النقاط، قمنا بضبط الشبكات العصبية الديناميكية للرسوم البيانية لاستخدام علم كل من هذه المجالات لتحسين الأداء في كل من المهمتين التابعتين، حيث قمنا بتقليل من عدد المعامِلات القابلة للتعلم ووقت تدريب الشبكة بشكل كبير عند تصنيف السحنات الصخرية مع المحافظة على أداء متقدم ينافس بقية الأعمال البحثية، وفيما يتعلق بتقدير ناظم السطح لسحابة النقاط فقد حققت شبكتنا أداءً متفوقًا في تقليل خطأ تنبؤ زاوية الناظم للنقاط ذات الضجيج، وتقوم الرسالة بمناقشة كيفية الانتفاع من علم كل من المجالات المسبقة وكيف أدّى ذلك إلى تنفيذ المهام بشكل أكثر فاعلية.

English Abstract

Dynamic graph convolutional neural networks are a common type of graph neural networks that continuously constructs and reconstructs graphs throughout the network's pipeline while using convolutions to extract the features from these graphs. These networks are applied to numerous domains and used for a variety of downstream tasks. Most dynamic graph convolutional networks generate the graphs by using predetermined algorithms or allowing the network to learn how to construct them. However, these methods do not tend to acknowledge or utilize the specific domain knowledge of the problem when constructing the graphs. This could potentially limit the performance of such networks since some of the constructed graphs might connect points in a pattern that does not align with the domain's data type or the targeted downstream task. Our work in this thesis proposes the utilization of domain knowledge of different research problems in dynamic graph convolutional networks. We selected two inherently different domains and designed dynamic graph convolutional neural networks specifically to utilize their domain knowledge. The two downstream tasks and domains investigated in this work are facies classification for seismic images and normal estimation for point cloud. We adjusted dynamic graph convolutional networks to utilize the domain knowledge for each of these problems, resulting in improved performance for each of the two downstream tasks. For seismic facies classification, our network significantly reduced the number of parameters and training time while still matching and competing with state-of-the-art performing techniques. In point cloud normal estimation our network achieved state-of-the-art performance in minimizing the angle error of normal prediction for noisy data. The domain knowledge utilization is thoroughly discussed, where we highlight how the performance of dynamic graph convolutional neural networks is improved by the proposed utilization.

Item Type:	Thesis (Masters)
Subjects:	Computer Engineering Electrical
Department:	College of Engineering and Physics > Electrical Engineering
Committee Advisor:	Alfarraj, Motaz
Committee Members:	Zerguine, Azzedine and Luqman, Hamzah
Depositing User:	ZIYAD AL SWAIDAN (g201772430)
Date Deposited:	25 Jun 2024 08:43
Last Modified:	25 Jun 2024 08:43
URI:	http://eprints.kfupm.edu.sa/id/eprint/142979