KFUPM ePrints

Memory performance evaluation of high throughput servers

Ya'uisa, Garba (2003) Memory performance evaluation of high throughput servers. Masters thesis, King Fahd University of Petroleum and Minerals.

[img]PDF
799Kb

Arabic Abstract

تعتمد الخادمات ذات الطاقة العالية والتي تبنى منها الشبكة بدرجة عالية على كفاءة ذاكرتها . فبينما ازدادت سرعة المعالج إلى حوالي الضعف كل ثمانية عشر شهراً ، تتضاءل تأخر الوصول إلى الذاكرة إلى 10% في كل سنة تقريباً . فالإعاقة في كفاءة الخادم قد تحول من المعالج إلى كفاءة الذاكرة الفورية (Cache) ، الذاكرة الرئيسية والذاكرة الافتراضية ، في هذه الرسالة ، قمنا بصياغة تحليلية لوصول الذاكرة في ثلاث خادمات ذات إخراج عالي : خادمات الملتيميديا ، خادمات الويب وموجهات (Routers) البرامج . لقد حصلنا على الطاقة القصوى المتفائلة لهذه الخادمات لأحدث المعالجات ذات الأغراض المتعددة مع سرعات متغير للناقل الداخلي (Internal bus) . كما تناولنا تقييم الكفاءة على أساس القياس لهذه الخادمات ذات الطاقة العالية . ولقد تعلمنا أن نظام الذاكرة يمثل عائق كامن لكفاءة خادمات الملتيميديا وخادمات الويب ، بينما تمثل تحول السياق (Context Switching) ومقاومة الناقل العائق الأكبر لموجهات البرامج . حتى نبين مدى تأثير إخفاء الوصول إلى الذاكرة على تحسين أداء الخادم ، تم تصميم وتطبيق نموذج خادم آر تي بي (RTP) والذي يتضمن على تعدد الخيوط (Multithreading) ، وطريقة الاستجلاب التمهيدي مع استخدام الذاكرة المساندة لإخفاء تأخر الوصول إلى الذاكرة (الرئيسية والافتراضية) . قيّمنا أداء نموذجنا مع خادم آر تي بي والذي لم يظهر عليه أي تحسين في أداء الذاكرة وذكرنا أن نموذجنا أظهر إخراجاً عالياً مع تأخر منخفض .

English Abstract

High throughput of network infrastructure servers largely depends on their memory performance. While processor speed has been doubling roughly every eighteen months, memory access latencies reduce at a rate of about 10% per year. Bottleneck in server performance has been shifting from processor to cache, main memory and virtual memory performance. In this thesis, we analytically model memory access of transactions in three key high throughput servers: streaming media servers, web servers and software routers. We obtain optimistic peak throughputs of these servers for state-of-the-art general purpose processors with varying internal bus speeds. We also conduct a measurement-based performance evaluation of these high throughput servers. We identify memory subsystem as a potential performance bottleneck for streaming media servers and web servers, while context switching overhead and bus contention have greater impact on performance of software routers. To demonstrate how memory latency hiding can improve server performance, we design and implement a prototype RTP server that incorporates multithreading and pre-fetching with buffering to hide memory (main and virtual) access latency. We evaluate the performance of our prototype against an RTP server, which does not incroporate above memory performance improvements and report that our prototype shows higher throughput with lower jitter.



Item Type:Thesis (Masters)
Date:June 2003
Date Type:Completion
Subjects:Computer
Divisions:College Of Computer Sciences and Engineering > Computer Engineering Dept
Creators:Ya'uisa, Garba
Committee Advisor:Sattar, Abdul Waheed M. A.
Committee Members:Sait, Sadiq M. and Khan, Muhammad Farrukh
ID Code:10478
Deposited By:KFUPM ePrints Admin
Deposited On:22 Jun 2008 17:05
Last Modified:30 Apr 2011 15:37

Repository Staff Only: item control page