Memory performance evaluation of high throughput servers

(2003) Memory performance evaluation of high throughput servers. Masters thesis, King Fahd University of Petroleum and Minerals.

[img]
Preview
PDF
10478.pdf

Download (818kB) | Preview

Arabic Abstract

تعتمد الخادمات ذات الطاقة العالية والتي تبنى منها الشبكة بدرجة عالية على كفاءة ذاكرتها . فبينما ازدادت سرعة المعالج إلى حوالي الضعف كل ثمانية عشر شهراً ، تتضاءل تأخر الوصول إلى الذاكرة إلى 10% في كل سنة تقريباً . فالإعاقة في كفاءة الخادم قد تحول من المعالج إلى كفاءة الذاكرة الفورية (Cache) ، الذاكرة الرئيسية والذاكرة الافتراضية ، في هذه الرسالة ، قمنا بصياغة تحليلية لوصول الذاكرة في ثلاث خادمات ذات إخراج عالي : خادمات الملتيميديا ، خادمات الويب وموجهات (Routers) البرامج . لقد حصلنا على الطاقة القصوى المتفائلة لهذه الخادمات لأحدث المعالجات ذات الأغراض المتعددة مع سرعات متغير للناقل الداخلي (Internal bus) . كما تناولنا تقييم الكفاءة على أساس القياس لهذه الخادمات ذات الطاقة العالية . ولقد تعلمنا أن نظام الذاكرة يمثل عائق كامن لكفاءة خادمات الملتيميديا وخادمات الويب ، بينما تمثل تحول السياق (Context Switching) ومقاومة الناقل العائق الأكبر لموجهات البرامج . حتى نبين مدى تأثير إخفاء الوصول إلى الذاكرة على تحسين أداء الخادم ، تم تصميم وتطبيق نموذج خادم آر تي بي (RTP) والذي يتضمن على تعدد الخيوط (Multithreading) ، وطريقة الاستجلاب التمهيدي مع استخدام الذاكرة المساندة لإخفاء تأخر الوصول إلى الذاكرة (الرئيسية والافتراضية) . قيّمنا أداء نموذجنا مع خادم آر تي بي والذي لم يظهر عليه أي تحسين في أداء الذاكرة وذكرنا أن نموذجنا أظهر إخراجاً عالياً مع تأخر منخفض .

English Abstract

High throughput of network infrastructure servers largely depends on their memory performance. While processor speed has been doubling roughly every eighteen months, memory access latencies reduce at a rate of about 10% per year. Bottleneck in server performance has been shifting from processor to cache, main memory and virtual memory performance. In this thesis, we analytically model memory access of transactions in three key high throughput servers: streaming media servers, web servers and software routers. We obtain optimistic peak throughputs of these servers for state-of-the-art general purpose processors with varying internal bus speeds. We also conduct a measurement-based performance evaluation of these high throughput servers. We identify memory subsystem as a potential performance bottleneck for streaming media servers and web servers, while context switching overhead and bus contention have greater impact on performance of software routers. To demonstrate how memory latency hiding can improve server performance, we design and implement a prototype RTP server that incorporates multithreading and pre-fetching with buffering to hide memory (main and virtual) access latency. We evaluate the performance of our prototype against an RTP server, which does not incroporate above memory performance improvements and report that our prototype shows higher throughput with lower jitter.

Item Type: Thesis (Masters)
Subjects: Computer
Department: College of Computing and Mathematics > Computer Engineering
Committee Advisor: Sattar, Abdul Waheed M. A.
Committee Members: Sait, Sadiq M. and Khan, Muhammad Farrukh
Depositing User: Mr. Admin Admin
Date Deposited: 22 Jun 2008 14:05
Last Modified: 01 Nov 2019 14:01
URI: https://eprints.kfupm.edu.sa/id/eprint/10478