Исследование особенностей архитектуры многопроцессорных систем, влияющих на эффективность параллельных программ

АННОТАЦИЯ

В работе описан программный комплекс исследования  производительности как многопроцессорных вычислительных систем в целом, так и отдельных ее подсистем, обладающих различными аппаратными и программными решениями, от эффективной работы которых зависит итоговая эффективность выполнения параллельных программ. Описывается архитектура программного комплекса, общий алгоритм тестирования и структура разработанных тестов. Основой функциональности разработанного программного комплекса является набор компонент, реализующих измерение скорости работы участков кода исследуемой программы, связанных с работой отдельных подсистем многопроцессорной вычислительной системы (передача данных по сети, доступ к оперативной памяти, ввод/вывод файлов и многое другое). При анализе результатов производительности учитываются статистические характеристики, показывающие достоверность измерений. Приводятся результаты исследования особенностей архитектуры многопроцессорных вычислительных систем, влияющих на эффек-тивность работы параллельных программ. Подробно рассмотрены пять различных тестов. В тесте межпроцессного взаимодействия замеряется время выполнения заданной pthread-функции при определенном общем уровне загрузки вычислительной системы, формируемой созданием группы потоков. В тесте однопоточной записи в память, оценивается производительность работы памяти при последовательной записи одним потоком в общий массив памяти. В тесте многопоточной записи в память измеряется производительность при выполнении последовательной записи произвольных данных в память блоками по 500 МБ заданным количеством потоков. В тесте записи в память NUMA узлов оценивается производительность передачи данных между памятью различных NUMA-узлов. В тесте скорости передачи MPI-сообщений сравнивается производительность передачи сообщений между MPI-процессами на одном вычислительном узле и на разных узлах.

ABSTRACT

The article describes a software system for performance analysis of multiprocessor systems as a whole and its individual sub-systems with different hardware and software solutions, the effective operation of which affects the total efficiency of parallel programs. The software package architecture, general testing algorithm and the structure of the developed tests are described. Functionality of the developed software based on a set of components that implements code sections speed measurement of the programs in hand related to the work of multiprocessor computer system particular subsystems (network data transfer, memory access, file input / output  and so on). Statistical characteristics, showing the reliability of the measurements, are taken into account when analyzing performance. The results of studies of the multiprocessor systems architecture peculiarities, affecting the efficiency of the parallel programs, are given. Five different tests are considered in details. The test of IPC is measuring the given pthread-function execution time at a certain level of computer system overall load, formed by creating a group of threads. In the test of a single-threaded memory write, performance of memory is estimated when writing into a common memory array by a single thread. In a multi-threaded memory test, the performance of arbitrary data sequential write to memory in blocks of 500 MB by given number of threads is measured. In the test of NUMA nodes memory write, the performance of data transfer between different NUMA-nodes is evaluated. The MPI-messaging speed test compares the performance of MPI message passing between processes on the same computing node or on different nodes.