Организация ЭВМ и систем: Курс лекций (Позиционные системы счисления. Процессоры семейства IA-32. Лазерные принтеры), страница 32

Процессорные элементы могут быть самые разнообразные — по типу от простейших АЛУ до полных ЦП, а по размерам — от небольшой части микросхемы до кубометра электроники.

Модули памяти также могут иметь объём от нескольких килобайт до гигабайт. Они могут находиться рядом с процессором или на другой плате. Динамическое ОЗУ работает гораздо медленнее процессоров, поэтому для повышения производительности системы используют до четырёх уровней кэш-памяти.

Но тип системы с параллельной обработкой данных определяется, в основном, не типом составляющих её элементов, а способом их взаимодействия.

Если рассматривать систему с точки зрения физического устройства, то самым крупным делением схем взаимодействия является их деление на статические и динамические. В статических схемах соединение фиксировано и определяется конструкцией системы. В динамических схемах элементы подключены к коммутатору, который может изменять способ соединения.

Иное деление возникает, если задаться вопросом, какие процессы должны выполняться параллельно. Здесь также могут быть различные варианты. Некоторые ЭВМ рассчитаны на одновременное выполнение независимых задач, которые не связаны друг с другом и практически не взаимодействуют между собой. Другие ЭВМ рассчитаны на выполнение одной задачи, состоящей из нескольких параллельных процессов. Типичными примерами первой ситуации являются:

—  web-серверы;

—  серверы приложений.

Возможен вариант с ещё более тесной связью между различными параллельными процессами — системы, в которых одновременно выполняется много одинаковых действий, но над различными наборами данных. Типичным примером задачи такого рода является выполнение алгебраических операций над векторами.

Описанные три ситуации различаются так называемой степенью детализации. В первом случае «параллелизируемая единица» относительно велика — целая пользовательская программа. Параллельная работа больших частей программного обеспечения практически без взаимодействия между ними называется параллелизмом на уровне крупных структурных единиц. Диаметрально противоположный случай называется параллелизмом на уровне мелких структурных единиц.

Термин «степень детализации» используется по отношению к алгоритмам и программам, но у него есть прямой аналог в аппаратном обеспечении. Системы с небольшим количеством больших процессоров, взаимодействующих по схемам с низкой скоростью передачи данных, называются системами с косвенной или слабой связью . Им противополагаются системы с непосредственной или тесной связью , в которых компоненты имеют относительно малый размер и взаимодействуют посредством схем с высокой пропускной способностью. В большинстве случаев задачи с параллелизмом на уровне крупных структурных единиц лучше решаются в системах со слабой связью, а задачи с параллелизмом на уровне мелких структурных единиц — в системах с тесной связью.

Разнообразие степени детализации и связности привели к разнообразию архитектур, что, в свою очередь, породило потребность в их упорядочении. Чаще всего используется различные развития классификации Флинна. Все они являются достаточно грубым приближением реальной действительности.

В основе классификации лежат два понятия: потоки команд и потоки данных. Потоков того и другого вида может быть один или более одного (много). Соответственно, существует четыре основных типа вычислительных систем (таблица):

Системы типа один поток команд, один поток данных (ОКОД, Single Instruction stream Single Data stream, SISD) — это классические ЭВМ фон Неймана, которые не являются системами с параллельной обработкой данных.

Системы типа один поток команд, много потоков данных (ОКМД, Single Instruction stream Multiple Data stream, SIMD) содержат один блок управления, выдающий по одной команде, и несколько АЛУ, обрабатывающие несколько наборов данных одновременно. Прототип таких систем — ЭВМ ILLIAC IV. ЭВМ такого типа широко применяются в настоящее время для научных расчётов.