( Предупреждение: несколько предвзятые взгляды, упрощения и вопиющие обобщения впереди. )
Часто разницу между распределенными вычислениями и параллельными вычислениями можно суммировать следующим образом:
- В распределенных вычислениях основные меры сложности связаны с коммуникацией и информационными потоками : сколько раундов связи («время»); сколько бит передано.
- В параллельных вычислениях основные меры сложности связаны с вычислениями и обработкой информации : сколько элементарных шагов («время»); сколько бит хранится
Если вы берете эту точку зрения, то часто оказывается, что для моделирования распределенных систем на самом деле не имеет значения, какой вычислительной мощностью обладают ваши узлы (или процессоры, или компьютеры).
O(n)
XX
TT
Следовательно, использование машин Тьюринга в качестве отправной точки для моделирования распределенных систем звучит для меня немного неестественно: если это не имеет значения, зачем строить все на нем? С другой стороны, при параллельных вычислениях это было бы естественно (за исключением того, что модель обычно напоминает PRAM вместо машин Тьюринга).