Как разница во времени выполнения задачи влияет на продолжительность работы?

Давайте предположим , что у нас есть большой набор задач $\tau_1, \tau_2, ..., \tau_n$ и сборник идентичны (с точки зрения производительности процессоров) $\rho_1, \rho_2, ..., \rho_m$ которые работают полностью параллельно. Для интересующих нас сценариев мы можем принять $m \leq n$ . Каждый $\tau_i$ занимает некоторое количество времени / циклов, чтобы завершиться, как только он назначен процессору $\rho_j$и после назначения он не может быть переназначен до завершения (процессоры всегда в конечном итоге выполняют назначенные задачи). Предположим, что каждый $\tau_i$ занимает некоторое количество неизвестных заранее циклов $X_i$ , взятых из некоторого дискретного случайного распределения. Для этого вопроса, мы можем даже предположить , простое распределение: $P(X_i = 1) = P(X_i = 5) = 1/2$ , и все $X_i$ попарно независимы. Поэтому $\mu_i = 3$ и $\sigma^2 = 4$ .

Предположим, что статически в момент времени / цикла 0 все задачи назначаются как можно более равномерно всем процессорам, равномерно случайным образом; поэтому каждому процессору $\rho_j$ назначается $n/m$ задач (мы также можем предположить, что $m | n$ для целей вопроса). Мы называем временной интервал временем / циклом, в течение которого последний процессор $\rho^*$ завершает свою назначенную работу, заканчивает работу, для которой он был назначен. Первый вопрос:

В зависимости от $m$ , $n$ и $X_i$ , каков размер $M$ ? В частности, что такое $E[M]$ ? $Var[M]$ ?

Второй вопрос:

Пусть , и все Х я попарно независимы, поэтому μ я = 3 и σ 2 = 1 . В зависимости от m , n и этих новых X i , каков состав? Интересно, как это соотносится с ответом из первой части?$P(X_i = 2) = P(X_i = 4) = 1/2$$X_i$$\mu_i = 3$$\sigma^2 = 1$$m$$n$$X_i$

Некоторые простые мысленные эксперименты показывают, что ответ на последний вопрос заключается в том, что срок службы больше. Но как это можно определить количественно? Я буду рад опубликовать пример, если это либо (а) спорные или (б) неясно. В зависимости от успеха с этим, я опубликую последующий вопрос о динамической схеме назначения при тех же самых предположениях. Заранее спасибо!

Анализ простого случая: $m = 1$

Если , то все n задач запланированы на один и тот же процессор. Makepan M - это просто время, чтобы выполнить n задач полностью последовательно. Следовательно, E [ M $m = 1$$n$$M$$n$ и V a r [ M

$$\begin{align*} E[M] &= E[X_1 + X_2 + ... + X_n] \\ &= E[X_1] + E[X_2] + ... + E[X_n] \\ &= \mu + \mu + ... + \mu \\ &= n\mu \end{align*}$$ $$\begin{align*} Var[M] &= Var[X_1 + X_2 + ... + X_n] \\ &= Var[X_1] + Var[X_2] + ... + Var[X_n] \\ &= \sigma^2 + \sigma^2 + ... + \sigma^2 \\ &= n\sigma^2 \\ \end{align*}$$

Кажется, что можно использовать этот результат, чтобы ответить на вопрос при ; мы просто должны найти выражение (или близкое приближение) для макс ( Y 1 , Y 2 , . . . , У м ) , где Y я = Х я $m > 1$$\max(Y_1, Y_2, ..., Y_m)$ , случайная величина сμY=$Y_i = X_{i\frac{n}{m} + 1} + X_{i\frac{n}{m} + 2} + ... + X_{i\frac{n}{m} + \frac{n}{m}}$иσ 2 Y =$\mu_Y = \frac{n}{m}\mu_X$ . Это направление в правильном направлении?$\sigma_Y^2 = \frac{n}{m}\sigma_X^2$

Поскольку , мы можем рассматривать это в терминах k и n вместо n и m . Допустим, T i - это время, которое требуется i- му процессору для завершения своей работы.$m = k \times n$$k$$n$$n$$m$$T_i$$i$

По мере роста вероятность того, что T i = 5 k (процессору было назначено только T = 5 задач) для некоторого i, приближается к 1 , поэтому определяемый диапазон составляет m a x ( T i ) , E [ M ] приближается к 5 k .$n$$T_i$$5k$$T=5$$i$$1$$\mathrm{max}(T_i)$$E[M]$$5k$

Для второго сценария это Так что увеличение числа процессоров делает 4–2 разбиение лучше.$4k$

Как насчет - увеличение количества задач на процессор? Увеличение k имеет противоположный эффект, оно снижает вероятность того, что у процессора будет неудачный набор задач. Я сейчас иду домой, но вернусь к этому позже. Моя догадка заключается в том, что с ростом k разница в E [ M ] между 4–2 и 5–1 расщеплениями исчезает, E [ M ] становится одинаковым для обоих. Так что я бы предположил, что 4–2 всегда лучше, за исключением, может быть, некоторых особых случаев (очень маленьких конкретных значений k и n ), если даже этого.$k$$k$$k$$E[M]$$E[M]$$k$$n$

Итак, подведем итог:

• Чем меньше дисперсия, тем лучше, при прочих равных условиях.
• По мере роста числа процессоров, более низкая дисперсия становится более важной.
• По мере роста числа задач на процессор, более низкая дисперсия становится менее важной.

I find that heuristic arguments are often quite misleading when considering task scheduling (and closely related problems like bin packing). Things can happen that are counter-intuitive. For such a simple case, it is worthwhile actually doing the probability theory.

Let $n = km$ with $k$ a positive integer. Suppose $T_{ij}$ is the time taken to complete the $j$-th task given to processor $i$. This is a random variable with mean $\mu$ and variance $\sigma^2$. The expected makespan in the first case is

$$E[M] = E[\max \left\{\sum_{j=1}^k T_{ij} \mid i=1,2,\dots,m \right\}].$$ The sums are all iid with mean $k\mu$ and variance $k\sigma^2$, assuming that $T_{ij}$ are all iid (this is stronger than pairwise independence).

Now to obtain the expectation of a maximum, one either needs more information about the distribution, or one has to settle for distribution-free bounds, such as:

• Peter J. Downey, Distribution-free bounds on the expectation of the maximum with scheduling applications, Operations Research Letters 9, 189–201, 1990. doi:10.1016/0167-6377(90)90018-Z

which can be applied if the processor-wise sums are iid. This would not necessarily be the case if the underlying times were just pairwise independent. In particular, by Theorem 1 the expected makespan is bounded above by

$$E[M] \le k\mu + \sigma\sqrt{k}\frac{n-1}{\sqrt{2n-1}}.$$ Downey also gives a particular distribution achieving this bound, although the distribution changes as $n$ does, and is not exactly natural.

Note that the bound says that the expected makespan can increase as any of the parameters increase: the variance $\sigma^2$, the number of processors $n$, or the number of tasks per processor $k$.

For your second question, the low-variance scenario resulting in a larger makespan seems to be an unlikely outcome of a thought experiment. Let $X = \max_{i=1}^m X_i$ denote the makespan for the first distribution, and $Y = \max_{i=1}^m Y_i$ for the second (with all other parameters the same). Here $X_i$ and $Y_i$ denote the sums of $k$ task durations corresponding to processor $i$ under the two distributions. For all $x \ge k\mu$, independence yields

$$Pr[X \le x] = \prod_{i=1}^m Pr[X_i \le x] \le \prod_{i=1}^m Pr[Y_i \le x] = Pr[Y \le x].$$ Since most of the mass of the probability distribution of the maximum will be above its mean, $E[X]$ will therefore tend to be larger than $E[Y]$. This is not a completely rigorous answer, but in short, the second case seems preferable.