Comment la variance du temps d'exécution des tâches affecte-t-elle la durée?

Disons que nous avons une grande collection de tâches et une collection de processeurs identiques (en termes de performances) qui fonctionnent complètement dans parallèle. Pour les scénarios d'intérêt, nous pouvons supposer . Chaque prend un certain temps / cycles à terminer une fois qu'il est affecté à un processeur , et une fois qu'il est attribué, il ne peut pas être réaffecté jusqu'à ce qu'il soit terminé (les processeurs finissent toujours par terminer les tâches assignées). Supposons que chaque prenne une quantité de temps / cycles$\tau_1, \tau_2, ..., \tau_n$$\rho_1, \rho_2, ..., \rho_m$$m \leq n$$\tau_i$$\rho_j$$\tau_i$$X_i$, inconnue à l'avance, tirée d'une distribution aléatoire discrète. Pour cette question, nous pouvons même supposer une distribution simple: , et tous les sont indépendants par paire. Par conséquent et .$P(X_i = 1) = P(X_i = 5) = 1/2$$X_i$$\mu_i = 3$$\sigma^2 = 4$

Supposons que, statiquement, au temps / cycle 0, toutes les tâches soient assignées aussi uniformément que possible à tous les processeurs, uniformément au hasard; donc chaque processeur se voit attribuer tâches (on peut tout aussi bien supposer aux fins de la question). Nous appelons le makespan le temps / cycle auquel le dernier processeur ρ ∗ pour terminer son travail assigné, termine le travail qui lui a été assigné. Première question:$\rho_j$$n/m$$m | n$$\rho^*$

En fonction de $m$ , $n$ et des $X_i$ , quel est le makespan $M$ ? Plus précisément, qu'est-ce que $E[M]$ ? $Var[M]$ ?

Deuxième question:

Supposons que $P(X_i = 2) = P(X_i = 4) = 1/2$ , et tous les $X_i$ sont indépendants deux à deux, de sorte que $\mu_i = 3$ et $\sigma^2 = 1$ . En fonction de $m$ , $n$ et de ces nouveaux $X_i$ , quelle est la durée? Plus intéressant, comment se compare-t-il à la réponse de la première partie?

Certaines expériences de pensée simples démontrent que la réponse à cette dernière est que la durée de fabrication est plus longue. Mais comment cela peut-il être quantifié? Je serai heureux de publier un exemple si cela est (a) controversé ou (b) pas clair. En fonction du succès de celui-ci, je posterai une question de suivi sur un schéma d'affectation dynamique sous ces mêmes hypothèses. Merci d'avance!

Analyse d'un cas facile: $m = 1$

Si $m = 1$ , toutes les $n$ tâches sont planifiées sur le même processeur. Le makespan $M$ est le moment idéal pour effectuer $n$ tâches de manière séquentielle complète. Par conséquent, et V a r [ M

$$\begin{align*} E[M] &= E[X_1 + X_2 + ... + X_n] \\ &= E[X_1] + E[X_2] + ... + E[X_n] \\ &= \mu + \mu + ... + \mu \\ &= n\mu \end{align*}$$ $$\begin{align*} Var[M] &= Var[X_1 + X_2 + ... + X_n] \\ &= Var[X_1] + Var[X_2] + ... + Var[X_n] \\ &= \sigma^2 + \sigma^2 + ... + \sigma^2 \\ &= n\sigma^2 \\ \end{align*}$$

Il semble qu'il soit possible d'utiliser ce résultat pour répondre à la question pour ; nous avons simplement besoin de trouver une expression (ou approximation) pour max ( Y 1 , Y 2 , . . . , Y m ) où Y i = X i $m > 1$$\max(Y_1, Y_2, ..., Y_m)$ , une variable aléatoire avecμY=$Y_i = X_{i\frac{n}{m} + 1} + X_{i\frac{n}{m} + 2} + ... + X_{i\frac{n}{m} + \frac{n}{m}}$etσ 2 Y =$\mu_Y = \frac{n}{m}\mu_X$ . Cette direction va-t-elle dans la bonne direction?$\sigma_Y^2 = \frac{n}{m}\sigma_X^2$

Comme , nous pouvons regarder cela en termes de k et n au lieu de n et m . Disons que T i est le temps nécessaire au i- ème processeur pour terminer son travail.$m = k \times n$$k$$n$$n$$m$$T_i$$i$

Au fur et à mesure que augmente, la probabilité que T i = 5 k (le processeur n'a été affecté qu'à T = 5 tâches) pour certains i s'approche de 1 , de sorte que la durée étant définie comme m a x ( T i ) , E [ M ] approche 5 k .$n$$T_i$$5k$$T=5$$i$$1$$\mathrm{max}(T_i)$$E[M]$$5k$

Pour le deuxième scénario, il s'agit de donc l'augmentation du nombre de processeurs améliore la répartition 4–2.$4k$

Qu'en est-il de - augmenter le nombre de tâches par processeur? Augmenter k a l'effet inverse, cela rend moins probable un processeur avec un ensemble malchanceux de tâches. Je rentre chez moi maintenant mais j'y reviendrai plus tard. Mon "pressentiment" est qu'à mesure que k augmente, la différence de E [ M ] entre la division 4–2 et la division 5–1 disparaît, E [ M ] devient la même pour les deux. Je suppose donc que 4–2 est toujours meilleur, sauf peut-être pour certains cas spéciaux (très petites valeurs spécifiques de k et n ), si ce n'est que cela.$k$$k$$k$$E[M]$$E[M]$$k$$n$

Donc, pour résumer:

• Une variance plus faible est meilleure, toutes choses étant égales par ailleurs.
• À mesure que le nombre de processeurs augmente, une variance plus faible devient plus importante.
• À mesure que le nombre de tâches par processeur augmente, une variance plus faible devient moins importante.

Je trouve que les arguments heuristiques sont souvent assez trompeurs lorsque l'on considère la planification des tâches (et des problèmes étroitement liés comme le bin bin). Il peut arriver des choses contre-intuitives. Pour un cas aussi simple, cela vaut la peine de faire la théorie des probabilités.

Soit avec k un entier positif. Supposons que T i j est le temps nécessaire pour terminer la j- ième tâche donnée au processeur i . Il s'agit d'une variable aléatoire de moyenne μ et de variance σ 2 . Le makespan attendu dans le premier cas est E [ M ] = E [ max { k ∑ j = 1 T i j ∣ i = 1 , 2 , … $n = km$$k$$T_{ij}$$j$$i$$\mu$$\sigma^2$ Les sommes sont toutes iid avec une moyenne k μ et une variance k σ 2 , en supposant que T i j sont toutes iid (c'est plus fort que l'indépendance par paire).

$$E[M] = E[\max \left\{\sum_{j=1}^k T_{ij} \mid i=1,2,\dots,m \right\}].$$ $k\mu$$k\sigma^2$$T_{ij}$

Maintenant, pour obtenir l'espérance d'un maximum, il faut soit avoir plus d'informations sur la distribution, soit se contenter de bornes sans distribution, telles que:

• Peter J. Downey, Distribution-free bounds on the expectation of the maximum with scheduling applications , Operations Research Letters 9 , 189–201, 1990. doi: 10.1016 / 0167-6377 (90) 90018-Z

$$E[M] \le k\mu + \sigma\sqrt{k}\frac{n-1}{\sqrt{2n-1}}.$$ $n$

$\sigma^2$$n$$k$

Pour votre deuxième question, le scénario de faible variance résultant en une durée de vie plus longue semble être le résultat improbable d'une expérience de pensée. Laisser$X = \max_{i=1}^m X_i$ indique la durée de la première distribution, et $Y = \max_{i=1}^m Y_i$pour le second (avec tous les autres paramètres identiques). Ici$X_i$ et $Y_i$ dénoter les sommes de $k$ durées de tâche correspondant au processeur $i$sous les deux distributions. Pour tous$x \ge k\mu$, l'indépendance donne

$$Pr[X \le x] = \prod_{i=1}^m Pr[X_i \le x] \le \prod_{i=1}^m Pr[Y_i \le x] = Pr[Y \le x].$$ Comme la majeure partie de la masse de la distribution de probabilité du maximum sera supérieure à sa moyenne, $E[X]$ aura donc tendance à être plus grand que $E[Y]$. Ce n'est pas une réponse complètement rigoureuse, mais en bref, le deuxième cas semble préférable.