Quels algorithmes ne peuvent pas être parallélisés?

Existe-t-il un algorithme très difficile à paralléliser ou la recherche est-elle toujours active?

Je voulais connaître tout algorithme ou tout domaine de recherche en calcul parallèle.

Tout ce que j'ai recherché a une implémentation «parallèle». Je veux juste faire une étude sur n'importe quel domaine informatique parallèle inexploré.

algorithms parallel-computing

— Proton polynomial
source

Qu'entendez-vous exactement par «paralléliser»? On peut dire que chaque algorithme est parallélisable, mais pas toujours bien. (Il pourrait être plus intéressant de trouver de nouveaux algorithmes, en tout cas.)

— Raphael

Vous avez raison, mon but est de trouver des algorithmes difficiles à paralléliser. Pouvez-vous m'en dire plus sur ce que vous entendez par trouver de nouveaux algorithmes?

— Polynomial Proton

Tu n'as pas répondu à ma question. Combien de processeurs autorisez-vous (5, , , )? Quel type d'accélération et / ou d'efficacité recherchez-vous (toute accélération, accélération linéaire en nombre de processeurs, temps total poly-logarithmique)?

p

$p$

n

$n$

\infty

$\infty$

— Raphael

Pour l'instant, je recherche des algorithmes difficiles à paralléliser, c'est-à-dire à explorer le domaine, puis à décider en conséquence après les avoir étudiés.

— Polynomial Proton

en relation: stackoverflow.com/questions/18773937/…

— Ciro Santilli 新疆改造中心法轮功六四事件

Réponses:

il s'agit essentiellement d'un problème de recherche ouvert lié à la question NC =? P où NC est considéré comme la classe d'algorithmes efficacement parallélisables.

dans une étude influente / large de Berkeley "le paysage de l'informatique parallèle" , il existe des classes d'algorithmes ou de modèles de parallélisme séparés en "nains". sur les 6 premiers identifiés, il semble que les problèmes à peuvent être relativement difficiles à paralléliser efficacement lorsque le augmente car il y a interactions entre tous les points. $n$ $n$ $n^2$ $n$

ils ont ajouté 6 autres plus tard dans le document et suggèrent qu'un dernier appelé "FSMs" (p14) où le problème implique de calculer des calculs de type FSM (comme le ème état du FSM) pourrait être l'opposé de quelque chose de "parallèle embarrassant" ils proposent d'appeler "embarrassamment séquentiel". $n$

voir aussi existe-t-il des algorithmes célèbres en sci. comp. qui ne peut pas être parallélisé , scicomp.se

— vzn
source

Génial, merci pour les liens et l'explication!

— Polynomial Proton

Cet article donne un certain nombre de problèmes faciles à résoudre séquentiellement mais difficiles à paralléliser: http://en.wikipedia.org/wiki/P-complete

Le problème de la valeur du circuit ("étant donné un circuit booléen + son entrée, dites ce qu'il produit") est un bon point de départ - facile à comprendre, facile à résoudre avec des algorithmes séquentiels, et personne ne sait s'il peut être mis en parallèle efficacement.

— Jukka Suomela
source

Cela suppose une définition théoriquement complexe de "parallélisable" qui peut ou non présenter un intérêt.

— Raphael

@Raphael: AFAIK, de nombreux problèmes classiques de P-complet sont difficiles à paralléliser non seulement en théorie mais aussi en pratique (même si vous avez un nombre relativement petit de processeurs).

— Jukka Suomela du

@JukkaSuomela Il y a aussi des cas où la théorie de la complexité suggère la dureté, mais les choses fonctionnent bien dans la pratique. De plus, des résultats positifs ne signifient pas grand-chose dans la pratique non plus.

— Raphael

On pourrait ajouter que, d'un point de vue théorique de la complexité, il n'est pas du tout clair si des problèmes "intrinsèquement incalculables" existent même, du fait qu'on ne sait pas si

, comme le fait vzn dans son réponse

N C = P

$\mathsf{NC} = \mathsf{P}$

— Cornelius Brand

D'un point de vue pratique, vous vous interrogez sur les algorithmes intrinsèquement séquentiels. Il existe de nombreux candidats, comme la chaîne de hachage, qui est considérée comme très difficile à paralléliser. Le hachage enchaîné est largement utilisé en cryptographie. Par exemple, le schéma de hachage de mot de passe bcrypt a été conçu pour essayer de rendre difficile l'accélération du hachage grâce à la parallélisation. Un autre exemple est la quadrature répétée (encore une fois, en cryptographie).

— DW
source

J'ai trouvé quelques articles qui ont parallélisé le chaînage de hachage, mais ne l'ont pas lu complètement. Je vais passer par la même chose. Quoi qu'il en soit, merci pour la contribution!

— Polynomial Proton

@TheUknown Des liens vers ces articles seraient appréciés.

— m33lky

@ m33lky Désolé, je n'ai aucun de ces papiers avec moi maintenant. C'était en janvier et j'ai finalement poursuivi mes recherches sur un autre sujet. Cependant, vous pouvez rechercher en ligne sur google scholar et je suis sûr que vous obtiendrez de nombreux articles

— Polynomial Proton

Sur le plan pratique, il convient également de mentionner que si l'algorithme est par exemple lié à la mémoire, la parallélisation n'aidera pas beaucoup: stackoverflow.com/questions/868568/…

— Ciro Santilli i 改造中心法轮功六四事件