Traitement GPU overkill?

Existe-t-il un moment où l'utilisation du traitement graphique ou des coprocesseurs (tels que la carte Intel Xeon PHI ou la carte Nvidia Tesla) peut réellement réduire la vitesse de traitement des données par un logiciel?

Supposons que je dispose d’un grand nombre d’expertions externes PCI-E (comme celle-ci http://www.cyclone.com/products/expansion_systems/FAQ.php ), toutes connectées au même ordinateur. Du fait que les données doivent être réparties sur les extensions et les GPU au sein desdites extensions, ne ralentirait- il pas théoriquement la vitesse à laquelle les données sont traitées?

Je me demandais juste. Si ce n'est pas le cas, pourquoi?

À un moment donné, vous allez saturer les ressources de votre processeur et les GPU resteront inactifs. Il existe également un point où vous pourriez manquer de ressources de bus. Puisqu'il s'agit d'un bus, il existe une quantité maximale de données transférables par unité de temps, ce qui pourrait à nouveau rendre les GPU inactifs.

Cela étant dit, l'ajout de GPU ne devrait pas diminuer les performances, mais ne pas l'améliorer davantage.

Parlant de calcul, il y a aussi quelques problèmes pour lesquels tenter de les faire sur un GPU peut être plus lent que de les faire sur un processeur. Des algorithmes tels que scrypt sont spécifiquement conçus pour utiliser une grande quantité de RAM afin d'empêcher les accélérations non linéaires reçues par la mise en œuvre sur des FGPA et des GPU.

Les GPU n'augmentent la vitesse que lorsque de nombreuses opérations parallèles ont lieu. Calculer une seule multiplication ne serait pas plus rapide. De plus, les GPU n’aiment généralement pas les branches (exécution de code conditionnelle).