Quand (si jamais) est-ce une bonne idée de faire une analyse de puissance post hoc?


Réponses:


7

Dans mon domaine, je vois des gens faire des analyses de puissance post-hoc lorsque le but de l'article est de montrer qu'un effet que l'on aurait pu s'attendre à voir (soit à cause de la littérature précédente, du bon sens, etc.) n'est pas, du moins selon à un certain test de signification.

Cependant, dans ces situations, le chercheur est un peu coincé - il ou elle peut avoir obtenu un résultat non significatif soit parce que l'effet n'est vraiment pas présent dans la population, soit parce que l'étude n'était pas suffisamment alimentée pour détecter même s'il était présent. Le but de l'analyse de puissance est donc de montrer que, étant donné un effet même négligeable dans la population, l'étude aurait eu une forte probabilité de détecter cet effet.

Pour un exemple concret de cette utilisation de l'analyse de puissance post-hoc, voir cet article lié.


1
Cela semble certainement raisonnable. Sur la base de votre réponse, je conclurais qu'il y a parfois une bonne raison de faire des analyses de puissance post hoc. C'est à moins qu'il n'y ait une méthode supérieure pour montrer que, même avec un effet démographique même insignifiant, une étude aurait une forte probabilité de détecter cet effet. Connaissez-vous une telle méthode?
user1205901

Je pense que cette méthode est précisément une analyse de puissance post-hoc. Je suppose qu'une méthode alternative pourrait être l'utilisation de méthodes bayésiennes au lieu de tests d'hypothèse de Pearson, mais dans mon domaine (psychologie), le test d'hypothèse de Pearson est toujours le paradigme statistique dominant.
Patrick S.Forscher

Il y a un énorme problème avec l'approche décrite. Les moyennes sont toujours différentes en raison de la variation d'échantillonnage, donc virtuellement, n'importe quel test serait capable de détecter même un effet trivialement petit étant donné un grand échantillon (augmentez votre n à 99999999999 et tout pourrait être significatif). De plus, dans le cas d'une hypothèse rejetée, je ne suis pas sûr, mais il est probable que la "puissance obtenue" sera <0,5 toujours (ou, la plupart du temps, au moins). Donc, cela conduisait toujours à la conclusion que l'échantillon n'était pas suffisant.
Bruno

α

4

Vous pouvez toujours calculer la probabilité qu'une étude ait produit un résultat significatif pour une taille d'effet a priori donnée. En théorie, cela devrait être fait avant qu'une étude ne soit menée, car il est inutile de réaliser une étude de faible puissance qui a une faible chance de produire un résultat significatif lorsqu'un effet est présent. Cependant, vous pouvez également calculer la puissance après l'étude pour vous rendre compte qu'une étude avait une puissance faible ou, probablement, une puissance élevée pour détecter même un petit effet.

Le terme puissance post-hoc ou observée est utilisé pour l'analyse de puissance qui utilise les tailles d'effet observées dans un échantillon pour calculer la puissance en supposant que la taille d'effet observée est une estimation raisonnable de la taille réelle de l'effet. De nombreux statisticiens ont souligné que la puissance observée dans une seule étude n'est pas très informative car les amplitudes des effets ne sont pas estimées avec une précision suffisante pour être informatives. Plus récemment, les chercheurs ont commencé à examiner la puissance observée pour un ensemble d'études afin d'examiner la puissance des études en moyenne et si les études rapportent des résultats plus significatifs que la puissance réelle des études ne le justifierait.

https://replicationindex.wordpress.com/tag/observed-power/


Alors, @ Dr-r, comment quelqu'un pourrait-il se référer au premier type d'étude mentionné? Y a-t-il un nom correct pour cela? J'ai utilisé la fonction "post hoc" de G * Power, mais j'ai utilisé la taille d'effet a priori. La raison pour laquelle je le fais est que, dans un premier temps, j'ai prévu d'utiliser une différence moyenne "devinée" et un écart-type "deviné", et ils différaient beaucoup de ceux obtenus. De plus, je n'ai pas pu atteindre la taille d'échantillon prévue dans les deux groupes. Je ne veux pas utiliser le terme "post hoc" dans mon article parce que les gens pourraient se tromper. Alors, avez-vous une suggestion?
Bruno
En utilisant notre site, vous reconnaissez avoir lu et compris notre politique liée aux cookies et notre politique de confidentialité.
Licensed under cc by-sa 3.0 with attribution required.