La population est l'ensemble des entités à l'étude. Par exemple, la taille moyenne des hommes. Cette population est hypothétique car elle inclut tous les hommes qui ont vécu, sont en vie et vivront dans le futur. J'aime cet exemple car il montre clairement que nous, en tant qu'analystes, choisissons la population que nous souhaitons étudier. En règle générale, il est impossible d’enquêter / de mesurer l’ensemble de la population car tous les membres ne sont pas observables (par exemple, des hommes qui existeront à l’avenir). S'il est possible de dénombrer toute la population, cela est souvent coûteux et prendrait beaucoup de temps. Dans l'exemple ci-dessus, nous avons une population "d'hommes" et un paramètre d'intérêt, leur taille.
Au lieu de cela, nous pourrions prendre un sous-ensemble de cette population appelé échantillon et l’utiliser pour tirer des conclusions sur la population à l’étude, compte tenu de certaines conditions. Ainsi, nous pourrions mesurer la taille moyenne des hommes dans un échantillon de la population, que nous appelons une statistique, et l'utiliser pour tirer des conclusions sur le paramètre d'intérêt de la population. C'est une inférence car il y aura une certaine incertitude et une certaine imprécision dans la formulation de conclusions sur la population à partir d'un échantillon. Cela devrait être évident - notre échantillon compte moins de membres que notre population et nous avons donc perdu certaines informations.
Il existe de nombreuses façons de sélectionner un échantillon et son étude s'appelle la théorie de l'échantillonnage. Une méthode couramment utilisée est appelée échantillonnage aléatoire simple (SRS). Dans le SRS, chaque membre de la population a une probabilité égale d'être inclus dans l'échantillon, d'où le terme "aléatoire". Il existe de nombreuses autres méthodes d'échantillonnage, telles que l'échantillonnage stratifié, l'échantillonnage en grappes, etc., qui présentent toutes des avantages et des inconvénients.
Il est important de se rappeler que l'échantillon que nous tirons de la population n'est qu'un échantillon parmi un grand nombre d'échantillons potentiels. Si dix chercheurs étudiaient tous la même population en tirant leurs propres échantillons, ils pourraient alors obtenir des réponses différentes. Pour revenir à notre exemple précédent, chacun des dix chercheurs peut proposer une taille moyenne d'hommes différente, c'est-à-dire que la statistique en question (taille moyenne) varie d'un échantillon à l'autre. Il s'agit d'une distribution appelée distribution d'échantillonnage. Nous pouvons utiliser cette distribution pour comprendre l'incertitude dans notre estimation du paramètre de population.
La distribution d'échantillonnage de la moyenne de l'échantillon est connue pour être une distribution normale avec un écart type égal à l'écart type de l'échantillon divisé par la taille de l'échantillon. Étant donné que cela pourrait facilement être confondu avec l'écart type de l'échantillon, il est plus commun d'appeler l'écart type de la distribution d'échantillonnage l' erreur type .