Quelle est la distinction entre ergodique et fixe?


42

J'ai du mal à faire la distinction entre ces deux concepts. C'est ce que j'ai compris jusqu'à présent.

Un processus stationnaire est un processus stochastique dont les propriétés statistiques ne changent pas avec le temps. Pour un processus stationnaire au sens strict, cela signifie que sa distribution de probabilité conjointe est constante; pour un processus stationnaire au sens large, cela signifie que ses premier et deuxième moments sont constants.

Un processus ergodique est un processus où ses propriétés statistiques, comme la variance, peuvent être déduites d'un échantillon suffisamment long. Par exemple, la moyenne de l'échantillon converge vers la moyenne vraie du signal, si la moyenne est suffisamment longue.

Or, il me semble qu'un signal devrait être stationnaire, pour être ergodique.

  • Et quels types de signaux pourraient être stationnaires, mais pas ergodiques?
  • Si un signal a la même variance pour tous les temps, par exemple, comment la variance moyennée dans le temps pourrait-elle ne pas converger vers la valeur vraie?
  • Alors, quelle est la vraie distinction entre ces deux concepts?
  • Pouvez-vous me donner un exemple de processus qui est stationnaire sans être ergodique ou ergodique sans être stationnaire?

Vous voudrez peut-être examiner cette réponse à une question connexe.
Dilip Sarwate

Cette conférence indique littéralement qu'ergodic est un sous-ensemble de la papeterie. Je n'arrive pas à comprendre ce que fait un article sur le processus stationnaire ergodique dans Wikipedia? Cela signifie-t-il qu'il existe un processus ergodique non stationnaire?
Val

@Val Je ne défendrai pas ce que Wikipedia dit, mais je ferai remarquer que la dernière partie de ma réponse ci-dessous contient un exemple de processus WSS qui n'est pas stationnaire mais qui est ergodique.
Dilip Sarwate

Réponses:


34

Un processus aléatoire est un ensemble de variables aléatoires, une pour chaque instant considéré. En règle générale, il peut s’agir d’un temps continu ( ) ou d’un temps discret (tous les entiers , ou tous les instants de temps où est l’intervalle d’échantillon). <t<nnTT

  • La stationnarité fait référence aux distributions des variables aléatoires. Plus précisément, dans un processus stationnaire, toutes les variables aléatoires ont la même fonction de distribution et, plus généralement, pour chaque nombre entier positif et instants , la distribution conjointe des variables aléatoires est identique à la distribution jointe de . Autrement dit, si nous décalons tous les instants de , la description statistique du processus ne change pas du tout: le processus est stationnairennt1,t2,,tn n X ( t 1 ) , X ( t 2 ) , , X ( t n ) X ( t 1 + τ ) , X ( t 2 + τ ) , , X ( t n + τ ) τnX(t1),X(t2),,X(tn)X(t1+τ),X(t2+τ),,X(tn+τ)τ.
  • Ergodicity, en revanche, ne considère pas les propriétés statistiques des variables aléatoires, mais les chemins d'échantillonnage , c'est-à-dire ce que vous observez physiquement. En revenant aux variables aléatoires, rappelez-vous que les variables aléatoires sont des correspondances entre un espace échantillon et les nombres réels; chaque résultat est mappé sur un nombre réel, et différentes variables aléatoires mapperont généralement tout résultat donné à des nombres différents. Alors, imaginons que l’expérience qui a abouti à un résultat dans l’échantillon soit plus performante que jamais et que ce résultat a été mappé sur des nombres réels (généralement différents) par toutes les variables aléatoires du processus: en particulier, les variables aléatoires. la variable a mappéωX(t)ωen un nombre réel, nous noterons . Les nombres , considérés comme une forme d'onde, sont le chemin d' échantillon correspondant à , et des résultats différents nous donneront des chemins d'échantillon différents. Ergodicity traite ensuite des propriétés des chemins d’échantillonnage et du lien entre ces propriétés et les propriétés des variables aléatoires constituant le processus aléatoire.x(t)x ( t ) ω x(t)ω

Maintenant, pour un exemple de chemin partir d'un processus stationnaire , nous pouvons calculer la moyenne temporelle mais, qu'est-ce que a à voir avec , la moyenne du processus aléatoire? (Notez que peu importe la valeur de nous utilisons, toutes les variables aléatoires ont la même distribution et ont donc la même moyenne (si la moyenne existe)). Comme le dit l'OP, la valeur moyenne ou la composante continue d'un chemin d'échantillon converge vers la valeur moyenne du processus si le chemin d'échantillon est observé suffisamment longtemps, à condition que le processus soit ergodique.x(t)ˉ x = 1

x¯=12TTTx(t)dt
x¯μ=E[X(t)]tl’ergodicité est ce qui nous permet de relier les résultats des deux calculs et d’affirmer que est égal à Procédé pour lesquels cette égalité a lieu est dit moyen ergodique et un processus est moyen-ergodique si sa fonction d'autocovariance a la propriété:
limTx¯=limT12TTTx(t)dt

μ=E[X(t)]=ufX(u)du.
C X ( τ ) lim T 1CX(τ)
limT12TTTCX(τ)dτ=0.

Ainsi, tous les processus stationnaires n’ont pas besoin d’être de type ergodique. Mais il existe aussi d' autres formes d'ergodicité. Par exemple, pour un processus autocovariance-ergodique , la fonction autocovariance d'un segment fini (par exemple pour du chemin d'échantillon converge vers la fonction d' du processus comme déclaration générale a qu'un processus est ergodique pourrait signifier l' une des diverses formes ou cela pourrait signifier une forme spécifique;. l' un ne peut tout simplement pas dire,t(T,T)x(t)CX(τ)T

Comme exemple de la différence entre les deux concepts, supposons que pour tout considéré. Ici, est une variable aléatoire. Il s'agit d' un processus stationnaire: chaque a la même distribution (à savoir la distribution de ), la même moyenne , la même variance, etc. chaque et ont la même distribution conjointe (bien qu'elle soit dégénérée) et ainsi de suite. Mais le processus n’est pas ergodique car chaque chemin d’échantillon est une constante . Plus précisément, si un essai de l'expérience (réalisé par vous ou par un être supérieur) aboutit àX(t)=YtYX(t)YE[X(t)]=E[Y]X(t1)X(t2)Y ayant la valeur , le chemin d'échantillonnage du processus aléatoire qui correspond à ce résultat expérimental a la valeur pour tout , et la valeur DC du chemin d'échantillonnage est , et non , peu importe combien de temps vous observez le chemin d’échantillon (plutôt ennuyeux). Dans un univers parallèle, l'essai aboutirait à et le chemin d'échantillon dans cet univers aurait la valeur pour tout . Il n'est pas facile d'écrire des spécifications mathématiques pour exclure de telles trivialités de la classe des processus stationnaires. Il s'agit donc d'un exemple très minimal d'un processus aléatoire stationnaire non ergodique.ααtαE[X(t)]=E[Y]Y=ββt

Il peut y avoir un processus aléatoire qui est non stationnaire mais est ergodique? Eh bien, N0 , pas si par ergodique nous entendons ergodique dans tous les sens unique possible peut penser: par exemple, si l' on mesure la fraction de temps pendant laquelle un long segment du chemin d'échantillon a une valeur au plus , c'est une bonne estimation de , la valeur du CDF (commun) des à si le processus est supposé être ergodique vis-à-vis des fonctions de distribution. Mais , nous pouvons avoir des processus aléatoires qui sontx(t)αP(X(t)α)=FX(α)FXX(t)αnon stationnaires mais néanmoins significatifs -ergodiques et autocovariants- allergodiques. Par exemple, considérons le processus où prend quatre valeurs également probables et . Notez que chaque est une variable aléatoire discrète qui prend en général quatre valeurs également probables: et , il est facile de voir qu'en général et{X(t):X(t)=cos(t+Θ),<t<}Θ0,π/2,π3π/2X(t)cos(t),cos(t+π/2)=sin(t),cos(t+π)=cos(t)cos(t+3π/2)=sin(t)X(t)X(s)ont des distributions différentes, et le processus n’est donc même pas stationnaire au premier ordre. Par contre, pour tout que En bref, le processus a une moyenne nulle et sa fonction auto - corrélation (et autocovariance) ne dépend que de la différence de temps , et donc le processus est

E[X(t)]=14cos(t)+14(sin(t))+14(cos(t))+14sin(t)=0
t
E[X(t)X(s)]=14[cos(t)cos(s)+(cos(t))(cos(s))+sin(t)sin(s)+(sin(t))(sin(s))]=12[cos(t)cos(s)+sin(t)sin(s)]=12cos(ts).
tssens large stationnaire. Mais il n’est pas stationnaire au premier ordre et ne peut donc pas être stationnaire aux ordres supérieurs. Maintenant, lorsque l'expérience est réalisée et la valeur de est connu, nous obtenons la fonction échantillon qui doit clairement être l' un des et qui ont une valeur DC qui est égale , et dont la fonction d’autocorrélation est , identique à , et ce processus est donc moyen-ergodique et autocorrélation-ergodique même s’il n’est pas du tout stationnaire. En conclusion, je remarque que le processus n’est pas ergodique en ce qui concerne la fonction de distributionΘ±cos(t)±sin(t)0012cos(τ)RX(τ)c'est-à-dire qu'on ne peut pas dire qu'il soit ergodique à tous égards.


1
Je ne pouvais pas comprendre l'exemple. Si vous dites que Y est une constante, alors tout chemin de x (t) est une constante. La moyenne d'une constante est elle-même, d'où E [X (t)] = E [Y] = Y. À moins que je n'aie manqué quelque chose.
Royi

J'ai ajouté quelques mots pour clarifier le sens. est une variable aléatoire, pas une constante. Sa valeur sur un essai de l'expérience ne doit pas nécessairement être la même que . YE[Y]
Dilip Sarwate

1
Si un signal est ergodique, c'est-à-dire que la moyenne temporelle converge vers la moyenne d'ensemble, mais que les divers ont des moyens différents parce que le processus n'est pas stationnaire, quelle est la définition de la moyenne d'ensemble vers laquelle la moyenne temporelle converge? X
Dilip Sarwate

1
@Matt Dans la solution du livre "systèmes de communication", simon haykin écrit que "pour qu'un processus aléatoire soit ergodique, il doit être stationnaire"
Roney Island

1
@ColinHicks Oui, c'est une faute de frappe dans ma réponse que je corrigerai très bientôt. Merci de l'avoir porté à mon attention.
Dilip Sarwate le

6

Considérons un processus aléatoire hypothétique où les fonctions d’échantillon sont des valeurs continues et différentes les unes des autres:

X 1 (t) = constant = moyenne de X 1 (t)

X 2 (t) = constant = moyenne de X 2 (t)

Les moyennes temporelles de et sont constantes mais non égales. si mon processus est stationnaire, et sont égaux et RV (se référer à la réponse de Dilip)X 2 ( t ) X ( t 1 ) X ( t 2 )X1(t)X2(t)X(t1)X(t2)

Donc, la moyenne d'ensemble de est constante.X(t)

Cette moyenne d'ensemble n'est certainement pas égale à la moyenne temporelle de et (elles-mêmes ne sont pas égales). Cela peut s'appeler un processus stationnaire mais pas ergodique.X 2 ( t )X1(t)X2(t)

En revanche, où est un VR est ergodique.θX(t)=Acos(ωt+θ)θ


2

J'espère que cette vidéo (du Florida Institute of Technology. Intitulée "Ce qui est sens large staionary, sens strict, signaux ergodiques" par le Dr. Ivica Kostanic dans son cours sur la théorie des communications) de 16h55 pourrait effacer vos doutes


Bienvenue sur le DSP.SE! Je suggérerais que vous ajoutiez le nom et certaines descriptions sur la vidéo au cas où elle serait supprimée un jour et que le lien ne soit pas valide. Merci.
Lennon310

1

Un processus ergodique est un processus pour lequel vous pouvez substituer la moyenne ergodique à la moyenne temporelle.

La moyenne réelle, la variance, etc., sont définies en suivant un processus dans le temps et en faisant la moyenne, etc. Par exemple, si vous voulez connaître la moyenne de ma taille, il vous faudra la moyenner dès ma naissance. à quand je meurs. Évidemment, le dernier exemple n’est pas un processus stationnaire.

La moyenne ergodique serait si, au lieu de suivre ma taille au fil du temps, vous gèliez le temps et preniez la moyenne sur un échantillon de différents êtres humains. Il n'y a aucune raison pour que ces deux moyens soient identiques, le processus de ma taille n'est donc pas ergodique.

C'est un mauvais exemple, mais cela devient plus important si l'on considère le cas simple d'un gaz à l'équilibre. Par exemple, la vitesse quadratique moyenne est notée (moyenne en fonction du temps), mais est souvent calculée en prenant la moyenne globale : la moyenne de la vitesse carrée de toutes les molécules de le gaz à un instant .V2tV2¯V2t

La plupart des théorèmes de thermodynamique nécessitent l’utilisation de , mais il est plus facile de calculer et d’utiliser . L’hypothèse ergodique est l’hypothèse selon laquelle il est juste de substituer l’une à l’autre. Un processus ergodique est un processus pour lequel l'hypothèse ergodique est vraie.V2V2¯V2

L'hypothèse ergodique est fausse dans le cas général.


1
Je ne comprends pas cette réponse. Le processus de la taille de Jolow n’est ni stationnaire ni ergodique alors que le PO se demandait s’il pouvait exister un processus stationnaire qui n’est pas ergodique. La réponse est-elle essentiellement que l'hypothèse ergodique est généralement fausse et qu'il est (en quelque sorte) vrai que la moyenne de l'échantillon est différente de la moyenne de l'ensemble, il suffit de s'y habituer et de vivre avec?
Dilip Sarwate

@DilipSarwate: après avoir relu, c'est une mauvaise réponse qui ne répond pas à la question et je songe à la supprimer. Je rappelais mes conférences sur la thermodynamique, alors que la question portait plus sur les statistiques ...
Jean-Yves

@DilipSarwate quelle est la taille de Jolow?
Roney Island

1
@ MichaelCorleone Je ne me souviens pas de ce que signifie la référence à Jolow. Je suppose que Jean-Yves a posté sa réponse sous le nom-de-plume Jolow et que j'ai utilisé ce nom dans ma réponse. Il a depuis décidé d'utiliser Jean-Yves comme nom d'utilisateur sur stackexchange. Ces changements de noms sont reflétés sur ce qui est affiché à l'écran mais ne sont pas enregistrés en tant que modification de la réponse.
Dilip Sarwate

@DilipSarwate: vous avez raison. Jolow n'est que mon surnom.
Jean-Yves

1

Pour un exemple du cas contraire (un processus aléatoire ergodique mais non stationnaire), considérons un processus de bruit blanc modulé en amplitude par une onde carrée déterministe. La moyenne temporelle de chaque fonction d'échantillon est égale à zéro, de même que la moyenne d'ensemble sur toute la durée. Donc, le processus est ergodique. Cependant, la variance de chaque fonction d'échantillon individuel montre la dépendance temporelle de l'onde carrée d'origine, de sorte que le processus n'est pas stationnaire.

Cet exemple particulier est stationnaire au sens large, mais on peut concocter des exemples connexes qui sont toujours ergodiques mais pas encore stationnaires au sens large.


0

comme je le comprends, l'exemple ci-dessous montre un processus ergodique et stationnaire

 X1 X2 X3  | mean var ...
 1  2  3   | 2    1
 2  3  1   | 2
 3  1  2   | 2
 ----------

moyenne 2 2 2 var 1

parce que la moyenne et la variance de chaque colonne sont constantes dans le temps et la moyenne et la variance de chaque ligne est constante dans le temps

En utilisant notre site, vous reconnaissez avoir lu et compris notre politique liée aux cookies et notre politique de confidentialité.
Licensed under cc by-sa 3.0 with attribution required.