Preuve qu'un arbre de recherche binaire construit aléatoirement a une hauteur logarithmique

Comment prouvez-vous que la hauteur attendue d'un arbre de recherche binaire construit de façon aléatoire avec nœuds est ? Il y a une preuve dans CLRS Introduction to Algorithms (chapitre 12.4), mais je ne la comprends pas. $n$ $O(\log n)$

— user1675999
source

Quelle question? Quel exemple? Veuillez modifier et donner tous les détails.

— Ran G.

Veuillez éviter d'utiliser des abréviations (telles que BST) et supposez que la plupart d'entre nous n'ont pas le livre CLRS. Si vous pouviez copier le théorème ici et expliquer ce que vous ne comprenez pas, vous obtiendrez plus de réponses.

— Ran G.

Cela dépendra de la façon dont l'arborescence de recherche binaire est construite. (Même si le résultat ne le fait pas, la preuve le sera.) D'autres détails seraient utiles.

— Peter Shor

Réfléchissons d'abord intuitivement à cela. Dans le meilleur des cas, l'arbre est parfaitement équilibré; dans le pire des cas, l'arbre est entièrement déséquilibré:

Arbre de recherche binaire à hauteur équilibrée Arbre de recherche binaire dans le pire des cas

À partir du nœud racine , cet arbre de gauche a deux fois plus de nœuds à chaque profondeur successive, de sorte que l'arbre a nœuds et une hauteur (qui est en ce cas 3). Avec un peu de maths, $p$ $n=\sum_{i=0}^{h}2^i =2^{h+1}-1$ $h$ , c'est-à-dire qu'il a unehauteur . Pour l'arbre entièrement déséquilibré, la hauteur de l'arbre est simplement . Nous avons donc nos limites. $n\le2^{h+1}-1\rightarrow h\le\lceil\log_2(n+1)-1\rceil\le\lfloor log_2 n\rfloor$ $O(\log n)$ $n-1\rightarrow O(n)$

Si nous construisions un arbre équilibré à partir d'une liste ordonnée , nous choisirions l'élément central comme nœud racine. Si nous construisons au hasard un arbre, l'un des nœuds est également susceptible d'être choisi et la hauteur de notre arbre est: $\{ 1,2,\dots,n\}$ $n$ Nous savons que dans un arbre de recherche binaire, le sous-arbre gauche ne doit contenir que des clés inférieures au nœud racine. Ainsi, si nous choisissons au hasard l'élément , le sous-arbre gauche aéléments et le sous-arbre droit aéléments, donc de manière plus compacte:

h e je g h t_{t r e e} = 1 + max (h e je g h t_{l e F t s u b t r e e}, h e je g h t_{r je g h t s u b t r e e})

$height_{tree}=1+\max (height_{left\space subtree}, height_{right\space subtree})$

i^{t h}

$i^{th}$

i - 1

$i-1$

n - i

$n-i$

. À partir de là, il est logique que si chaque élément est également susceptible d'être sélectionné, la valeur attendue n'est que la moyenne de tous les cas (plutôt qu'une moyenne pondérée). D'où:

h_{n} = 1 + max (h_{i - 1}, h_{n - i})

$h_n=1+\max (h_{i-1},h_{n-i})$

E [h_{n}] = \frac{1}{n} \sum_{i = 1}^{n} [1 + max (h_{i - 1}, h_{n - i})]

$\operatorname{E}[h_n]=\frac{1}{n}\sum_{i=1}^{n}[1+\max (h_{i-1},h_{n-i})]$

Comme je suis sûr que vous l'avez remarqué, j'ai légèrement dévié de la façon dont CLRS le prouve, car CLRS utilise deux techniques de preuve relativement courantes qui sont déconcertantes pour les non-initiés. La première consiste à utiliser des exposants (ou logarithmes) de ce que nous voulons trouver (dans ce cas, la hauteur), ce qui rend les mathématiques un peu plus propres; la seconde consiste à utiliser des fonctions d'indicateur (que je vais juste ignorer ici). Le CLRS définit la hauteur exponentielle comme , donc la récurrence analogue est $Y_n=2^{h_n}$ $Y_n=2\times\max (Y_{i-1},Y_{n-i})$ .

En supposant l'indépendance (que chaque tirage d'un élément (parmi les éléments disponibles) pour être la racine d'un sous-arbre soit indépendamment de tous les tirages précédents), nous avons toujours la relation: pour lequel j'ai fait deux étapes: (1) déplacer le

E [{Oui}_{n}] = \sum_{je = 1}^{n} \frac{1}{n} E [2 \times max ({Oui}_{je - 1}, {Oui}_{n - je})] = \frac{2}{n} \sum_{je = 1}^{n} E [max ({Oui}_{je - 1}, {Oui}_{n - je})]

$\operatorname{E}[Y_n]=\sum_{i=1}^{n}\frac{1}{n}\operatorname{E}[2\times\max (Y_{i-1},Y_{n-i})]=\frac{2}{n}\sum_{i=1}^{n}\operatorname{E}[\max (Y_{i-1},Y_{n-i})]$

extérieur parce que c'est une constante et l'une des propriétés des sommations est que

, et (2) déplacer les 2 à l'extérieur car c'est aussi une constante et l'une des propriétés des valeurs attendues est

. Maintenant, nous allons remplacer lafonction

par quelque chose de plus grand car sinon la simplification est difficile. Si nous argumentons pour

non négatif,

\frac{1}{n}

$\frac{1}{n}$

\sum_{i} c i = c \sum_{i} i

$\sum_i ci=c\sum_i i$

E [a x] = a E [x]

$\operatorname{E}[ax]=a\operatorname{E}[x]$

max

$\max$

X

$X$

Y

$Y$

, puis:

E [max (X, Y)] \leq E [max (X, Y) + min (X, Y)] = E [X] + E [Y]

$\operatorname{E}[\max(X,Y)]\le\operatorname{E}[\max(X,Y)+\min(X,Y)]=\operatorname{E}[X]+\operatorname{E}[Y]$

telle sorte que la dernière étape découle de l'observation que pour

et va tout le chemin vers

E [{Oui}_{n}] \leq \frac{2}{n} \sum_{je = 1}^{n} (E [{Oui}_{je - 1}] + E [{Oui}_{n - je}]) = \frac{2}{n} \sum_{je = 0}^{n - 1} 2 E [{Oui}_{je}]

$\operatorname{E}[Y_n]\le\frac{2}{n}\sum_{i=1}^{n}(\operatorname{E}[Y_{i-1}]+\operatorname{E}[Y_{n-i}])=\frac{2}{n}\sum_{i=0}^{n-1}2\operatorname{E}[Y_{i}]$

i = 1

$i=1$

Y_{i - 1} = Y_{0}

$Y_{i-1}=Y_{0}$

Y_{n - i} = Y_{n - 1}

$Y_{n-i}=Y_{n-1}$

i = n

$i=n$

Y_{i - 1} = Y_{n - 1}

$Y_{i-1}=Y_{n-1}$

, donc chaque terme

apparaît deux fois, nous pouvons donc remplacer la somme totale par une somme analogue. La bonne nouvelle est que nous avons une récurrence

Y_{n - i} = Y_{0}

$Y_{n-i}=Y_{0}$

Y_{0}

$Y_0$

Y_{n - 1}

$Y_{n-1}$

; la mauvaise nouvelle, c'est que nous ne sommes pas beaucoup plus loin que là où nous avons commencé.

E [Y_{n}] \leq \frac{4}{n} \sum_{i = 0}^{n - 1} E [Y_{i}]

$\operatorname{E}[Y_n]\le\frac{4}{n}\sum_{i=0}^{n-1}\operatorname{E}[Y_{i}]$

À ce stade, CLRS tire une preuve d'induction $\operatorname{E}[Y_n]\le\frac{1}{4}\binom{n+3}{3}$ $\sum_{i=0}^{n-1}\binom{i+3}{3}=\binom{n+3}{4}$ $n^3$ $Y_n=2^{h_n}$ $h_n=\log_2n^3=3\log_2n\rightarrow O(\log n)$ $n^k$ $k$

2^{E [X_{n}]} \leq E [{Oui}_{n}] \leq \frac{4}{n} \sum_{je = 0}^{n - 1} E [{Oui}_{je}] \leq \frac{1}{4} (\binom{n + 3}{3}) = \frac{(n + 3) (n + 2) (n + 1)}{24} \to E [h_{n}] = O (Journal n)

$2^{\operatorname{E}[X_n]}\le \operatorname{E}[Y_n]\le \frac{4}{n}\sum_{i=0}^{n-1}\operatorname{E}[Y_i]\le\frac{1}{4}\binom{n+3}{3}=\frac{(n+3)(n+2)(n+1)}{24}\rightarrow \operatorname{E}[h_n]=O(\log n)$

— Merbs
source

OUAH MERCI !!!! Même si je ne connais pas la valeur attendue, ce genre de sens. Je n'ai pas fait de cours de mathématiques discrets avant de faire des algorithmes. Je posterai plus de commentaires, si j'ai un doute. Merci Merbs.

— user1675999

mais pourquoi exactement la hauteur exponentielle est-elle inférieure ou égale au binôme choisi? Je ne comprends toujours pas pourquoi ne pouvons-nous pas choisir un autre binôme avec un terme plus grand différent et faire exactement le même calcul ... je suis probablement stupide mais je ne vois pas pourquoi ... et jusqu'à ce point la preuve est parfaitement logique, alors ils ont juste dû tirer quelque chose de complètement à l'improviste et sans aucune explication nous dire que cela "prouve" qu'ils ont raison ...

— Zeks

@Zeks Ainsi, nous pouvons choisir d'autres binômes avec des termes plus larges. Si le terme est toujours polynomial ( n^k), la conclusion est la même car le kest supprimé dans la notation big-O (la façon dont 3 a été supprimée). Mais si nous substituions quelque chose d'exponentiel ( e^n), ce serait toujours une borne supérieure correcte , mais pas une limite stricte . Nous savons que la hauteur attendue est au moins logarithmique, donc déterminer qu'elle est au plus logarithmique la rend serrée.

— Merbs

@DavidNathan Je ne comprends pas votre inquiétude - doutez-vous que 1 / n soit une constante ou qu'elle puisse être déplacée en dehors de la sommation? Elle, comme la constante 2, est largement extraite à des fins d'illustration, pour simplifier la preuve restante.

— Merbs