Théorème maître non applicable?

Étant donné l'équation récursive suivante

$$T(n) = 2T\left(\frac{n}{2}\right)+n\log n$$ nous voulons appliquer le théorème maître et noter que

$$n^{\log_2(2)} = n.$$

Maintenant, nous vérifions les deux premiers cas pour $\varepsilon > 0$ , c'est-à-dire si

• $n\log n \in O(n^{1-\varepsilon})$ ou
• $n\log n \in \Theta(n)$ .

Les deux cas ne sont pas satisfaits. Nous devons donc vérifier le troisième cas, qui est de savoir si

• $n\log n \in \Omega(n^{1+\varepsilon})$ .

Je pense que la troisième condition n'est pas remplie non plus. Mais pourquoi? Et quelle serait une bonne explication pour expliquer pourquoi le théorème maître ne peut pas être appliqué dans ce cas?

Les trois cas du théorème maître auxquels vous faites référence sont prouvés dans l' introduction aux algorithmes par Thomas H. Cormen, Charles E. Leiserson, Ronald L. Rivest et Clifford Stein (2e édition, 2001).

Il est correctement observé que la récurrence en question se situe entre le cas 2 et le cas 3. C'est-à-dire que croît plus vite que n mais plus lentement que n 1 + ε pour tout ε > 0 .$f(n) = n \log n$$n$$n^{1+\varepsilon}$$\varepsilon > 0$

Cependant, le théorème peut être généralisé pour couvrir cette récurrence. Considérer

Cas 2A: Considérons pour certains k ≥ 0 .$f(n) = \Theta (n^{\log_b a }\log_b^k n)$$k\geq 0$

Ce cas se réduit au cas 2 lorsque . Il est intuitivement clair que le long de chaque branche de l'arbre de récurrence f ( x ) est ajouté Θ ( log b n ) fois. Un croquis d'une preuve plus formelle peut être trouvé ci-dessous. Le résultat final est que$k = 0$$f(x)$$\Theta (\log_b n)$

.

$$T(n) = \Theta (n^{\log_b a }\log_b^{k+1} n)$$

Dans l' introduction aux algorithmes, cette déclaration est laissée en exercice.

Applying this statement to the recurrence in question we finally get

$$T(n) = \Theta(n \cdot \log^2 n).$$

More details on the Master Theorem can be found in the excellent (imho) Wikipedia page.

As @sdcvvc points in the comments to prove that Case 3 does not apply here one can invoke L'Hospital's rule that says that

$$\lim_{x\to c} \frac{f(x)}{g(x)} = \lim_{x\to c} \frac{f^\prime(x)}{g^\prime(x)}$$ for any functions $f(x)$ and $g(x)$ differentiable in the vicinity of $c$. Applying this to $f(n) = n \log n$ and $g(n) = n^{1+\varepsilon}$ one can show that $\log n \not\in \Theta (n^{1+\varepsilon}).$

---

Sketch of the Proof of the Master Theorem for Case 2A.

Il s'agit d'une reproduction de parties de la preuve d' Introduction aux algorithmes avec les modifications nécessaires .

Nous prouvons d'abord le lemme suivant.

Lemme A:

$$g(n) = \displaystyle \sum_{j=0}^{\log_b {n-1}} a^j h(n/b^j)$$ where $h(n) = n^{\log_b a} \log_b^k n.$ Then $g(n) = n^{\log_b a} \log_b^{k +1} n.$

Proof: Substituting the $h(n)$ into the expression for $g(n)$ one can get

$$g(n) = \displaystyle n^{\log_b a} \log_b^k n \; \sum_{j=0}^{\log_b{n-1}} \left(\frac{a}{b^{\log_b a}}\right)^j = n^{\log_b a} \log_b^{k +1} n.$$

QED

If $n$ is an exact power of $b$ given a recurrence

$$T(n) = a T(n/b) + f(n),\quad T(1) = \Theta(1)$$ one can rewrite it as $$T(n) = \Theta(n^{\log_b a}) + \displaystyle \sum_{j=0}^{\log_b n - 1} a^j T(n/b^j).$$ Substituting $f(n)$ with $\Theta(n^{\log_b a} \log_b^k n)$, moving $\Theta$ outside and applying Lemma A we get

$$T(n) = \Theta (n^{\log_b a }\log_b^{k+1} n).$$

Generalizing this to an arbitrary integer $n$ that is not a power of $b$ is beyond the scope of this post.

The Akra-Bazzi theorem is a strict generalization of the master theorem. As a bonus its proof is a blizzard of integrals that will make your head spin ;-)

In any case, Sedgewick in his "Introduction to the analysis of algorithms" argues convincingly that one should strive to prove $T(n) \sim g(n)$ type asymptotics.