Randomiser ou pas?

Cette question est inspirée du t-shirt du Georgia Tech Algorithms and Randomness Center , qui demande "Randomize or not ?!"

Il existe de nombreux exemples où la randomisation est utile, en particulier lors d'opérations dans des environnements contradictoires. Il existe également certains paramètres dans lesquels la randomisation n'aide ni ne blesse. Ma question est:

Quels sont certains paramètres lorsque la randomisation (d'une manière apparemment raisonnable) fait vraiment mal?

N'hésitez pas à définir les «paramètres» et les «blessures» de manière large, que ce soit en termes de complexité du problème, de garanties prouvables, de taux d'approximation ou de durée d'exécution (je m'attends à ce que la durée d'exécution soit la réponse la plus évidente). Plus l'exemple est intéressant, mieux c'est!

randomness big-picture randomized-algorithms

— Lev Reyzin
source

Voté. Cette question me semble être une question de rhétorique, car la question semble être de savoir comment argumenter qu'un fait particulier peut être qualifié de «blessures aléatoires».

— Tsuyoshi Ito,

C'est suffisant. Mais permettez-moi de vous donner un exemple de ce que j'avais en tête. Disons que nous avons un algorithme d'apprentissage qui a des actions qu'il peut prendre et, dans la phase d'apprentissage, les prend à tour de rôle. Supposons qu'il ait une garantie. Maintenant, disons, nous envisageons plutôt de prendre l'uniformité des actions au hasard et de constater que la garantie est perdue. Difficile de dire que ce n'est pas un exemple de randomisation de «mal». Et n'hésitez pas à définir vous-même les "blessures"! Bien que cela puisse faire partie de vos critiques ...

— Lev Reyzin

laissez-le jouer: nous aurons peut-être une discussion intéressante. Je connais au moins un cas où la stratégie aléatoire simple est en fait pire qu'un algorithme déterministe prudent

— Suresh Venkat

La raison pour laquelle je n'aime pas cette question, comme cela est indiqué, est probablement parce que je m'attends à ce que la plupart des réponses votées ne soient «intéressantes» que dans leur interprétation de la question. La question semble encourager les interprétations créatives et rhétoriques. Si ce n'est pas ce que vous voulez et que vous pouvez penser à une meilleure façon de formuler la question, veuillez la réviser (mais je ne pense à aucune).

— Tsuyoshi Ito du

Je ne m'attendais pas à ce que cette question soit si controversée :) Quoi qu'il en soit, cela ne me dérange pas d'interprétations intéressantes! Je suppose que nous devrons être en désaccord sur celui-ci. Au fait, si le flou de la question est gênant, cela ne me dérange pas du tout @Suresh d'en faire une CW ...

— Lev Reyzin

Réponses:

Voici un exemple simple de la théorie des jeux. Dans les jeux où les équilibres de Nash purs et mixtes existent, les mixtes sont souvent beaucoup moins naturels, et bien "pires".

$\log(n)/\log\log(n)$

Le message à retenir: la randomisation peut nuire à la coordination.

— Aaron Roth
source

cool - j'aime cette interprétation des balles et des bacs comme un jeu à 2 joueurs. C'est le genre de réponse que j'avais en tête!

— Lev Reyzin

Il est parfois discuté sous sa forme déguisée comme "le jeu d'équilibrage de charge sur des machines identiques" :-)

— Aaron Roth

Voici un exemple simple du domaine des algorithmes distribués.

Typiquement, le caractère aléatoire aide énormément. Les algorithmes distribués randomisés sont souvent plus faciles à concevoir et ils sont plus rapides.

Cependant, si vous disposez d'un algorithme distribué déterministe rapide, vous pouvez le convertir mécaniquement [ 1 , 2 ] en un algorithme auto-stabilisant rapide . En substance, vous obtiendrez gratuitement une version très forte de tolérance aux pannes (au moins si la ressource goulot d'étranglement est le nombre de tours de communication). Vous pouvez simplifier la conception de votre algorithme en vous concentrant sur des réseaux statiques synchrones sans défaut, et la conversion vous donnera un algorithme tolérant aux pannes qui peut gérer des réseaux dynamiques asynchrones.

Une telle conversion n'est pas connue pour les algorithmes distribués randomisés en général.

— Jukka Suomela
source

Permettez-moi d'abord de soulever un problème concernant le caractère aléatoire:

Existe-t-il un caractère aléatoire dans l'univers ou tout est-il déterministe?

Il s'agit d'une question philosophique qui est à la fois controversée et sans rapport avec le contexte ici. Pourtant, je l'ai utilisé comme mot d'avertissement, car la réponse à venir sera controversée si l'on approfondit trop la question ci-dessus.

Le théorème de Shannon – Hartley décrit la capacité d'un canal de communication en présence de bruit. Le bruit passe de 0 à 1 et vice versa, avec une probabilité prédéfinie.

Si le canal se comportait de manière déterministe --- Autrement dit, si nous pouvions modéliser le bruit de manière à pouvoir déterminer quels bits changeraient --- La capacité du canal serait infiniment grande. Très souhaitable!

J'aime analogiser l'aléatoire au frottement: il résiste au mouvement, mais le mouvement est impossible sans lui.

— MS Dousti
source