Une mesure axiomatique de la rareté est le compte , qui compte le nombre (fini) d'entrées non nulles dans un vecteur. Avec cette mesure, les vecteurs et possèdent la même densité. Et absolument pas la même norme . Et (très rare) a la même norme que , un vecteur très plat et non clairsemé. Et absolument pas le même compte .ℓ0(1,0,0,0)(0,21,0,0)ℓ2(1,0,0,0)ℓ2(14,14,14,14)ℓ0
Cette fonction, ni norme ni quasinorm, est non lisse et non convexe. Selon le domaine, ses noms sont légion, par exemple: fonction de cardinalité, mesure de la numérosité, ou simplement parcimonie ou parcimonie. Il est souvent considéré comme peu pratique du point de vue pratique car son utilisation entraîne des problèmes difficiles pour les NP .
Alors que les distances standard ou les normes (telles que la distance euclidienne) sont plus abordables, l'un de leurs problèmes est leur homogénéité:pour . Cela peut être considéré comme non intuitif, car le produit scalaire ne modifie pas la proportion d'entrées nulles dans les données ( est homogène).ℓ21
∥a.x∥=|a|∥x∥
a≠0ℓ00
Ainsi, en pratique, certains ont recours à des combinaisons de ( ), telles que des régularisations au lasso, à l'arête ou au réseau élastique. La norme (distance de Manhattan ou de taxi), ou ses avatars lissés, est particulièrement utile. Depuis les travaux de E. Candès et d’autres, on peut expliquer pourquoi est une bonne approximation de : une explication géométrique . D'autres ont fait dans , au prix de problèmes de non-convexité.ℓp(x)p≥1ℓ1ℓ1ℓ0p<1ℓp(x)
Une autre voie intéressante consiste à ré-axiomiser la notion de clarté. L’un des travaux récents les plus remarquables est Comparating Measures of Sparsity , de N. Hurley et al., Qui traite de la rareté des distributions. À partir de six axiomes (avec des noms amusants comme Robin Hood, Scaling, Rising Tide, Cloning, Bill Gates et Babies), deux indices de dispersion sont apparus: l’un basé sur l’indice de Gini, l’autre sur les ratios de norme, en particulier deux rapport de normalité, illustré ci-dessous:ℓ1ℓ2
Bien que non convexe, des preuves de convergence et des références historiques sont détaillées dans Euclid dans une taxicab: Déconvolution en aveugle parcimonieuse avec régularisationℓ1ℓ2 .