La ligne sépare deux ensembles de points

19

S'il existe un moyen d'identifier si deux ensembles de points peuvent être séparés par une ligne?

Nous avons deux ensembles de points et s'il y a une ligne qui sépare et telle sorte que tous les points de et seulement d'un côté de la ligne, et tous les points de et seulement de l'autre côté. $A$ $B$ $A$ $B$ $A$ $A$ $B$ $B$

L'algorithme le plus naïf que j'ai trouvé consiste à créer un polygone convexe pour et et à les tester pour l'intersection. Il semble que la complexité temporelle soit comme pour la construction d'un polygone convexe. En fait, je ne m'attends pas à des améliorations de la complexité du temps, je ne suis pas sûr que cela puisse être amélioré du tout. Mais au moins, il devrait y avoir un moyen plus beau de déterminer s'il existe une telle ligne. $A$ $B$ $O(n\log h)$

algorithms machine-learning computational-geometry

— com
source

19

Uli et Dave Clarke observent correctement qu'il s'agit d'un problème de programmation linéaire, même dans des dimensions supérieures (ces deux ensembles de points peuvent-ils être séparés par un hyperplan?) Et qu'il peut donc être résolu en temps polynomial. Mais parce que vos points se trouvent dans le plan, votre problème peut en fait être résolu en temps , où est le nombre total de points. $O(n)$ $n$

La solution la plus simple est probablement l'algorithme randomisé de Seidel. Choisissez un point d'entrée uniformément au hasard et calculez récursivement une ligne de séparation pour tous les points sauf . $p$ $\ell$ $p$

Si une telle ligne n'existe pas, les points d'origine ne sont pas séparables.
Si est du bon côté de , alors sépare les points d'origine. $p$ $\ell$ $\ell$
Si est du mauvais côté de , alors soit les points d'origine peuvent être séparés par une ligne passant par , soit les points d'origine ne sont pas du tout séparables. Cette condition est facile à vérifier en temps [exercice]. $p$ $\ell$ $p$ $O(n)$

Cet algorithme s'exécute en temps avec une probabilité élevée (par rapport aux choix aléatoires de l'algorithme). Pour plus de détails, consultez l'article original ou n'importe quel nombre de notes de cours en ligne. $O(n)$

— JeffE
source

Merci beaucoup, je vais me plonger dans cet article.

— com

Dans votre troisième cas, vous déclarez que cela pourrait être pour que la ligne passe par

, comment cela aide-t-il de le savoir?

p

$p$

— Tarrasch

10

La propriété de vos deux ensembles de données est celle de la séparabilité linéaire , simplement, qu'il y a une ligne qui les sépare. Beaucoup d'apprentissage automatique est consacré à la recherche de classificateurs linéaires , qui sont des lignes qui effectuent la séparation qui vous intéresse.

Comme vous parlez de lignes, je suppose que vos points se trouvent dans l'avion. Ce que vous voulez faire, c'est trouver les valeurs , et , de sorte que pour tous les points de l'ensemble , et pour tous les points en , $w_1$ $w_2$ $w_3$ $(a_1,a_2)$ $A$ $w_1 a_1+w_2a_2\ge w_3$ $(b_1,b_2)$ $B$ . Ainsi, l'inégalité peut être considéré comme un classificateur pour ensemble . $w_1 b_1+w_2b_2<w_3$ $w_1 x+w_2y\ge w_3$ $A$

Il existe de nombreux algorithmes d'apprentissage automatique pour déterminer une ligne optimale (régression linéaire, régression logistique, etc.). Ceux-ci trouveront des valeurs pour fonction d'une mesure d'erreur. Ensuite, vous pouvez tester si tous les points sont correctement classés. Autrement dit, si toutes les valeurs satisfont l'équation ci - dessus et de même pour . $w_1,w_2,w_3$ $A$ $B$

Comme vous ne souhaitez savoir si une telle ligne existe, vous devez utiliser les techniques existantes (bien que ce soit probablement plus simple). Configurez simplement la collection suivante d'égalités en termes de variables libres . $w_1,w_2,w_3$

pour chaque, où $w_1 a^i_1+w_2a^i_2\ge w_3$ $i=1,..,|A|$ . $A=\{(a^1_1,a^1_2),\ldots,(a^{|A|}_1,a^{|A|}_2)\}$

pour chaque, où $w_1 b^j_1+w_2b^j_2< w_3$ $j=1,..,|B|$ . $B=\{(b^1_1,b^1_2),\ldots,(b^{|B|}_1,b^{|B|}_2)\}$

Si ces contraintes sont cohérentes, alors une ligne existe.

— Dave Clarke
source

5

Si je me souviens bien, les machines vectorielles supportent la construction d'hyperplans séparés. Si vous choisissez la dimension l'hyperplan devient bien sûr une ligne. Vous devrez peut-être vérifier s'il y a des hypothèses supplémentaires à respecter. En deux dimensions, l'approche globale pourrait être considérablement simplifiée, de sorte que l'exécution pourrait être meilleure que pour l'approche générale. $2$

— uli
source