Statistiques et Big Data optimization

2

Qu'est-ce que la minimisation d'énergie dans l'apprentissage automatique?

Je lisais sur l'optimisation d'un problème mal posé en vision par ordinateur et suis tombé sur l'explication ci-dessous à propos de l'optimisation sur Wikipedia. Ce que je ne comprends pas, c'est pourquoi appellent-ils cette optimisation " minimisation d'énergie " dans la vision par ordinateur? Un problème d'optimisation peut être représenté …

14 machine-learning optimization computer-vision

2

Pourquoi k-means n'est-il pas optimisé en utilisant la descente de gradient?

Je sais que k-means est généralement optimisé à l'aide de la maximisation des attentes . Cependant, nous pourrions optimiser sa fonction de perte de la même manière que nous optimisons les autres! J'ai trouvé des articles qui utilisent réellement la descente de gradient stochastique pour les moyennes k à grande …

14 optimization k-means expectation-maximization loss-functions

2

Optimisation: la racine de tout mal dans les statistiques?

J'ai déjà entendu l'expression suivante: "L'optimisation est la racine de tout mal dans les statistiques". Par exemple, la première réponse dans ce fil fait cette déclaration en référence au danger d'optimiser trop agressivement lors de la sélection du modèle. Ma première question est la suivante: cette citation est-elle attribuable à …

14 cross-validation optimization overfitting

1

Bibliothèque d'optimisation contrainte pour les contraintes d'égalité et d'inégalité

Des recommandations pour le choix d'une bibliothèque d'optimisation contrainte adaptée à ma fonction d'optimisation? Je minimise ai) une fonction non linéaire avec des contraintes d'égalité et d'inégalité linéaires, et ii) dispose du gradient et de la toile de jute de la fonction. Si cela aide, la fonction que je minimise …

14 r optimization software

3

Comment la sélection des fonctionnalités et l'optimisation des hyperparamètres doivent-elles être ordonnées dans le pipeline d'apprentissage automatique?

Mon objectif est de classer les signaux des capteurs. Le concept de ma solution jusqu'à présent est le suivant: i) fonctionnalités d'ingénierie à partir d'un signal brut ii) sélection des fonctionnalités pertinentes avec ReliefF et une approche de clustering iii) application de NN, Random Forest et SVM Cependant, je suis …

14 feature-selection hyperparameter optimization

2

Validation croisée et optimisation des paramètres

J'ai une question sur l'optimisation des paramètres lorsque j'utilise la validation croisée 10 fois. Je veux demander si les paramètres doivent être fixés ou non lors de la formation du modèle de chaque pli, c'est-à-dire (1) sélectionner un ensemble de paramètres optimisés pour la précision moyenne de chaque pli. ou …

14 cross-validation optimization parameterization

1

Comment fonctionne le L-BFGS?

Le but de l'article était d'optimiser certains paramètres en maximisant la log-vraisemblance régularisée. Ensuite, ils calculent des dérivées partielles. Et puis les auteurs mentionnent qu'ils optimisent l'équation en utilisant L-BFGS, une procédure standard de Newton pour optimiser les fonctions lisses de nombreuses variables (pas plus de détails). Comment ça marche …

14 algorithms optimization

5

Question philosophique sur la régression logistique: pourquoi la valeur seuil optimale n'est-elle pas formée?

Habituellement, dans la régression logistique, nous ajustons un modèle et obtenons des prédictions sur l'ensemble d'entraînement. Nous validons ensuite ces prévisions d'entraînement (quelque chose comme ici ) et décidons de la valeur seuil optimale en fonction de quelque chose comme la courbe ROC. Pourquoi ne pas intégrer la validation croisée …

13 logistic cross-validation optimization roc threshold

2

Optimisation et apprentissage automatique

Je voulais savoir dans quelle mesure le machine learning doit être optimisé. D'après ce que j'ai entendu, les statistiques sont un sujet mathématique important pour les personnes travaillant avec l'apprentissage automatique. De même, est-il important pour une personne travaillant avec l'apprentissage automatique de se renseigner sur l'optimisation convexe ou non …

13 machine-learning optimization

2

KKT en bref graphiquement

Objectif Confirmez si la compréhension de KKT est correcte ou non. Cherchez plus d'explications et de confirmations sur KKT. Contexte Essayer de comprendre les conditions KKT, en particulier la condition complémentaire, qui apparaît toujours à l'improviste dans les articles SVM. Je n'ai pas besoin d'une liste de formules abstraites mais …

13 svm optimization lagrange-multipliers

1

État de l'art en matière de filtrage collaboratif

Je travaille sur un projet de filtrage collaboratif (CF), c'est-à-dire compléter une matrice partiellement observée ou plus généralement tenseur. Je suis un débutant dans le domaine, et pour ce projet, je dois finalement comparer notre méthode à d'autres méthodes bien connues qui, de nos jours, comparent les méthodes proposées, à …

13 optimization recommender-system matrix-decomposition

2

Si p> n, le lasso sélectionne au plus n variables

L'une des motivations du filet élastique était la limitation suivante de LASSO: Dans le cas p>np>np > n , le lasso sélectionne au plus n variables avant de saturer, en raison de la nature du problème d'optimisation convexe. Cela semble être une caractéristique limitante pour une méthode de sélection de …

13 regression optimization feature-selection lasso

1

Problème d'optimisation

Un de mes amis vend modèles de mélangeurs. Certains mélangeurs sont très simples et bon marché, d'autres sont très sophistiqués et plus chers. Ses données se composent, pour chaque mois, des prix de chaque blender (qui sont fixés par lui), et du nombre d'unités vendues pour chaque modèle. Pour établir …

13 optimization

4

Alternatives rapides à l'algorithme EM

Existe-t-il des alternatives rapides à l'algorithme EM pour l'apprentissage de modèles avec des variables latentes (en particulier pLSA)? Je suis prêt à sacrifier la précision au profit de la vitesse.

13 machine-learning optimization expectation-maximization lsa

1

Pourquoi le classificateur bayésien naïf est-il optimal pour une perte de 0-1?

Le classificateur Naive Bayes est le classificateur qui attribue les éléments à une classe fonction de la maximisation du postérieur pour l'appartenance à la classe, et suppose que les caractéristiques des éléments sont indépendantes.C P ( C | x )xxxCCCP(C|x)P(C|x)P(C|x) La perte 0-1 est la perte qui attribue à tout …

13 machine-learning bayesian optimization naive-bayes loss-functions

Questions marquées «optimization»