Que signifie «hautement non linéaire»?


27

Je lis souvent qu'une fonction est «hautement non linéaire». À ma connaissance, il y a «linéaire» et «non linéaire», alors de quoi s'agit-il «fortement»? Y a-t-il une différence formelle par rapport au non linéaire? Comment est-il défini?


8
De manière informelle: "Ne vous attendez pas à pouvoir facilement mapper le changement en entrée au changement en sortie"
keshlam

2
Avez-vous lu cela dans un article sur le Deep Learning? L'approximation hautement non linéaire des fonctions est l'une des motivations de l'apprentissage en profondeur car un réseau peu profond a du mal à modéliser le genre de choses que Joe décrit dans sa réponse.
Neil G

1
Je dirais que cela dépend de l'endroit où vous le lisez. Si cela est écrit par des personnes connaissant les mathématiques, cela pourrait signifier les réponses fournies (jusqu'à présent). Si elle a été écrite par un praticien, comme un médecin ou un biologiste, cela pourrait signifier que la relation n'est pas droite, mais très courbe. D'après mon expérience, la plupart des gens pensent que la régression linéaire fait référence à l'ajustement de lignes droites aux données, ce qui pourrait être une source de confusion.
Roman Luštrik

Non, je n'ai pas @NeilG.
Toby El Tejedor

1
Ce n'est pas un terme défini individuellement - un physicien aura tendance à prendre un sens assez différent du terme qu'un cryptographe. Sans plus de contexte, cette question ne peut pas être correctement répondue - nous devinerions le contexte (ou nous devions en tenir compte pour chacun d'eux).
Glen_b -Reinstate Monica

Réponses:


44

Je ne pense pas qu'il y ait de définition formelle. J'ai l'impression que cela signifie simplement que non seulement il n'est pas linéaire, mais essayer de le modéliser avec une approximation linéaire ne donnera pas de résultats raisonnables et peut même provoquer une instabilité dans la méthode d'ajustement. Quelqu'un peut également l'utiliser pour simplement signifier que de petits changements d'entrée peuvent entraîner des changements de sortie contre-intuitivement importants.


2
(+1) pour avoir offert un critère / contenu très sensible pour "hautement non linéaire" (cette approximation linéaire peut aggraver les choses).
Alecos Papadopoulos

16

Dans un sens formel, je pense que l'on pourrait dire que la dérivée seconde diffère sensiblement de zéro. Si 0 était une approximation "raisonnable" de la dérivée seconde sur le domaine d'intérêt, il est proche de linéaire, mais si ce n'est pas le cas, les effets non linéaires deviennent très importants à capturer.

J'ai rarement entendu des termes comme celui-ci s'appliquer à des polynômes relativement simples, souvent en utilisation pratique, il semble s'appliquer à des systèmes dynamiques divergents (sorte de théorie du chaos), ou à des fonctions très non lisses (où les dérivées d'ordre supérieur sont non nulles). ).


3
Btw, "lisse" est vraiment un terme technique, ce qui signifie que chaque dérivé existe. x -> e^xest fluide même si ses dérivés de toutes les commandes sont partout non nuls :-)
Steve Jessop

10

f(x)=x2

  • [10;10]
  • [10;0][0;10]f

f(x)=x3x

  • [1;1]
  • [10;;10]

x2x=[0.1,0.2,0.3]f(x)=[0.01,0.04,0.09]

3
@Aksakal: la fonction n'est certainement pas linéaire (n'importe où), mais, comme je l'ai dit, "on peut éventuellement utiliser une approximation linéaire de f sans catastrophe immédiate"
sds

1
N'importe quelle fonction peut être approximée par une ligne, c'est seulement une question de la gravité de l'approximation. Et dans x \ in [0, 0.5], l'erreur n'est pas si grave.
Joe

8

y=f(x)σ2=var[x]f(x+σ)f(x)+f(x)σf(x)=exp(x2)x1+x2+x4/2+O(x5)


1

Informellement ... "hautement non linéaire" signifie "même un aveugle peut voir que ce n'est pas une ligne droite!" ;) Personnellement, je le prends comme un signe de danger, qu'il "explosera en quelque sorte" quand il sera utilisé avec des exemples du monde réel.

La Tour de Hanoi pourrait être considérée comme un exemple de très non linéaire ... la légende étant que lorsque les moines terminent une pile de 64 disques, le monde se terminera. Si vous comptez le temps total consacré à la formation, à l'alimentation, au logement et à la motivation de tout le monde à soutenir une tâche multigénérationnelle ennuyeuse et ennuyeuse, je m'attendrais à ce que le coût total en heures-homme explose vraiment!


1

En tant que mathématicien professionnel, je peux confirmer que "hautement non linéaire" n'est pas un terme mathématique défini avec précision. :)

Et rien de "hautement quoi que ce soit" auquel je puisse penser.

Non linéaire est précis et opposé à linéaire (évidemment).

Mais linéaire se produit dans deux sens différents:

  • f(x)=ax+b
  • f(x)=axb

(ax+b)


1
Jusqu'ici, c'est la seule réponse, je serai d'accord;) (+1) pour être old-school!
Raaja
En utilisant notre site, vous reconnaissez avoir lu et compris notre politique liée aux cookies et notre politique de confidentialité.
Licensed under cc by-sa 3.0 with attribution required.