Trouver la solution la plus simple à un système d'équations linéaires

13

Est-il difficile de trouver la solution la plus simple à un système d'équations linéaires?

Plus formellement, considérons le problème de décision suivant:

Instance: Un système d'équations linéaires avec des coefficients entiers et un nombre $c$ .

Question: Existe-t-il une solution au système avec au moins $c$ variables assignées à zéro?

J'essaie également de déterminer la dépendance à l'égard de $c$ . Autrement dit, le problème est peut-être FPT avec le paramètre $c$ .

Toutes les idées ou références sont vraiment appréciées.

— Michael Wehar
source

12

Considérons le problème de maximiser le nombre d'équations linéaires satisfaites sur un anneau , qui est souvent NP-difficile, par exemple dans le cas $\text{MAX-LIN}(R)$ $R$ $R=\mathbb{Z}$

Prenons une instance de ce problème, où est une matrice . Soit . Construire un nouveau système linéaire , où est une matrice , est maintenant un vecteur dimensionnel et $Ax=b$ $A$ $n\times m$ $k=m+1$ $\tilde{A}\tilde{x} = \tilde{b}$ $\tilde{A}$ $kn \times (kn+m)$ $\tilde{x}$ $(kn+m)$ $\tilde{b}$ est un vecteur dimensionnel: $kn$

oùest lamatrice d'identité.

\tilde{A} = [\begin{matrix} A & I_{n} \\ I_{n} & - I_{n} \\ I_{n} & - I_{n} \\ ⋱ & ⋱ \\ I_{n} & - I_{n} \end{matrix}], \tilde{b} = [\begin{matrix} b \\ 0 \\ ⋮ \\ 0 \end{matrix}]

$\tilde{A} = \begin{bmatrix} A & I_n & & & \\ & I_n & -I_n & & \\ & & I_n & -I_n & \\ & & & \ddots &\ddots \\ & & & & I_n & -I_n \\ \end{bmatrix}, \tilde{b} = \begin{bmatrix} b \\ 0 \\ \vdots \\ 0 \end{bmatrix}$

I_{n}

$I_n$

n \times n

$n \times n$

Notez que ce système est toujours satisfaite par le vecteur . En fait, les premières entrées de peuvent être arbitraires, et il existe un vecteur de solution avec ce préfixe. $\tilde{x} = \begin{pmatrix} 0 & b & b & \cdots & b \end{pmatrix}^T$ $m$ $\tilde{x}$

Je prétends maintenant que la fraction des équations de est satisfiable s'il existe une solution clairsemée de qui a au moins zéros. En effet, chaque ligne satisfaite de donne zéros potentiels lorsque est étendu à $\delta$ $Ax=b$ $\tilde{A}\tilde{x}=\tilde{b}$ $\delta nk$ $Ax=b$ $k$ $x$ $\tilde{x}$

Ainsi, si nous trouvons la rareté de la solution la plus éparse à , nous avons également maximisé , en divisant la rareté par . $\tilde{A}\tilde{x}=\tilde{b}$ $\delta$ $k$

Par conséquent, je crois que votre problème est NP-difficile.

— Joe Bebel
source

1

Cool! Merci pour le partage. Alors, que pensez-vous que la dépendance à l'égard de c? Pensez-vous que nous pouvons le résoudre en moins de

p o l y (n) \cdot (\binom{n}{c})

$poly(n) \cdot {n \choose c}$ where

n

$n$ is the input size?

— Michael Wehar

1

Sure: if we assume you're given which

c

$c$ elements of

x

$x$ are zero, then you can simply remove those elements from

x

$x$ to get a lower dimensional

x^{'}

$x'$ and also remove the corresponding columns from

A

$A$ to get

A^{'}

$A'$ . Then use gaussian elimination to decide if the reduced system

A^{'} x^{'} = b

$A' x' = b$ is feasible; if it is, then you've found a sparse solution. Then, you try all

(\binom{n}{c})

$\binom{n}{c}$ possible

A^{'} x^{'}

$A'x'$ .

— Joe Bebel

1

@MichaelWehar I don't know whether this problem is FPT or not though

— Joe Bebel

6

The problem is NP-complete, by reduction from the following problem: Given an $m\times n$ matrix $A$ with integer entries and an integer vector $b$ with $n$ entries, does there exist a 0-1 vector $x$ with $Ax=b$ ?

For every coordinate $x_i$ of vector $x$ ,

introduce $100(n+m)$ new equations $x_i+y_{i,k}=0$ with $k=1,\ldots,100(n+m)$ , and
$100(n+m)$ $x_i+z_{i,k}=1$ $k=1,\ldots,100(n+m)$

$Ax=b$

$Ax=b$ $100(n+m)n$ variables are zero.

— Gamow
source

4

This is called the Sparsest Solution Vector problem, and it is indeed NP-hard.

— R B
source

4

This problem is hard, in various settings. As stated in the other answers to this question, the problem is NP-complete over the integers.

In signal processing, the matrix and the vectors have rational entries, and this problem is sometimes called the sparse reconstruction problem. In this setting, the problem is NP-complete (see Theorem 1).

In coding theory, the entries are from a finite field, and this problem is sometimes called the maximum-likelihood decoding problem. In this setting, the problem is NP-complete and not in subexponential time, assuming the exponential time hypothesis. Furthermore, according to a previous version of a paper on arXiv (see Lemma C.2 in version 1 of the paper), the problem is W[1]-complete.

— argentpepper
source

Your reference for W[1]-completeness does not appear to have a "Lemma C.2".

@RickyDemer There is a Lemma C.2 in version 1 of the paper that he linked. However, version 2 seems to have a different title and was very recently changed.

— Michael Wehar

That lemma uses a different parameterization from the OP.

Oh I didn't realize there was an updated version, I'll take a look at it and update my answer accordingly.

— argentpepper

As I mentioned in my previous comment, that "lemma uses a different parameterization from the OP", so even if we assume the result is true (despite having been removed from version 2), the OP's question about parameterized complexity would still be open.