Complexité du circuit OR d'un opérateur linéaire dense

Considérez le modèle de circuit monotone simple suivant: chaque porte est juste un OU binaire. Quelle est la complexité d'une fonction $f(x)=Ax$ où $A$ est une matrice booléenne $n \times n$ avec $O(n)$ 0? Peut-il être calculé par des circuits OR de taille linéaire?

Plus formellement, $f$ est une fonction de $n$ à $n$ bits. La $i$ ième sortie de $f$ est $\bigvee_{j=1}^{n}(A_{ij} \land x_j)$ ( par exemple, un OU du sous - ensemble de bits d'entrée fournis par la -ième rangée de ).$i$$A$

Notez que 0 divise les lignes de en plages (sous-ensembles composés d'éléments consécutifs de ). Cela permet d'utiliser des structures de données d'interrogation de plage connues. Par exemple, une structure de données de table clairsemée peut être transformée en un circuit OU de taille . L'algorithme de Yao pour les requêtes d'opérateurs de semi-groupe de gamme peut être transformé en un circuit presque linéaire (de taille où est Ackermann inverse)$O(n)$$A$$O(n)$$[n]$$O(n\log n)$$O(\alpha(n) \cdot n)$$\alpha(n)$

En particulier, je ne sais même pas comment construire un circuit de taille linéaire pour un cas spécial où chaque ligne de contient exactement deux zéros. Alors que le cas d'exactement un zéro dans chaque ligne est facile. (Chaque fonction de sortie peut être calculée par un OU d'un préfixe et d'un suffixe , qui peuvent être précalculés par portes OU.)$A$$[1..k-1]$$[k+1..n]$$2n$

Il s'agit d'une réponse partielle (affirmative) dans le cas où nous avons une limite supérieure sur le nombre de zéros dans chaque ligne ou dans chaque colonne.

Un rectangle est une matrice booléenne composée d'une sous-matrice tout-1 et comportant des zéros ailleurs. Un rang OR r k ( A ) d'une matrice booléenne est le plus petit nombre r de rectangles tels que A peut être écrit comme un (composant) OU de ces rectangles. Autrement dit, chaque entrée 1 de A est une entrée 1 dans au moins un des rectangles, et chaque entrée 0 de A est une entrée 0 dans tous les rectangles. Notez que log r k ( A ) est exactement la complexité de communication non déterministe de la matrice $rk(A)$$r$$A$$A$$A$$\log rk(A)$$A$(où Alice obtient des lignes et des colonnes Bob). Comme OP l'a écrit, chaque matrice booléenne m × n A = ( a i , j ) définit un mappage y = A x , où y i = ⋁ n j = 1 a i , j x j pour i = 1 , … , m . Autrement dit, nous prenons un produit vecteur matriciel sur le semi-booléen. $m\times n$$A=(a_{i,j})$$y=Ax$$y_i=\bigvee_{j=1}^na_{i,j}x_j$$i=1,\ldots,m$

Le lemme suivant est dû à Pudlák et Rödl; voir la proposition 10.1 dans cet article ou le lemme 2.5 dans ce livre pour une construction directe.

Lemme 1: Pour chaque matrice booléenne n × n A , le mappage y = A x peut être calculé par un circuit OU de fanin illimité de profondeur 3 en utilisant au plus O ( r k ( A ) ⋅ n / log n ) fils. $n\times n$$A$$y=Ax$$O(rk(A)\cdot n/\log n)$

Nous avons également la borne supérieure suivante sur le rang OR des matrices denses. L'argument est une simple variation de celui utilisé par Alon dans cet article .

Lemme 2: Si chaque colonne ou chaque ligne d'une matrice booléenne A contient au plus d zéros, alors r k ( A ) = O ( d ln | A | ) , où | A | est le nombre de 1 s en A . $A$$d$$rk(A)=O(d\ln|A|)$$|A|$$1$$A$

Preuve: Construisez une sous-matrice R aléatoire tout en 1 en choisissant chaque ligne indépendamment avec la même probabilité p = 1 / ( d + 1 ) . Soit I le sous-ensemble aléatoire de lignes obtenu. Alors , que R = I × J , où J est l'ensemble de toutes les colonnes de A qui n'ont pas de zéros dans les lignes de I . $1$$R$$p=1/(d+1)$$I$$R=I\times J$$J$$A$$I$

A 1 -entrée ( i , j ) de A est couvert par R si i a été choisi en I et aucun des (au plus d ) des rangées avec un 0 dans la j -ième colonne a été choisie en I . Par conséquent, l'entrée ( i , j ) est couverte avec une probabilité d'au moins p ( 1 - p ) d ≥ p e - p d - p 2 d$1$$(i,j)$$A$$R$$i$$I$$d$$0$$j$$I$$(i,j)$p / e . Si nous appliquons cette procédure r fois pour obtenir r rectangles, alors la probabilité que ( i , j ) ne soit couverte par aucun de ces rectangles ne dépasse pas ( 1 - p / e ) r ≤ e - r p / e . À la limite de l'union, la probabilité qu'uneentrée de 1 de A reste découverte est au plus | A | ⋅ e - r p /$p(1-p)^{d}\geq pe^{-pd-p^2d}\geq p/e$$r$$r$$(i,j)$$(1-p/e)^r\leq e^{-rp/e}$$1$$A$$|A|\cdot e^{-rp/e}$, qui est inférieur à 1 pour r = O ( d ln | A | ) . $1$$r=O(d\ln|A|)$$\Box$

Corollaire: si chaque colonne ou chaque ligne d'une matrice booléenne A contient au plus d zéros, le mappage y = A x peut être calculé par un circuit OU de fanin illimité de profondeur 3 utilisant des fils O ( d n ) . $A$$d$$y=Ax$$O(dn)$

Je suppose qu'une limite supérieure similaire à celle du lemme 2 devrait également tenir lorsque d est le nombre moyen de 1 s dans une colonne (ou dans une rangée). Il serait intéressant de le montrer.$d$$1$

Remarque: (ajouté le 04.01.2018) Un analogue r k ( A ) = O ( d 2 log n ) du lemme 2 est également valable lorsque d est le nombre moyen maximal de zéros dans une sous-matrice de A , où le nombre moyen de zéros dans une matrice r × s est le nombre total de zéros divisé par s + r . Cela découle du théorème 2 de N. Eaton et V. Rödl ;, Graphs of small dimension, Combinatorica 16 (1) (1996) 59-85 . Une limite supérieure légèrement pire$rk(A)=O(d^2\log n)$$d$$A$$r\times s$$s+r$r k ( A ) = O ( d 2 ln 2 n ) peut être dérivé directement du lemme 2 comme suit.$rk(A)=O(d^2\ln^2 n)$

Lemme 3: Soit d ≥ 1 . Si chaque sous-graphe couvrant un graphe biparti G a un degré moyen ≤ d , alors G peut être écrit comme une union G = G 1 ∪ G 2 , où le degré gauche maximal de G 1 et le degré droit maximal de G 2 sont ≤ d . $d\geq 1$$G$$\leq d$$G$$G=G_1\cup G_2$$G_1$$G_2$$\leq d$

Preuve: Induction sur le nombre n de sommets. Les cas de base n = 1 et n = 2 sont évidents. Pour l'étape d'induction, nous colorerons les bords en bleu et rouge afin que le degré maximum dans les sous-graphiques bleu et rouge soit ≤ d . Prenez un sommet u de degré ≤ d ; un tel sommet doit exister parce que le degré moyen de l'ensemble du graphe doit également être ≤ d . Si u appartient à la partie gauche, coloriez toutes les arêtes incidentes à u en bleu, sinon colorez toutes ces arêtes en rouge. Si l'on supprime le sommet $n$$n=1$$n=2$$\leq d$$u$$\leq d$$\leq d$$u$$u$$u$ then the average degree of the resulting graph $G$ is also at most $d$, and we can color the edges of this graph by the induction hypothesis. $\Box$

Lemma 4: Let $d\geq 1$. If the maximum average number of zeros in a boolean $n\times n$ matrix $A=(a_{i,j})$ is at most $d$, then $rk(A)=O(d^2\ln^2 n)$.

Proof: Consider the bipartite $n\times n$ graph $G$ with $(i,j)$ being an edge iff $a_{i,j}=0$. Then the maximum average degree of $G$ is at most $d$. By Lemma 3, we can write $G=G_1\cup G_2$, where the maximum degree of the vertices on the left part of $G_1$, and the maximum degree of the vertices on the right part of $G_2$ is $\leq d$. Let $A_1$ and $A_2$ be the complements of the adjacency matrices of $G_1$ and $G_2$. Hence, $A= A_1\land A_2$ is a componentwise AND of these matrices. The maximum number of zeros in every row of $A_1$ and in every column of $A_2$ is at most $d$. Since $rk(A)\leq rk(A_1)\cdot rk(A_2)$, Lemma 2 yields $rk(A)=O(d^2\ln^2 n)$. $\Box$

N.B. The following simple example (pointed by Igor Sergeev) shows that my "guess" at the end of the answer was totally wrong: if we take $d=d(A)$ to be the average number of zeros in the entire matrix $A$ (not the maximum of averages over all submatrices), then Lemma 2 can badly fail. Let $m=\sqrt{n}$, and put an identity $m\times m$ matrix in, say left upper corner of $A$, and fill the remaining entries by ones. Then $d(A)\leq m^2/2n < 1$ but $rk(A)\geq m$, which is exponentially larger than $\ln|A|$. Note, however, that the OR complexity of this matrix is very small, is $O(n)$. So, direct arguments (not via rank) can yield much better upper bounds on the OR complexity of dense matrices.

(I tried to post this as a comment to Stasys' answer above, but this text is too long for a comment, so posting it as an answer.) Ivan Mihajlin (@ivmihajlin) came up with the following construction. Similarly to Stasys' proof, it works for the case when the maximum (rather than average) number of 0’s in each row is bounded.

First, consider the case when every row contains exactly two zeros. Consider the following undirected graph: the set of vertices is $[n]$; two nodes $i$ and $j$ are joined by an edge, if there is a row having zeros in columns $i$ and $j$. The graph has $n$ edges and hence it contains a cut $(L,R)$ of size at least $n/2$. This cut splits the columns of the matrix into two parts ($L$ and $R$). Let now also split the rows into two parts: the top part $T$ contains all columns that have exactly one zero in both $L$ and $R$; the bottom part $B$ contains all the remaining rows. What is nice about the top part of the matrix ($T \times (L \cup R)$) is that it can be computed by $O(n)$ gates. For the bottom part, let’s cut all-1 columns out of it and make a recursive call. The corresponding recurrence relation is $C(n) \le an + C(n/2)$ implying $C(n)=O(n)$.

Now, generalize it to the case of at most $d$ zeros in every row. Let $C_d(n)$ be the complexity of an $n \times (\le dn)$ matrix with at most $d$ zeros per row (if there are more than $dn$ columns, then some of them are all-1). Partition the columns into two parts $L$ and $R$ such that at least $n(1-2^{-d})$ rows (call them $T$) satisfy the following property: if there are exactly $d$ zeroes in a row, then not all of them belong to the same part (denote the remaining rows by $B$). Then make three recursive calls: $T \times L$, $T \times R$, and $B \times (L \cup R)$. This gives a recurrence relation $C_d(n) \le an + 2\cdot C_{d-1}(n(1-2^{-d}))+C_d(2^{-d}n)$. This, in turn, implies that $C_d(n) \le f(d)\cdot n$. The function $f(d)$ is exponential, but still.