L'informatique information-theory

8

Le code Morse sans espaces est-il uniquement déchiffrable?

Toutes les chaînes de code Morse sont-elles uniquement déchiffrables? Sans les espaces, ......-...-..---.-----.-..-..-.. pourrait être, Hello Worldmais peut-être que la première lettre est un 5- en fait, cela semble très improbable, une séquence arbitraire de points et de tirets devrait avoir une traduction unique. On pourrait éventuellement utiliser l' inégalité …

54 information-theory coding-theory

7

Les PRNG peuvent-ils être utilisés pour compresser des choses comme par magie?

Cette idée m'est venue en tant qu'enfant apprenant à programmer et rencontrant pour la première fois les PRNG. Je ne sais toujours pas à quel point c'est réaliste, mais maintenant, il y a échange de pile. Voici un schéma de 14 ans pour un algorithme de compression incroyable: Prenez un …

38 information-theory randomness data-compression pseudo-random-generators entropy

6

Les algorithmes de compression sans perte réduisent-ils l'entropie?

Selon Wikipedia : L'entropie de Shannon mesure les informations contenues dans un message par opposition à la partie du message qui est déterminée (ou prévisible). Des exemples de ces derniers incluent la redondance dans la structure du langage ou les propriétés statistiques relatives aux fréquences d'occurrence de paires de lettres …

35 information-theory data-compression entropy

2

Simuler une probabilité de 1 sur 2 ^ N avec moins de N bits aléatoires

Disons que je dois simuler la distribution discrète suivante: P( X= k ) = { 12N,1 - 12N,si k = 1si k = 0P(X=k)={12N,if k=11−12N,if k=0 P(X = k) = \begin{cases} \frac{1}{2^N}, & \text{if $k = 1$} \\ 1 - \frac{1}{2^N}, & \text{if $k = 0$} \end{cases} La façon la …

31 algorithms information-theory randomness pseudo-random-generators entropy

6

Compression efficace de données binaires simples

J'ai un fichier contenant des nombres binaires ordonnés de à 2 n - 1 :0002n- 12n−12^n - 1 0000000000 0000000001 0000000010 0000000011 0000000100 ... 1111111111 7z n'a pas compressé ce fichier très efficacement (pour n = 20, 22 Mo ont été compressés à 300 Ko). Existe-t-il des algorithmes capables de …

27 information-theory data-compression

4

Le code Morse est-il binaire, ternaire ou quinaire?

Je lis le livre: " Code: Le langage caché du matériel informatique et des logiciels " et dans le chapitre 2, l'auteur dit: Le code Morse est dit être un code binaire (signifiant littéralement deux par deux) parce que les composants du code ne se composent que de deux choses …

27 information-theory coding-theory encoding-scheme

5

Compression de données à l'aide de nombres premiers

J'ai récemment découvert l'article intéressant suivant qui prétend compresser efficacement les ensembles de données aléatoires de toujours plus de 50%, quels que soient le type et le format des données. Fondamentalement, il utilise des nombres premiers pour construire de manière unique une représentation de blocs de données de 4 octets …

22 information-theory data-compression primes

4

Compression de deux entiers sans tenir compte de l'ordre

En comparant une paire ordonnée (x, y) à une paire non ordonnée {x, y} (ensemble), puis en théorie, la différence n'est que d'un bit, car si x vient en premier ou y nécessite exactement un seul bit pour représenter. Donc, si on nous donne un ensemble {x, y} où x, …

20 information-theory data-compression

5

Pourquoi le cryptage avec le même tampon unique n'est-il pas bon?

Pour crypter un message avec une touche à pavé unique vous faites .m1m1m_1kkkEnc(m1,k)=m1⊕kEnc(m1,k)=m1⊕kEnc(m_1,k) = m_1 \oplus k Si vous utilisez le même pour crypter un message différent vous obtenez , et si vous effectuez Xor des deux textes chiffrés, vous obtenez kkkm2m2m_2Enc(m2,k)=m2⊕kEnc(m2,k)=m2⊕kEnc(m_2,k) = m_2 \oplus k(m1⊕k)⊕(m2⊕k)=m1⊕m2(m1⊕k)⊕(m2⊕k)=m1⊕m2( m_1 \oplus k) \oplus …

20 cryptography information-theory encryption

2

Qu'est-ce qui est plus difficile: mélanger un jeu trié ou trier un jeu mélangé?

Vous avez un tableau de éléments distincts. Vous avez accès à un comparateur (une fonction de boîte noire prenant deux éléments et et retournant vrai ssi ) et une source de bits vraiment aléatoire (une fonction de boîte noire ne prenant aucun argument et retournant un bit aléatoire uniformément indépendant). …

18 algorithms algorithm-analysis information-theory permutations entropy

4

Les données peuvent-elles être compressées à une taille inférieure à la limite de compression des données de Shannon?

Je lisais sur les algorithmes de compression des données et la limite théorique pour la compression des données. Récemment, j'ai rencontré une méthode de compression appelée "Combinatorial Entropy Encoding", l'idée principale de cette méthode est de coder le fichier comme les caractères présentés dans le fichier, leurs fréquences et l'indice …

17 information-theory data-compression

3

Différence entre «information» et «information utile» dans la théorie algorithmique de l'information

Selon Wikipedia : Informellement, du point de vue de la théorie algorithmique de l'information, le contenu informationnel d'une chaîne équivaut à la longueur de la représentation autonome la plus courte possible de cette chaîne. Quelle est la définition rigoureuse informelle analogue des "informations utiles"? Pourquoi les "informations utiles" ne sont-elles …

16 information-theory terminology kolmogorov-complexity

1

Encodage efficace des puzzles sudoku

Spécifier une grille arbitraire 9x9 nécessite de donner la position et la valeur de chaque carré. Un codage naïf pour cela pourrait donner 81 triplets (x, y, valeur), nécessitant 4 bits pour chaque x, y et valeur (1-9 = 9 valeurs = 4 bits) pour un total de 81x4x3 = …

16 combinatorics modelling information-theory sudoku

3

Entropie de Shannon de 0,922, 3 valeurs distinctes

Étant donné une chaîne de valeurs AAAAAAAABCAAAAAAAABCAAAAAAAABC , l'entropie de Shannon dans la base de log 222 s'élève à 0.9220.9220.922 . D'après ce que je comprends, dans la base 222 l'entropie de Shannon arrondie est le nombre minimum de bits en binaire pour représenter une seule des valeurs. Tiré de …

14 information-theory mathematical-foundations entropy binary

4

PRNG pour générer des nombres avec n bits définis exactement

J'écris actuellement du code pour générer des données binaires. J'ai spécifiquement besoin de générer des nombres 64 bits avec un nombre donné de bits définis; plus précisément, la procédure devrait prendre quelque 0<n<640<n<640 < n < 64 et retourner un nombre pseudo-aléatoire de 64 bits avec exactement nnn bits définis …

12 algorithms information-theory coding-theory pseudo-random-generators

Questions marquées «information-theory»