Science Information Andr Hautot Dr Sc ULg http

  • Slides: 25
Download presentation
Science & Information André Hautot, Dr Sc (ULg) http: //www. physinfo. org

Science & Information André Hautot, Dr Sc (ULg) http: //www. physinfo. org

1) Informatique & Physique : L'entropie revisitée 2) Physique & Informatique : Limites thermodynamiques

1) Informatique & Physique : L'entropie revisitée 2) Physique & Informatique : Limites thermodynamiques du calcul

La Science est l'art de compresser les données CCCTTTAGCTCGCACCCTTGCCTCCTTAC TTCTCCGCCCTGTCCT… Axiome(s) Théorèmes Logique en

La Science est l'art de compresser les données CCCTTTAGCTCGCACCCTTGCCTCCTTAC TTCTCCGCCCTGTCCT… Axiome(s) Théorèmes Logique en usage :

L : {}, {0}, {1}, {0, 0}, {0, 1}, {1, 0}, {1, 1}, {0,

L : {}, {0}, {1}, {0, 0}, {0, 1}, {1, 0}, {1, 1}, {0, 0, 0}, … 1 , 2, 3, 4, 5977 5, 6, 7, 8, … 41 Compression sans perte : Z Z Le compresseur universel n’existe pas !

Toutes les suites ne se valent pas ! Ordonnées (" rares ") Désordonnées ("

Toutes les suites ne se valent pas ! Ordonnées (" rares ") Désordonnées (" fréquentes ")

Deux versions : Syntaxique : Claude Shannon Utilitaire et effective Sémantique : Andreï Kolmogorov

Deux versions : Syntaxique : Claude Shannon Utilitaire et effective Sémantique : Andreï Kolmogorov Fondamentale mais non effective

CCCTTTAGCTCGCACCCTTGCCTCCTTAC TTCTCCGCCCTGTCCT 50 Adénine Cytosine Guanine Thymine Code fixe : A 00 G 01

CCCTTTAGCTCGCACCCTTGCCTCCTTAC TTCTCCGCCCTGTCCT 50 Adénine Cytosine Guanine Thymine Code fixe : A 00 G 01 T 10 C 11 111111101010000111101101110011111110 1001111110100011101111101111111100110111110100

CCCTTTAGCTCGCACCCTTGCCTCCTTAC TTCTCCGCCCTGTCCT 50 Code variable : A 010 G 011 T 00 C 1

CCCTTTAGCTCGCACCCTTGCCTCCTTAC TTCTCCGCCCTGTCCT 50 Code variable : A 010 G 011 T 00 C 1 A (5%) G (15%) T (30%) C (50%) 1110000000100111001011100000111 100110000010100001001101111100 0110083 ℓ = 100 ℓ = 83 (bits)

CCCTTTAGCTCGCACCCTTGCCTCCTTAC TTCTCCGCCCTGTCCT 50 p(A) = 0. 05 p(G) = 0. 15 p(T) = 0.

CCCTTTAGCTCGCACCCTTGCCTCCTTAC TTCTCCGCCCTGTCCT 50 p(A) = 0. 05 p(G) = 0. 15 p(T) = 0. 30 p(C) = 0. 50 (bits/symb) (bits/bit) 83% (Limite de Shannon)

Shannon normalise 111111101010000111101101110011111110 1001111110100011101111101111111100110111110100 ↓ 111000000010011100101110000011 1100000101000010011011111 000110083 72 ‘ 1’ (Redondance) 28 ‘

Shannon normalise 111111101010000111101101110011111110 1001111110100011101111101111111100110111110100 ↓ 111000000010011100101110000011 1100000101000010011011111 000110083 72 ‘ 1’ (Redondance) 28 ‘ 0’ 38 ‘ 1’ 45 ‘ 0’ (Normalité)

Une suite (sans doute) normale et pourtant compressible : 101101010000010011110011001111 1110011110010010001011001 011111011000100110111010010 1010111110100111110001110101101111…N pgm

Une suite (sans doute) normale et pourtant compressible : 101101010000010011110011001111 1110011110010010001011001 011111011000100110111010010 1010111110100111110001110101101111…N pgm = {r=2; s=0; Do[ If[r s+1, Then {r=4(r-s-1), s=2 s+4}, Else {r=4 r, s=2 s}], {i, 0, N} ]; Print[Integer. Digits[s, 2]]

Aléatoire Normale Aléatoire Incompressible Synt & Sém ! Suite qcq Suite normale Synt (Shannon)

Aléatoire Normale Aléatoire Incompressible Synt & Sém ! Suite qcq Suite normale Synt (Shannon) Suite aléatoire Sém (Kolmogorov)

Description in extenso : q 0=12° 14'25", j 0=… q 1=12° 15'17", j 1=…

Description in extenso : q 0=12° 14'25", j 0=… q 1=12° 15'17", j 1=… q 2=12° 16'21", j 2=… … Compression sémantique : x 0=…, y 0=…, vx 0=…, vy 0=…,

P 1, P 2, P 3, …, impriment s Complexité (entropie) algo de s

P 1, P 2, P 3, …, impriment s Complexité (entropie) algo de s : K(s) = ℓ (Pmin ) ℓg(N) + c K(s. N) N + c (bits) S=11111… 11 (N fois) Do[Print[1], N fois] S=0011101… (aléatoire) Print[s]

K<< K>> K http: //www. physinfo. org/chroniques/complexite. html K n'est, en général, pas calculable

K<< K>> K http: //www. physinfo. org/chroniques/complexite. html K n'est, en général, pas calculable par une procédure effective mais parfois elle l'est …

Entropie statistique (Boltzmann) : Entropie algorithmique Si chaos moléculaire, K(Shannon) est optimal

Entropie statistique (Boltzmann) : Entropie algorithmique Si chaos moléculaire, K(Shannon) est optimal

Calcul détaillé (positions uniquement) : p(0) = n/N p(1) = (N-n)/N N cellules n

Calcul détaillé (positions uniquement) : p(0) = n/N p(1) = (N-n)/N N cellules n molécules n<<N Shannon :

(Zurek : Phys Rev A 40 (1989), pp 4731 -4751)

(Zurek : Phys Rev A 40 (1989), pp 4731 -4751)

For j=1 To mx For k=1 To my Print[(jd, kd, 0), (v, 0, 0)]

For j=1 To mx For k=1 To my Print[(jd, kd, 0), (v, 0, 0)] K(0)=ℓgmx+ ℓgmy+c =ℓgn+c Print[(x 1, y 1 , z 1), (x 2, y 2 , z 2), …, (vx 1, vy 1, vz 1), …] K(t)=6 n+c

Système stable : var(t=0) (1+10^(-9)) + Lois de Newton var(t) (1+10^(-9)) Système chaotique :

Système stable : var(t=0) (1+10^(-9)) + Lois de Newton var(t) (1+10^(-9)) Système chaotique : var(t=0) (1+10^(-9)) + Lois de Newton var(t) (1+10^(-3)) var(t=0) (1+10^(-16)) + Lois de Newton var(t) (1+10^(-9))

S

S

Retours ? (DS<0 !) Boltzmann: Rares et Ephémères ?

Retours ? (DS<0 !) Boltzmann: Rares et Ephémères ?

? Rares & Ephémères ? Imprédictibles !

? Rares & Ephémères ? Imprédictibles !

Une suite (sans doute) normale : 101101010000010011110011001111 1110011110010010001011001 011111011000100110111010010 1010111110100111110001110101101111…N Où est l'œuvre de

Une suite (sans doute) normale : 101101010000010011110011001111 1110011110010010001011001 011111011000100110111010010 1010111110100111110001110101101111…N Où est l'œuvre de Shakespeare ?

Deux bienfaits de la théorie algorithmique de l'information : Une bonne définition du hasard

Deux bienfaits de la théorie algorithmique de l'information : Une bonne définition du hasard Une bonne définition de l'entropie … … entraînant un second principe inévitable … étendu à toute la physique et pas seulement la thermo Fin de la 1ère partie