🚀 go-pugleaf

Rene Eberhard <reberhar@itr.ch> wrote:

>
>Spielt es somit eine Rolle, in welchem Context der Text steht?
>Ich spreche auf folgendes an:
>Wenn ich schreibe:
>E.  h.t  W.lke.  am  Hi..el  un.  es  re..et 
>
>kann sich jeder ausmalen, dass es 
>Es  hat  Wolken  am  Himmel  und  es  regnet 
>heisst.
>

Der Kontext ist entscheidend!

>Obwohl beide Saetze das gleiche aussagen, benoetigt der Erste weniger
>Bit/Zeichen. 

Diese Aussage ist falsch bzw. unsinnig! Dass wir den ersten Satz 
�berhaupt lesen k�nnen, hat mit dem Informationsgehalt der Zeichen im 
Original zu tun; und indem wir den codierten Satz lesen (und verstehen!), 
stellen wir das Original implizit wieder her!

Die angef�hrten Werte f�r den Informationsgehalt von 1,5 bis 1,8 
Bit/Zeichen scheinen mir f�r einen Zeichensatz von 26 Zeichen zu tief. 
Worum geht es denn eigentlich?

Ein Zeichensatz von der Gr�sse 26 muss mit mindestens 5 Bit codiert 
werden. Aufgrund der orthographischen und grammatikalischen Eigenschaften 
der zugrundeliegenden Sprache enth�lt jedes Zeichen eine bestimmte 
Information bez�glich des n�chsten Zeichens; wenn z.B. auf ein X immer 
ein Y folgt, dann betr�gt der spezifische Informationsgehalt von X genau 
5 Bit, d.h. die 5 Bit von X determinieren die 5 Bit des n�chsten 
Zeichens. 

Im allgemeinen werden aber auf ein bestimmtes Zeichen verschiedene 
Zeichen folgen k�nnen, wobei sprachbedingt f�r jedes Folgezeichen eine 
bestimmte Auftretenswahrscheinlichkeit existiert. Wenn nun - wie im 
obigen Beispiel - der Kontext bekannt ist, dann reduziert sich die 
m�gliche Auswahl f�r die fehlenden Zeichen drastisch! 

Wenn wir einmal f�r X durchschnittlich 3 m�gliche Folgezeichen annehmen, 
dann determiniert X nur noch ld(26/3) Bit des Folgezeichens, also ein 
Informationsgehalt von ca. 3 Bit/Zeichen. Eine Informationsgehalt von 1 
Bit/Zeichen w�rde bedeuten, dass auf X die H�lfte des Zeichensatzes mit 
gleicher Wahrscheinlichkeit folgen k�nnte, was bei indoeurop�ischen 
Sprachen ausgeschlossen ist.

Was lernen wir daraus? Theoretische Ueberlegungen fruchten nicht viel! Es 
kommt tats�chlich auf den Kontext an - und wenn wir einen Text 
verschl�sseln, dann sollten wir es mit der Rechtschreibung nicht so genau 
nehmen...

Christoph