“Bene, dopo tutta questa introduzione possiamo finalmente parlare d'altro”.
“Ma come? Era un'introduzione?”.
“Sì, giusto per scaldarci un po'”.
“Ah. E di cosa parliamo?”.
“Di informazione”.
“Singolare?”.
“Sì, del concetto di informazione, di come si fa a misurarla”.
“Non sapevo che si misurasse. Ma cosa significa, poi, misurarla?”.
“L'idea è questa: abbiamo un dispositivo che immagazzina dati, oppure che può trasmetterli da una sorgente a una destinazione”.
“E fin qua è chiaro”.
“Chiamiamo messaggi i dati che vengono immagazzinati o trasmessi, così ci leghiamo al concetto di informazione. Che strada devo prendere al prossimo incrocio? Qual è il primo verso della Divina Commedia?”.
“Le risposte a queste domande sono i messaggi?”.
“Esatto. Mettiamoci poi nel caso in cui il numero di messaggi che un sistema può inviare (o conservare) sia un numero finito. La strada che devo prendere al prossimo incrocio è destra, sinistra, oppure dritto. Il primo verso della Divina Commedia è un messaggio composto da 35 lettere dell'alfabeto, che sono in numero finito, e così via”.
“Va bene”.
“Ora la domanda è: che numero possiamo prendere per misurare l'informazione prodotta quando viene scelto uno dei messaggi disponibili? Il messaggio vai diritto quanta informazione porta con sé? E il messaggio Nel mezzo del cammin di nostra vita?”.
“Non saprei proprio come risponderti”.
“Partiamo dal caso più semplice possibile: prendiamo come contenitore di messaggi, o come canale che trasmette i messaggi, una moneta”.
“Eh? Come una moneta?”.
“Una moneta parla: dice testa o croce. Permette di salvare, o trasmettere, due messaggi diversi. Come misuriamo la quantità di informazione che si produce quando selezioniamo testa o croce?”.
“Non so. Ancora non capisco di cosa stiamo parlando: come fa una moneta a essere il caso più semplice di tutti? Una moneta porta due messaggi: non si può pensare a un caso ancora più semplice in cui il messaggio è uno solo?”.
“Ma se il messaggio è uno solo, ti serve conoscerlo?”.
“Uh?”.
“L'idea che si vuole tradurre in linguaggio matematico è questa: tu non sai una cosa, poi ricevi un messaggio e la conosci. Quanto vale quel messaggio? Quanto pesa? Quanta informazione ti porta? Se sai già che il messaggio è uno solo…”.
“Non mi porta nessuna informazione! Perché io non conosca il messaggio, ce ne devono essere almeno due! Ecco perché la moneta è il caso più semplice”.
“Esatto. E nota che nel caso della moneta, la parola testa può anche essere abbreviata con una singola lettera, T, mentre se parli dei versi della Divina Commedia sapere che a un certo punto c'è una T invece di una C è una informazione più forte”.
“Vero: la parola Torre è diversa da Corre”.
“Non solo: in questo caso non hai solo due possibilità, cioè T o C, ma puoi anche avere altre lettere, e generare parole ancora diverse, come per esempio Porre. Inoltre, qui il messaggio T è diverso dal messaggio Testa, mentre nella moneta sono uguali”.
“Va bene, sto capendo qualcosa, ma ancora non saprei come misurare questa quantità di informazione, anche se ho capito che dipende dal contesto. Potremmo forse dire che la quantità di informazione dipende dai possibili messaggi?”.
“Sì, potremmo farlo. Potremmo dire che l'informazione T o C relativa al lancio della moneta vale 2, perché i casi sono solo due. Se invece stiamo parlando di lettere dell'alfabeto, la scelta di T o C vale di più”.
“Ci sono 26 possibilità, ammesso che Dante abbia usato anche le lettere straniere”.
“Nella Divina Commedia ci sono due J, un sacco di X che sono state usate per numerare i canti (ma non solo), e una Y. Non ho trovato delle W e delle K”.
“Quindi servono almeno 24 caratteri”.
“Senza contare tutti i segni di interpunzione e lo spazio, e senza fare differenza tra lettere maiuscole e lettere minuscole”.
“Oh già. Potremmo allora dire che l'informazione delle lettere dell'alfabeto usate per la Divina Commedia vale 24, senza contare tutto il resto?”.
“Potremmo, se la Divina Commedia fosse composta da un solo carattere”.
“Oh, già. Ma… allora l'informazione contenuta nella Divina Commedia è un numero enorme!”.
“Vorrei ben vedere, soprattutto se la paragoniamo al lancio di una moneta. Dante non sarebbe felice di sapere che ha prodotto poca informazione”.
“Sì, capisco, sarebbe un po' deludente”.
“Abbiamo detto, quindi, che per calcolare la quantità di informazione potremmo contare il numero di messaggi che un sistema può inviare. Ma non faremo così”.
“E perché?”.
“Perché useremmo una scala che non ci piace”.
“Mh. Come fa a non piacerci una cosa che definiamo noi?”.
“Te lo spiego con un esempio. Se una moneta produce informazione uguale a 2, secondo te quanta informazione produce una coppia di monete?”.
“Il doppio, no?”.
“Eh, il doppio, cioè 4”.
“Certo. Cosa c'è che non va?”.
“Come lo hai calcolato 4? Facendo 2+2 oppure 2×2?”.
“Cosa cambia? Fa comunque 4”.
“Il risultato non cambia, ma l'idea sì. Quanta informazione producono 3 monete?”.
“Sarà il triplo, no?”.
“Il triplo di 2 è 6”.
“Certo”.
“E allora qualcosa non torna: il numero di messaggi che si possono trasmettere con 3 monete non è 6”.
“Oh. È vero! Con 3 monete posso trasmettere 8 messaggi: TTT, TTC, TCT, TCC, CTT, CTC, CCT, CCC”.
“E quindi 4 era uguale a 2+2 oppure a 2×2?”.
“Era uguale a 2×2. Con 3 monete devo calcolare 23, con 4 invece 24, eccetera”.
“Quindi l'informazione prodotta da 3 monete non è il triplo dell'informazione prodotta da una moneta”.
“Eh, no. Purtroppo no. Capisco perché dici che non ci piace: io vorrei un modo di misurare questa informazione che mi permetta invece di dire che l'informazione prodotta dalla somma di tot monete è tot volte l'informazione prodotta da una moneta. Ma come si fa?”.
“Si fa, si fa. Ci sono i logaritmi apposta”.
“Ah! Se uso la base 2, con la moneta è facilissimo: una moneta ha informazione 1, due monete hanno informazione 2, eccetera”.
“Sì, è la scelta più naturale”.
“E possiamo dare un nome all'unità di misura? Una moneta ha informazione 1 cosa?”.
“Io direi che, per un po', potremmo continuare a chiamare questa unità di misura moneta. Anche se tutto il mondo la chiama bit”.
Nessun commento:
Posta un commento