La conservazione dell’informazione: dal No Free Lunch alla ricerca della ricerca

Percorso: Matematica del Design
Modulo 7

Prerequisiti:
Modulo 6 – Misurare il significato
I limiti degli algoritmi evolutivi
Guida alla lettura
Disclaimer

Introduzione: dai prodotti ai processi

I moduli precedenti di questo percorso hanno costruito, pezzo per pezzo, un metodo per riconoscere il design nei prodotti: specificazione (modulo 2), risorse probabilistiche e limite universale (modulo 3), filtro esplicativo (modulo 4), lettura fisheriana e bayesiana (modulo 5), complessità algoritmica specificata (modulo 6). L’obiezione più diffusa a tutto questo apparato non riguarda però i prodotti, ma i processi: la selezione naturale, si dice, è un amplificatore di probabilità. Ciò che sarebbe improbabile per puro caso diventa ragionevolmente probabile una volta che un processo di variazione e selezione cumulativa lo guida verso l’obiettivo. Se questo è vero, le piccole probabilità su cui poggia l’inferenza al design evaporano, e con esse l’inferenza.

La conservazione dell’informazione è la risposta a questa obiezione. Non nega che un processo evolutivo possa rendere probabile ciò che a caso sarebbe improbabile; chiede invece che cosa renda possibile quel processo. Nelle parole di Dembski ed Ewert, l’inferenza progettuale «cerca di dare un senso a prodotti improbabili», mentre la conservazione dell’informazione «cerca di dare un senso a processi improbabili che producono prodotti probabili». È uno strumento contabile: traccia l’informazione che entra in una ricerca e quella che ne esce, e verifica che nulla venga introdotto di nascosto o sottratto.

L’articolo I limiti degli algoritmi evolutivi ha già presentato in forma introduttiva il teorema del No Free Lunch, il concetto di informazione attiva e l’analisi dei tre programmi più citati (WEASEL di Dawkins, Avida di Lenski e Adami, Ev di Schneider). Qui non ripeteremo quelle analisi. Faremo un passo oltre: le definizioni formali in bit di informazione endogena, esogena e attiva; il principio di Bernoulli che fissa la linea di base; il limite di Basener sui sistemi dinamici evolutivi; la coevoluzione come apparente controesempio; e la matematica della ricerca della ricerca, cioè il teorema che rende la conservazione dell’informazione qualcosa di più di una generalizzazione induttiva. Chiuderemo con le critiche più serie che il programma ha ricevuto (Häggström, Felsenstein ed English, Wolpert) e con le risposte che si possono dare.

Una precisazione di metodo: su questo sito il disegno intelligente è presentato come deduzione logica e filosofica a partire da dati empirici, non come teoria scientifica già consolidata (si veda la Guida alla lettura). La conservazione dell’informazione è un risultato matematico sulla ricerca; la sua applicazione alla biologia richiede premesse ulteriori che verranno discusse esplicitamente.

1. Genealogia di un’idea: da Lovelace al letto ad acqua

Come molte idee importanti, la conservazione dell’informazione ha una genesi distribuita. La prima formulazione, ancora qualitativa, risale ad Ada Lovelace nel XIX secolo: i calcolatori non creano nulla, si limitano a fare ciò che viene loro ordinato. Nel 1956 Léon Brillouin, uno dei fondatori della teoria dell’informazione, scriveva che la macchina «non crea alcuna nuova informazione, ma esegue una trasformazione molto preziosa delle informazioni conosciute». Il biologo e premio Nobel Peter Medawar usò negli anni Ottanta l’espressione legge di conservazione dell’informazione per i sistemi deduttivi: un sistema che deriva conseguenze da assiomi non aggiunge nulla che non fosse già implicito nei punti di partenza. Ma Medawar pensava a sistemi deterministici.

Il salto verso i sistemi stocastici e l’apprendimento automatico avviene in tre tappe. Nel 1980 Tom Mitchell osserva che un programma che apprende non può generalizzare oltre gli esempi osservati senza un bias, cioè senza «altre fonti di informazione, o pregiudizi per scegliere una generalizzazione piuttosto che un’altra». Nel 1994 Cullen Schaffer dimostra la legge di conservazione delle prestazioni di generalizzazione: «le prestazioni positive in alcune situazioni di apprendimento devono essere compensate da un grado uguale di prestazioni negative in altre», e paragona un discente che, senza conoscenze pregresse, superasse anche di poco il caso a «una macchina a moto perpetuo». Nel 1997 David Wolpert e William Macready pubblicano i No Free Lunch Theorems for Optimization, che estendono lo stesso principio alla ricerca e all’ottimizzazione: una strategia può essere migliorata solo «incorporando conoscenze specifiche del problema nel comportamento dell’algoritmo».

Schaffer raccontò che, dopo la presentazione orale del suo articolo, metà del pubblico gli disse che il risultato era del tutto ovvio e di dominio pubblico, e l’altra metà che non era vero. È una reazione istruttiva. Marks, Dembski ed Ewert stanno con la prima metà, e illustrano l’ovvietà con la metafora del letto ad acqua: poiché l’acqua è incomprimibile, se si preme in un punto il materasso si gonfia in un altro. Ogni algoritmo di ricerca è un modo di deformare il materasso: dove funziona meglio della media su una classe di problemi, deve funzionare peggio altrove. La quantità d’acqua, cioè la prestazione media, non cambia. Le violazioni immaginabili sono di tre tipi: un algoritmo che fa meglio ovunque senza mai fare peggio, uno che fa peggio ovunque, uno che si gonfia più di quanto si incavi. Nessuna delle tre è possibile.

Marvin Minsky, in uno scambio del 1970 con i pionieri della programmazione evolutiva, aveva già posto la domanda giusta: «per quale classe di problemi la tua tecnica è adatta? Non basta dire che è adatta a risolvere tutti». Lo sviluppo successivo della teoria ha confermato che la risposta «tutti» non è disponibile a nessun algoritmo.

2. Il No Free Lunch: che cosa dice davvero, e che cosa no

L’articolo sui limiti degli algoritmi evolutivi ha esposto il teorema in modo intuitivo. Qui conviene fissarne la struttura logica, perché molte critiche (e molti usi impropri) nascono da imprecisioni su questo punto. Si consideri uno spazio di ricerca finito Ω e una funzione di fitness f che assegna a ogni elemento un valore. Un algoritmo di ricerca è una regola che, dato l’insieme dei punti già visitati e dei loro valori di fitness, sceglie il punto successivo da interrogare. Il primo teorema di Wolpert e Macready afferma che, mediando su tutte le possibili funzioni di fitness, due algoritmi qualsiasi producono la stessa distribuzione di risultati dopo un numero qualsiasi di interrogazioni. Il secondo teorema estende il risultato alle funzioni di fitness che variano nel tempo. In entrambi i casi, l’ipotesi cruciale è che la classe di funzioni su cui si media sia completa, cioè chiusa rispetto alle permutazioni (Igel e Toussaint hanno mostrato nel 2003 che questa è la condizione necessaria e sufficiente perché valga un risultato NFL).

Da qui seguono due precisazioni che vanno tenute ferme. Primo: il NFL non dice che gli algoritmi evolutivi sono cattivi, né che sono equivalenti alla ricerca cieca su un problema dato. Dice che non esiste un algoritmo universalmente superiore: ciascuno è buono per alcune classi di problemi e cattivo per altre. Seymour Papert, nel dialogo del 1970, aveva torto nell’equiparare la ricerca evolutiva a una ricerca alla cieca; sono algoritmi diversi, e il NFL impone che l’evoluzione simulata faccia meglio della media su alcuni problemi e peggio su altri. Secondo: il NFL non è ancora la conservazione dell’informazione. Come notano Dembski ed Ewert nell’epilogo della seconda edizione di The Design Inference, «l’obiettivo di questi teoremi non era tanto l’informazione che migliora particolari ricerche, quanto l’incapacità di particolari ricerche di fare meglio di ricerche alla cieca quando le prestazioni vengono mediate su problemi di ricerca». Il NFL dice che non c’è un algoritmo universale; la conservazione dell’informazione dice che cosa rende buono un algoritmo su un problema particolare, ossia informazione specifica adatta a quel problema, e che quell’informazione va pagata.

Un controesempio ingannevole: i pirati e la transitività

Un esempio del libro di Marks, Dembski ed Ewert aiuta a capire perché il NFL non è violato nemmeno quando sembra esserlo. Un tesoro è sepolto in uno di tre luoghi equiprobabili di un’isola. Il pirata X li visita nell’ordine (1, 2, 3); il pirata Y nell’ordine (2, 1, 3). Presa singolarmente, ciascuna strategia trova il tesoro con probabilità 1/3 al primo scavo: nessuna è migliore. Ma se i due scavano contemporaneamente e chi arriva primo vince, Y batte X due volte su tre, perché nei casi 2 e 3 arriva prima. Sembra un pranzo gratis. Non lo è: si aggiunga un pirata Z con ordine (3, 1, 2). Z batte Y, Y batte X, ma X batte Z. La relazione «batte» non è transitiva: ogni strategia ha un vantaggio su un’altra e uno svantaggio rispetto a una terza. Contro una strategia scelta a caso, ciascuna ottiene esattamente la prestazione media. Y batte X solo se conosce in anticipo l’ordine di X: e questa conoscenza è informazione esterna alla ricerca, esattamente ciò che la conservazione dell’informazione richiede.

3. Il principio di Bernoulli e la linea di base

Per misurare quanta informazione entra in una ricerca serve un punto zero: che cosa significa non sapere nulla? La risposta classica è il principio della ragione insufficiente di Jakob Bernoulli, pubblicato postumo nell’Ars Conjectandi (1713): in assenza di conoscenze pregresse, dobbiamo presumere che gli eventi abbiano uguale probabilità. Laplace lo riformulò come la regola da applicare quando «non abbiamo motivo di credere che un caso particolare debba verificarsi con maggiore probabilità rispetto a un altro». Marks e Dembski lo indicano con la sigla PrOIR (Principle of Insufficient Reason) e lo pongono a fondamento della loro contabilità: nella ricerca informatica, «non sapere nulla» significa conoscere il dominio dello spazio di ricerca e la sua cardinalità, e nient’altro. Non si sa dove sia l’obiettivo, non si sa se il paesaggio sia liscio o frastagliato, non si sa nemmeno se una soluzione esista.

Il principio ha una lunga storia di critiche, e conviene esaminarle perché ritorneranno nelle obiezioni finali. John Maynard Keynes, che lo ribattezzò «principio di indifferenza», gli oppose il paradosso di Bertrand: chiedendo la probabilità che una corda scelta «a caso» in un cerchio sia più lunga del lato del triangolo equilatero inscritto, si ottengono tre risposte diverse (1/2, 1/3, 1/4) a seconda di come si sceglie la corda. Keynes osservò anche che il principio non è invariante per trasformazioni di variabili continue: se il volume specifico di una sostanza è uniforme fra 1 e 3, la sua densità (il reciproco) non è uniforme fra 1/3 e 1. E i frequentisti aggiungono che, senza conoscenza preliminare, l’assegnazione di probabilità è semplicemente fuori dall’ambito della teoria.

La risposta di Marks e Dembski è in due parti. Prima: il paradosso di Bertrand non è un fallimento del principio ma un’ambiguità nella parola «casuale»; una volta specificato il procedimento di scelta, il principio si applica senza ambiguità. Seconda, e più importante: le difficoltà di Keynes riguardano variabili continue. Nel caso discreto, con uno spazio di ricerca ben definito, il principio è inviolabile. L’esempio è un mazzo di 52 carte: la probabilità di pescare l’asso di picche è 1/52 qualunque sia il metodo di pesca, e resta 1/52 anche se si duplicano alcune carte in un nuovo mazzo o se ne distruggono altre. Un’appassionata di concorsi a premi che distribuisce le sue partecipazioni su più scatole di dimensioni diverse, seguendo il consiglio di un manuale, non aumenta di nulla le sue probabilità: fotocopiare il contenuto di una scatola, triplicarne un’altra e bruciarne due lascia la probabilità di vincita esattamente uguale a quella di un unico grande barile. Solo un’informazione privilegiata (sapere quale scatola è più piccola, o che le buste del venerdì vengono pescate più spesso) può alterare le probabilità. «Senza alcuna conoscenza della lotteria per creare informazioni attive, il PrOIR di Bernoulli è imbattibile.»

Va notato fin d’ora un punto che le critiche tendono a trascurare: la definizione di informazione attiva non richiede che la linea di base sia uniforme. Come i decibel misurano il logaritmo di un rapporto rispetto a un riferimento arbitrario, l’informazione attiva misura il miglioramento rispetto a qualsiasi distribuzione di riferimento si scelga. La distribuzione uniforme è la scelta naturale quando davvero non si sa nulla, ma la contabilità funziona anche partendo da una linea di base informata. Questo diventerà decisivo nella sezione 10.

4. La contabilità in bit: informazione endogena, esogena, attiva

Siamo ora in grado di dare le definizioni formali. Sia Ω lo spazio di ricerca e T ⊆ Ω l’insieme degli elementi accettabili (l’obiettivo). Se si interroga Ω una sola volta, alla cieca, sotto il principio di Bernoulli la probabilità di successo è p = |T| / |Ω|. L’informazione endogena del problema è

I_Ω = −log₂ p.

Essa misura la difficoltà intrinseca della ricerca, in bit, in assenza di qualsiasi conoscenza. Un lucchetto con dieci interruttori binari e una sola combinazione valida ha I_Ω = 10 bit; una serratura a dieci rotelle da 0 a 9 ha I_Ω = log₂ 10¹⁰ ≈ 33,2 bit, ossia la difficoltà di prevedere 33 lanci consecutivi di una moneta equa. Due casi speciali sono utili: se l’obiettivo è unico, I_Ω = log₂ |Ω|; se lo spazio è l’insieme delle stringhe di lunghezza L su un alfabeto di N simboli, |Ω| = N^L e quindi I_Ω = L log₂ N. Per la celebre frase di 28 caratteri su un alfabeto di 27, I_Ω = 28 log₂ 27 ≈ 133 bit. Per identificare un singolo volume di Planck fra i circa 2 × 10¹⁸⁴ dell’universo visibile servono 612 bit.

Supponiamo ora di ricevere un aiuto. Larry il fabbro ci dice che nella serratura a rotelle compaiono solo le cifre 1, 2 e 3. Lo spazio effettivo si riduce a 3¹⁰ = 59.049 combinazioni e la probabilità di successo di una singola interrogazione sale a q = 3⁻¹⁰ ≈ 1,7 × 10⁻⁵. La ricerca è ora una ricerca assistita e la sua difficoltà residua è l’informazione esogena

I_S = −log₂ q ≈ 15,8 bit.

L’informazione attiva è la riduzione di difficoltà ottenuta grazie alla conoscenza esterna:

I₊ = I_Ω − I_S = −log₂(p/q) = log₂(q/p).

Nell’esempio, I₊ ≈ 33,2 − 15,8 = 16,4 bit: il fabbro ci ha risparmiato 16 lanci di moneta. Tre casi limite confermano che la definizione si comporta come deve. Se non si sa nulla, q = p e I₊ = 0. Se la ricerca è perfetta, q = 1, I_S = 0 e I₊ = I_Ω: tutta l’informazione endogena è stata estratta. Se la conoscenza è sbagliata (ci viene detto che la combinazione usa solo 3, 4 e 5 quando in realtà usa 1, 2 e 3), allora q < p e l’informazione attiva è negativa; se q = 0, è −∞. In generale −∞ ≤ I₊ ≤ I_Ω. L’informazione attiva non è mai gratis e non è mai automaticamente positiva: un consiglio deve essere accurato per aiutare.

Il rompicapo Cracker Barrel

Un esempio concreto rende vivida la contabilità. Il solitario a pioli diffuso nei ristoranti della catena Cracker Barrel ha 15 fori disposti a triangolo; si rimuove un piolo, poi si salta e si elimina un piolo adiacente come nella dama, e si vince se ne resta uno solo. Se non si sa nulla del gioco e a ogni turno si sceglie a caso fra le mosse consentite, con il foro iniziale scelto a caso, quattro milioni di partite simulate danno una probabilità di vittoria p ≈ 0,0070, cioè I_Ω ≈ 7,15 bit: vincere alla cieca è un po’ più difficile che ottenere sette teste di fila.

Un esperto, Puzzle Pete, consiglia: «quando hai una scelta, non saltare in un angolo». Simulando di nuovo, il consiglio vale I₊ ≈ 2,1 bit. Pete aggiunge: «e inizia sempre con il foro 1 vuoto», un consiglio che sembra contraddire il primo (la prima mossa costringe a saltare in un angolo) ma che, combinato, porta l’informazione attiva a 2,6 bit. Un contestatore, Tony Two Toes, suggerisce invece di partire dal foro 5: con mosse altrimenti casuali, I₊ ≈ −1,7 bit. Se si segue la regola «salta sempre in un angolo», I₊ ≈ −11,9 bit; combinando le due regole di Tony, in un milione di partite non se ne vince nessuna: I₊ stimata −∞. La tabella dei risultati è la conferma empirica del letto ad acqua: le regole non possono essere assegnate arbitrariamente; possono migliorare o peggiorare la ricerca, e solo la conoscenza accurata del problema produce informazione attiva positiva.

Let’s Make a Deal e i due figli

Le fonti di informazione attiva possono essere sottili. Il problema di Monty Hall, reso celebre da Marilyn vos Savant nel 1990 e ispirato al gioco televisivo Let’s Make a Deal, si traduce direttamente in questo linguaggio. Tre porte, una sola auto: p = 1/3, I_Ω = log₂ 3 ≈ 1,585 bit. Il conduttore, che sa dove sta l’auto, apre una porta con una capra e offre di cambiare. Chi cambia vince con probabilità q = 2/3; l’informazione esogena è I_S = −log₂(2/3) ≈ 0,585 bit e l’informazione attiva fornita dal gesto di Monty è esattamente I₊ = log₂[(2/3)/(1/3)] = 1 bit. L’intuizione dice che non cambia nulla; la contabilità dice che il conduttore ha regalato un bit intero.

Ancora più sottile è il problema dei due figli, che risale a Martin Gardner. Scegliendo a caso un padre di due figli, la probabilità che siano entrambi maschi è 1/4 (I_Ω = 2 bit). Sapere che «almeno uno è maschio» riduce i casi a tre e porta q a 1/3: I₊ ≈ 0,415 bit. Sapere che «il maggiore è maschio» porta q a 1/2: I₊ = 1 bit; la parola «maggiore» vale più di mezzo bit. E sapere che almeno uno dei maschi è nato in un anno pari, un dato che sembra irrilevante, porta q a 3/7 e I₊ ≈ 0,778 bit. La morale non è aneddotica: il flusso di informazione in una ricerca va tracciato con cura, perché le sue sorgenti non sono sempre dove ci si aspetta di trovarle. È la stessa lezione che l’Evolutionary Informatics Lab ha tratto dall’analisi del codice dei programmi evolutivi, nel quale l’informazione attiva era spesso nascosta in dettagli di inizializzazione o in righe di codice come quella marcata «over-ride!!!» nell’algoritmo per gli alberi di Steiner di David Thomas.

Interrogazioni multiple e rendimenti decrescenti

Che cosa succede se, invece di una sola interrogazione, se ne fanno Q? Per una ricerca cieca con sostituzione su uno spazio grande, il risultato è notevole nella sua semplicità: I₊ ≈ log₂ Q. Due interrogazioni valgono un bit, quattro ne valgono due, 1.024 ne valgono dieci, un miliardo ne vale circa trenta. Per guadagnare un bit in più bisogna raddoppiare il numero di tentativi. Questo spiega perché la sola grandezza di una popolazione (una generazione di Q individui equivale a Q interrogazioni in parallelo) o il solo numero di figli per genitore (la probabilità che almeno uno migliori cresce linearmente con K) contribuiscono così poco: i rendimenti sono logaritmici, mentre le difficoltà endogene dei problemi interessanti sono lineari nella lunghezza della sequenza da trovare.

Quando la ricerca ha una componente stocastica, l’informazione attiva è una variabile casuale e conviene misurarla per interrogazione, I_⊕ = I_Ω/Q. Qui si annida una sottigliezza che il libro tratta con cura: la media dell’informazione attiva per interrogazione e l’informazione attiva per interrogazione media non coincidono (per la disuguaglianza di Jensen, la prima è sempre maggiore o uguale della seconda), sicché i confronti fra algoritmi sono validi solo se si usa sempre lo stesso metro. Il punto ha conseguenze pratiche: gli autori mostrano che, dato un oracolo di Hamming (una sorgente che restituisce il numero di caratteri sbagliati in una stringa), esistono algoritmi che estraggono informazione attiva per interrogazione molto più efficientemente di una ricerca evolutiva. L’algoritmo evolutivo, in altre parole, non solo non crea informazione: quando la estrae da una sorgente, lo fa spesso in modo inefficiente.

5. Il costo della ricerca cieca, misurato in bit

Il modulo 3 ha ricavato il limite universale di probabilità (10⁻¹⁵⁰, 500 bit) contando gli eventi elementari possibili nell’universo. Marks, Dembski ed Ewert compiono un esercizio complementare: quanti bit occorre spendere per trovare alla cieca una stringa di lunghezza L su un alfabeto di N simboli? Se le interrogazioni non si ripetono, in media si trova l’obiettivo dopo metà delle N^L possibilità, e ciascuna interrogazione costa L log₂ N bit; il costo totale è dunque B ≈ ½ N^L log₂ N^L. Per la frase di 28 caratteri di Shakespeare si ottengono 8 × 10⁴¹ bit: memorizzati su dischi Blu-ray da 50 GB, formerebbero 24.000 pile alte quanto il diametro della Via Lattea.

Invertendo la formula si può chiedere quale lunghezza L sia raggiungibile con un dato budget di bit. Assegnando un bit a ogni millimetro cubo dell’universo osservabile (circa 10⁸⁹) si trova una frase di sole 61 lettere. Assegnando un bit a ogni volume di Planck per ogni tempo di Planck nella storia dell’universo (circa 10²⁴⁴) si arriva a 169 caratteri. Supponendo 10¹⁰⁰⁰ universi paralleli identici al nostro, si arriva a 869 caratteri; il discorso di Gettysburg, 1.422 caratteri senza punteggiatura, richiederebbe circa 10⁷⁹² di tali multiversi. Asintoticamente, log B cresce come L log N: il costo della ricerca cieca cresce esponenzialmente con la lunghezza dell’obiettivo, mentre le risorse disponibili crescono al più polinomialmente. La conclusione è quella già anticipata da Papert nel 1970: «l’unico modo per evitare un’esplosione esponenziale è evitare il modello di una ricerca alla cieca». Il che, di nuovo, significa: integrare nel sistema conoscenze strutturate molto specifiche. Da dove vengano, è la domanda di questo modulo.

6. Il limite di Basener: i sistemi evolutivi tendono all’equilibrio

Un collega entrò nell’ufficio di Robert Marks e gli chiese che cosa stesse facendo. «Sto simulando l’evoluzione su un computer.» «Fantastico! Quando potrò parlarci?» La battuta contiene una domanda seria. Se l’evoluzione è un processo di miglioramento avido guidato dalla fitness, che cosa impedisce a un programma scritto per progettare antenne di sviluppare, prima o poi, l’abilità di giocare a scacchi? La risposta del programmatore è ovvia: il programma è stato progettato per evolvere antenne. La risposta del matematico è un teorema.

William F. Basener, applicando risultati di topologia e di teoria dei sistemi dinamici, ha dimostrato che «ogni sistema dinamico evolutivo con un dominio spaziale finito è asintotico a un’orbita ricorrente; a un osservatore il sistema sembrerà ripetere uno stato noto all’infinito. In un sistema evolutivo guidato da un aumento della fitness, il sistema raggiungerà un punto oltre il quale non si osserva alcun aumento della fitness». Marks, Dembski ed Ewert chiamano questo punto il limite (o tetto) di Basener. Da esso Basener trae due conclusioni: che «il caos e i sistemi dinamici non lineari non contribuiscono in alcun modo al continuo aumento della complessità o dell’adattamento evolutivo», e che «il processo evolutivo guidato dalla mutazione-selezione, sia nei modelli matematici che nel comportamento osservato direttamente, è quello di un sistema che tende all’equilibrio e vi rimane». Non c’è nulla, nel sistema matematico basato sulla fitness, che porti a un progresso continuo; i modelli, dall’equazione delle quasispecie alle classi più generali, hanno limiti all’aumento di fitness che può verificarsi.

Il limite è visibile in ogni simulazione evolutiva: raggiunto l’obiettivo, WEASEL, Avida ed Ev non evolvono oltre. Il caso più istruttivo è Tierra, creato da Thomas Ray nel 1989 con l’ambizione esplicita di riprodurre in silicio l’esplosione del Cambriano. Tierra produsse fenomeni interessanti (parassiti, iperparassiti, comportamenti sociali) e poi si fermò; Ray lo riformulò tre volte partendo da complessità maggiori, senza esito. Come hanno scritto Bedau e colleghi, «i sistemi di vita artificiale come Tierra e Avida hanno inizialmente prodotto una ricca diversità di organismi, ma alla fine si sono esauriti», mentre la biosfera terrestre ha continuato a generare forme nuove per quattro miliardi di anni. L’analisi di Ewert, Dembski e Marks mostra che gli adattamenti di Tierra consistono prevalentemente nel riorganizzare o rimuovere l’informazione contenuta nell’antenato progettato: una traiettoria dominata dalla perdita, l’opposto di ciò che un’evoluzione aperta richiede. Ray stesso ha riconosciuto in seguito che l’evoluzione osservata in Tierra era transitoria. Considerazioni analoghe valgono, sul piano biologico, per l’esperimento a lungo termine di Lenski su E. coli, che il sito ha discusso in Esperimenti di laboratorio e i limiti osservati.

Il limite di Basener può essere aggirato? Sì, ma a un prezzo. Si può portare un sistema fino al tetto e poi usare l’entità evoluta come punto di partenza sotto una pressione selettiva diversa; in linea di principio, una sequenza di fasi può generare complessità specificata illimitata. Ma ogni fase deve essere progettata: la nuova pressione deve essere quella giusta, né troppo forte (tutto si estingue) né troppo debole (nulla si muove). Gli autori chiamano informazione attiva a gradini il contributo che stabilisce ciascuna fase, e osservano che un meccanismo di ricerca che consenta piccoli passi funzionali «deve essere esso stesso costruito a partire da informazioni attive». È il tema dei «piccoli passi» di Dawkins: trenta monete che devono mostrare tutte testa richiedono in media un miliardo di lanci collettivi, ma solo 60 se si fissa una moneta alla volta. Il trucco funziona, però presuppone che ogni passo intermedio sia praticabile; nelle parole inglesi, evolvere STRINGIER una lettera alla volta passando solo per parole valide è possibile, ma la parola più lunga che gli autori conoscono per cui il procedimento riesce è di dieci lettere. Il modulo 8 tornerà su questo punto con i dati sulle proteine.

7. La coevoluzione: un pranzo gratis apparente

Nel 2005 Wolpert e Macready pubblicarono un articolo intitolato Coevolutionary Free Lunches: nella coevoluzione, dove la fitness di un candidato dipende dal confronto con altri candidati (come in un torneo di dama o di scacchi), alcuni algoritmi possono essere superiori ad altri anche mediando su tutte le funzioni. Altri autori hanno seguito la stessa linea. La coevoluzione è attraente proprio perché «richiede poche conoscenze a priori sul dominio»: non serve un esperto che scriva la funzione di fitness. Se davvero sfugge alla conservazione dell’informazione, l’intero programma di questo modulo sarebbe in difficoltà, e la biologia, dove la fitness è sempre relativa ad altri organismi, sarebbe il luogo naturale dell’eccezione.

L’analisi di Ewert, Dembski e Marks (2017) mostra che l’eccezione è apparente. Si considerino otto formule di insetticida, da A a H, che devono uccidere nove specie di insetti; ogni test costa lo stesso. Dopo alcune prove, A ha fallito con le formiche, B con i calabroni, C con le termiti: basta un fallimento per squalificare. Non ha senso continuare a testare A, B e C; conviene concentrare le prove sulle formule ancora promosse. Alcune interrogazioni sono quindi più preziose di altre, e il principio di Bernoulli sembra non applicarsi. Ma che cosa stiamo davvero cercando? Non i singoli risultati nella matrice, bensì la colonna «grado» che li riassume. Le singole prove sono interrogazioni subordinate; la loro combinazione è l’interrogazione completa, ed è a quest’ultima che si applica la conservazione dell’informazione. Il pranzo gratis compare quando si analizza lo spazio delle fitness subordinate come se fosse lo spazio del problema; ma quello spazio contiene informazione strutturale (le regole di combinazione) che non è stata pagata dall’algoritmo. Un secondo esempio, con tre aule di studenti e la mediana delle età come proiezione, mostra che il vantaggio della coevoluzione consiste tutto nel sapere quali interrogazioni subordinate sono inutili, cioè in una conoscenza sul modo in cui le fitness parziali si compongono.

Gli autori sono espliciti nel non voler screditare la coevoluzione come tecnica di ottimizzazione: in molti problemi ingegneristici le interrogazioni subordinate costano meno e la fitness completa è accessibile solo attraverso di esse. Il punto è più circoscritto: analizzata al livello della fitness completa, la ricerca coevolutiva resta vincolata dal NFL e dalla conservazione dell’informazione. Questo è anche il nodo della risposta a Wolpert, che riprenderemo nelle obiezioni.

8. La ricerca della ricerca: dal dado al simplesso

Arriviamo al cuore matematico del modulo. Le sezioni precedenti hanno mostrato che una ricerca migliore della cieca richiede informazione attiva. L’obiezione naturale è: e allora? Forse l’informazione attiva è facile da ottenere; forse esistono tante ricerche buone che sceglierne una a caso funziona. È l’equivalente ricercativo del principio antropico: siamo fortunati ad avere l’ambiente e la biologia che consentono l’evoluzione, e se non li avessimo non saremmo qui a chiedercelo. La ricerca della ricerca (in sigla S4S, search for a search) trasforma questa domanda in un problema di ricerca di livello superiore e ne misura la difficoltà.

Un dado caricato

Dembski ed Ewert offrono un esempio elementare. Un dado equo dà il 6 con probabilità p = 1/6. Supponiamo di poterlo caricare in modo che escano solo due numeri, ciascuno con probabilità 1/2; caricandolo su 5-o-6, la «ricerca» del 6 ha ora probabilità q = 1/2: un miglioramento triplo. Ma come abbiamo ottenuto questo caricamento? Ci sono 15 modi di scegliere una coppia di facce. Cinque contengono il 6 (1-6, 2-6, 3-6, 4-6, 5-6) e portano la probabilità del 6 a 1/2; gli altri dieci la portano a zero. Per la simmetria del dado, i 15 caricamenti sono equiprobabili, dunque la probabilità di scegliere a caso un caricamento che funziona è 5/15 = 1/3. E 1/3 × 1/2 = 1/6: la probabilità di trovare la ricerca migliorata, moltiplicata per la probabilità di successo della ricerca migliorata, restituisce esattamente la probabilità originaria. Procurarsi una ricerca migliore non ha fatto guadagnare nulla, perché il costo per procurarsela ha assorbito il guadagno. Le probabilità si moltiplicano per dipendenza condizionale, come la probabilità di A e B è quella di A per quella di B dato A.

In generale, data una probabilità di base p molto piccola e una ricerca migliorata con probabilità q ≫ p, i teoremi di conservazione dell’informazione stabiliscono che la ricerca canonicamente associata, quella che deve trovare la ricerca migliorata, ha probabilità di successo non superiore a p/q. Nel dado, 1/3 ≤ (1/6)/(1/2) = 1/3, con uguaglianza. L’esempio è stilizzato, ma i teoremi pubblicati dall’Evolutionary Informatics Lab a partire dal 2009 stabiliscono la relazione con ampia generalità.

Il problema formale

Fissiamo il quadro. Vogliamo una ricerca la cui informazione attiva sia almeno una soglia I₊^*, equivalentemente la cui probabilità assistita superi q^* = p · 2^I₊*. Lo spazio in cui cerchiamo non può essere l’elenco degli algoritmi noti con i loro parametri e le loro inizializzazioni: sarebbe irrealizzabile. L’osservazione chiave è che ogni algoritmo, con i suoi parametri e la sua inizializzazione, induce una distribuzione di probabilità sullo spazio di ricerca originale. Lo spazio della metaricerca è quindi l’insieme di tali distribuzioni; l’obiettivo della metaricerca è il sottoinsieme delle distribuzioni che assegnano all’obiettivo originale probabilità almeno q^*. Con la tilde indichiamo le grandezze della metaricerca: Ĩ_Ω è la sua informazione endogena, p̃ la sua probabilità di successo alla cieca.

Un esempio con 16 caselle e un obiettivo nell’angolo in basso a destra chiarisce il meccanismo. La ricerca (a) esplora tutte le 16 caselle: q = 1/16, I₊ = 0. La ricerca (b) esplora solo le otto di destra: q = 1/8, I₊ = 1 bit. La ricerca (c) esplora solo le otto in alto: q = 0, I₊ = −∞. Se non sappiamo quale sia la migliore e ne scegliamo una a caso, la probabilità complessiva di trovare l’obiettivo è la media delle tre, 1/12, cioè I₊ ≈ 0,415 bit: meglio della peggiore, peggio della migliore. Se poi si ammettono tutte le ricerche possibili, il NFL dice che la media non supera la ricerca cieca. La metaricerca ha un suo obiettivo, la ricerca (b), e trovarlo costa informazione.

Il caso debole

Sommando le probabilità di successo di tutte le distribuzioni nello spazio della metaricerca, e osservando che quelle nell’obiettivo valgono almeno q^* ciascuna, si ottiene che la media delle probabilità di successo è almeno p̃ · q^*. Con un’ipotesi (che la probabilità media di successo sullo spazio delle ricerche coincida con la probabilità uniforme p dello spazio originale, il che richiede che lo spazio delle distribuzioni sia esplorato per intero e non un suo campione sparso) si ricava p ≥ p̃ q^*, cioè q^*/p ≤ 1/p̃, e prendendo i logaritmi:

Ĩ_Ω ≥ I₊^*.

L’informazione endogena della ricerca della ricerca è sempre almeno pari all’informazione attiva che si vuole ottenere. Trovare una ricerca che regali k bit costa almeno k bit. Non si può violare la conservazione dell’informazione trasferendo la difficoltà a un livello superiore.

Il caso rigoroso

Il risultato debole è già sufficiente per lo scopo del modulo, ma la versione rigorosa mostra che le cose stanno molto peggio per chi spera in un pranzo gratis. Si consideri lo spazio di tutte le distribuzioni di probabilità su N elementi: è il simplesso, l’insieme delle N-uple di numeri non negativi con somma 1. Per N = 2 è un segmento, per N = 3 un triangolo equilatero nel primo ottante, in generale un iperpiano di dimensione N − 1. Scegliere una distribuzione uniformemente sul simplesso è il modo naturale di «non sapere nulla» a livello di metaricerca. Se l’obiettivo originale è l’elemento n-esimo, le distribuzioni accettabili sono quelle in cui la coordinata n-esima è almeno q^*: nel triangolo, è un triangolino simile con lato ridotto di un fattore (1 − q^*), la cui area relativa è (1 − q^*)². In N dimensioni, il volume relativo, cioè p̃, è (1 − q^*)^N−1. Passando ai logaritmi naturali, Ĩ_Ω = −(N − 1) ln(1 − q^*) nat. Con due ipotesi realistiche, q^* ≪ 1 (sicché ln(1 − q^*) ≈ −q^*) e N ≫ 1 (sicché N − 1 ≈ N = 1/p), si ottiene Ĩ_Ω ≈ q^*/p. Ma il logaritmo di q^*/p è per definizione la soglia di informazione attiva. Dunque:

Ĩ_Ω ≈ e^I₊* (in nat).

La ricerca della ricerca è esponenzialmente più difficile dell’informazione attiva che cerca. Se una ricerca deve fornire 100 bit di informazione attiva per rendere probabile un obiettivo, trovare quella ricerca a caso fra tutte le distribuzioni possibili ha una difficoltà endogena dell’ordine di e^{100·ln 2}, cioè circa 2¹⁰⁰ nat. Una seconda derivazione, da un punto di vista del tutto diverso, conduce allo stesso risultato. Iterare la metaricerca (cercare una ricerca per la ricerca) non aiuta: ogni livello aggiunge difficoltà. Come scrivono gli autori nella conclusione del capitolo, «l’analisi della ricerca della ricerca stabilisce che la condizione “giusta” di Goldilocks è, di per sé, esponenzialmente più difficile da stabilire rispetto al processo evolutivo stesso».

9. La legge di conservazione dell’informazione: statuto e portata

Che cosa afferma, in definitiva, la legge di conservazione dell’informazione? Non che una quantità resti esattamente invariata, come nella conservazione dell’energia. Dembski ed Ewert sono espliciti: nel loro uso, conservazione significa che il meglio che può accadere è che l’informazione si conservi; di norma l’elaborazione incontra inefficienze, e l’informazione prodotta è inferiore, spesso esponenzialmente, a quella immessa, come in una macchina che disperde energia in calore. La legge è una generalizzazione proscrittiva: dice che cosa non può accadere, non soltanto che cosa non è accaduto. È il genere di affermazione a cui appartengono la seconda legge della termodinamica, che esclude il moto perpetuo, o il limite della velocità della luce. E come quelle, non è nata da sola induzione: l’impulso fu induttivo (ogni programma analizzato conteneva già, in anticipo, l’informazione che sosteneva di produrre), ma il principio ha trovato «un supporto indipendente in una classe di teoremi matematici» che sono, appunto, i teoremi sull’informazione attiva e sulla ricerca della ricerca.

La sfida che la legge pone alla teoria evolutiva convenzionale va formulata con precisione. L’evoluzione darwiniana usa un processo basato sulla selezione per spiegare un risultato apparentemente progettato; ma non si pone la domanda successiva, cioè se il processo, in ciò che gli serve per produrre qualcosa di simile al design, mostri esso stesso prove di design. Il darwinista invoca l’ambiente come sorgente dell’informazione. Ma «se è codificata lì, come è codificata esattamente?». La maggior parte degli ambienti possibili non produce alcuna evoluzione interessante; alcuni sì. Per il metodo della differenza di Mill (che il modulo 8 applicherà in dettaglio), qualcosa di diverso dall’ambiente preso genericamente deve essere il fattore che fa la differenza. La ricerca della ricerca quantifica quanto sia raro quel qualcosa.

Due precisazioni chiudono la sezione. La prima riguarda il rapporto con il resto del percorso: l’inferenza al design tramite la complessità specificata non dipende dalla conservazione dell’informazione. Eventi specificati di piccola probabilità innescano l’inferenza indipendentemente da essa; se si riuscisse a mostrare che una macchina molecolare irriducibilmente complessa resta improbabile anche su basi darwiniane, l’inferenza sarebbe giustificata senza passare di qui. La conservazione dell’informazione interviene quando l’avversario sostiene che il processo ha reso il prodotto probabile: e risponde che allora il processo va spiegato. La seconda riguarda la distinzione fra argomento negativo e positivo. La legge è, in sé, un argomento negativo: esclude che processi casuali o ciechi paghino il costo informativo di una ricerca efficace. Il passo positivo (che l’intelligenza sia l’unica sorgente nota capace di pagarlo, come «confermato dalla pratica ingegneristica») è un’inferenza ulteriore, che poggia sull’esperienza e non sui teoremi.

10. Obiezioni

«Il NFL richiede una media uniforme su tutte le funzioni di fitness, ma le fitness biologiche sono lisce e non sono affatto tratte a caso: la conservazione dell’informazione non si applica alla biologia» (Häggström)

Olle Häggström, statistico dell’Università di Göteborg, ha formulato questa obiezione nel modo più rigoroso in Biology & Philosophy (2007). Il NFL vale mediando su una classe di funzioni chiusa per permutazioni; in tale classe, la stragrande maggioranza delle funzioni assegna valori di fitness del tutto scorrelati a genotipi vicini. Ma il mondo fisico non è così: genotipi simili producono fenotipi simili e fitness simili, per ragioni di chimica e di fisica. Le funzioni di fitness reali esibiscono clustering, cioè una regolarità che rende l’hill climbing efficace. Assumere l’uniformità sulle funzioni di fitness non è «non sapere nulla»: è affermare qualcosa di falso sulla natura. La conclusione di Häggström è che invocare il NFL contro l’evoluzione biologica è un uso improprio del teorema.

Va concesso che l’obiezione è corretta nella parte che riguarda il NFL in senso stretto: i teoremi di Wolpert e Macready parlano di medie su classi complete, e nessuno sostiene che la funzione di fitness della biologia sia estratta a caso da una tale classe. Marks, Dembski ed Ewert lo riconoscono esplicitamente quando scrivono che il paesaggio di fitness, per essere una sorgente di informazione, «deve avere una struttura utile e sfruttabile». Ma qui l’obiezione, per quanto forte contro le prime formulazioni di Dembski (2002), non tocca la versione matura della teoria. Primo, l’informazione attiva è definita rispetto a una linea di base qualsiasi: se si vuole partire da una classe di fitness già lisce, la contabilità misura quanto la ricerca fa meglio di quella classe, e la domanda si sposta un gradino più su. Secondo, e questo è il punto, la levigatezza è precisamente ciò che la ricerca della ricerca prende in esame. Dire che le fitness reali sono lisce equivale a dire che la natura ha selezionato, fra tutte le distribuzioni possibili, una di quelle che assegnano alta probabilità alle regioni funzionali. Il teorema del caso rigoroso quantifica quanto sia rara tale selezione: esponenzialmente rara nell’informazione attiva che fornisce. Häggström ha ragione che la levigatezza esiste; la conservazione dell’informazione chiede da dove venga. Terzo, l’esistenza di levigatezza locale non implica affatto percorsi praticabili verso obiettivi lontani: i dati di Axe sulla sensibilità funzionale degli enzimi, che il modulo 8 discuterà, descrivono paesaggi frastagliati proprio nella regione che conta.

«La levigatezza dei paesaggi di fitness è una conseguenza delle leggi fisiche, non di una scelta improbabile fra tutte le distribuzioni; il modello S4S è arbitrario e la sua linea di base è un’assunzione, non un fatto» (Felsenstein ed English)

Joe Felsenstein, genetista delle popolazioni, e Tom English, che ha lavorato sui teoremi NFL fin dal 1996, hanno sviluppato la versione più incisiva della critica precedente, in una serie di interventi a partire dal 2007. L’argomento ha due lati. Il primo è fisico: la ragione per cui genotipi vicini hanno fitness vicine non è un’informazione misteriosa iniettata nell’ambiente, ma il fatto che le leggi della fisica sono locali e continue; piccole modifiche chimiche hanno di norma piccoli effetti. Non c’è alcuna «ricerca della ricerca» che abbia scelto la fisica tra le alternative: la fisica è quella che è. Il secondo lato è metodologico: la distribuzione uniforme sul simplesso di tutte le distribuzioni è una scelta di modello. Sostituirla con un’altra scelta (per esempio, una distribuzione che privilegi le funzioni lisce) cambia radicalmente il risultato. Un teorema che dipende così fortemente da un’assunzione sul «prior» non può, da solo, dire nulla sulla biologia. Inoltre, osservano, i teoremi trattano l’evoluzione come ricerca di un obiettivo predefinito, mentre la selezione naturale non ha obiettivi: qualsiasi cosa aumenti la fitness va bene.

Anche qui vanno fatte concessioni esplicite. È vero che la linea di base uniforme sul simplesso è un’assunzione di modello; ed è vero che i teoremi non identificano la sorgente dell’informazione. Ma tre repliche restano in piedi. Primo, l’appello alla fisica non elimina la domanda, la trasferisce: se la levigatezza dei paesaggi biologici è un dono delle leggi fisiche, allora sono le leggi fisiche a contenere l’informazione attiva, e la questione diventa quella, ben nota, del fine-tuning. La conservazione dell’informazione non pretende di dire dove il costo sia stato pagato; pretende che sia stato pagato da qualche parte. Il letto ad acqua non sparisce perché si sposta la pressione dall’ambiente alla fisica. Secondo, l’obiezione sul prior taglia in entrambe le direzioni: chi sostiene che la classe delle fitness «naturali» sia piccola e strutturata deve fornire un’argomentazione per cui quella classe è quella giusta, e nel farlo deve mostrare che non sta introducendo di nascosto la stessa informazione che intende spiegare. Il caso debole del teorema, che non richiede il simplesso ma solo che la media delle probabilità di successo sulle ricerche disponibili coincida con la base, resta valido per una gamma molto ampia di scelte di modello. Terzo, sull’assenza di obiettivi: il formalismo non richiede che l’obiettivo sia noto in anticipo a qualcuno, solo che esista una regione dello spazio (le configurazioni funzionali) che la ricerca deve raggiungere. Dembski ed Ewert lo dicono con chiarezza: «la ricerca può essere generalizzata in modo da procedere con mezzi naturali per obiettivi naturalmente dati». Che l’obiettivo sia «qualsiasi cosa funzioni» non cambia la contabilità, se ciò che funziona è raro.

«Il trattamento dembskiano del NFL è “scritto nella gelatina”: troppo vago per essere valutato, e in ogni caso la coevoluzione ammette pranzi gratis» (Wolpert)

David Wolpert, coautore dei teoremi, ha recensito nel 2003 il libro No Free Lunch di Dembski con una frase rimasta celebre: la trattazione è «scritta nella gelatina», cioè priva del rigore che permetterebbe di dire se è giusta o sbagliata. Wolpert osservava che Dembski non aveva definito con precisione lo spazio di ricerca, la classe di funzioni di fitness e l’algoritmo; e che, in particolare, la biologia è coevolutiva (la fitness di un organismo dipende dagli altri), e nel 2005 lui stesso e Macready avrebbero dimostrato che in scenari coevolutivi esistono algoritmi superiori ad altri anche mediando su tutte le funzioni. Se la biologia rientra in questa classe, il NFL non solo non si applica, ma è formalmente violato.

Va concesso che la critica del 2003 colpiva un bersaglio reale: No Free Lunch (2002) era un’esposizione ancora qualitativa, e Dembski stesso, nell’epilogo di The Design Inference, riconosce che «alla fine degli anni Novanta e all’inizio del Duemila la conservazione dell’informazione era una nozione più qualitativa che quantitativa» e «non era ancora una teoria matematica a tutti gli effetti». La risposta è che, dopo il 2009, la gelatina si è solidificata: le definizioni di informazione endogena, esogena e attiva, i teoremi sulla ricerca della ricerca e la teoria generale del costo informativo sono stati pubblicati nella letteratura ingegneristica con revisione paritaria (IEEE Transactions on Systems, Man and Cybernetics; Journal of Advanced Computational Intelligence). Chi vuole confutarli può ora indicare quale lemma è falso. Quanto alla coevoluzione, la sezione 7 ha esposto la risposta di Ewert, Dembski e Marks: i «pranzi gratis coevolutivi» compaiono analizzando lo spazio delle fitness subordinate, che contiene informazione strutturale non pagata; al livello della fitness completa, la conservazione vale. Si può aggiungere che i lavori successivi di Montañez (2017) sulla «carestia di fortezza» rafforzano il quadro: la frazione dei problemi su cui un dato algoritmo ottiene un vantaggio di k bit rispetto alla ricerca cieca decresce esponenzialmente in k, indipendentemente dall’algoritmo.

«L’evoluzione non è una ricerca: non ha obiettivi, non ha un programmatore, e trattarla come un algoritmo è un errore di categoria»

Questa obiezione, meno tecnica ma più radicale, sostiene che l’intero formalismo è inapplicabile. La ricerca presuppone un cercatore e un obiettivo; l’evoluzione ha solo replicazione differenziale. Il ricorso al linguaggio della ricerca introduce surrettiziamente la teleologia che si pretende poi di scoprire.

Va concesso che il termine «ricerca» porta con sé connotazioni intenzionali, e che la traduzione fra il modello e la biologia richiede cura. Ma il formalismo non usa nulla di intenzionale: una ricerca, matematicamente, è una distribuzione di probabilità sullo spazio delle configurazioni indotta da un processo, e un obiettivo è un sottoinsieme di quello spazio. La popolazione, la mutazione, la selezione e l’inizializzazione sono sorgenti di informazione nel senso preciso che modificano quella distribuzione. Se l’evoluzione produce configurazioni funzionali che, sotto la distribuzione di base, hanno probabilità minuscola, allora essa è una ricerca nel senso del formalismo, e il termine «ricerca evolutiva» è del resto di uso comune nella letteratura. Rifiutare il modello non fa sparire la domanda: perché, fra tutte le dinamiche possibili su quello spazio, quella reale converge su regioni rare?

I limiti dell’argomento di questo modulo

È necessario, come sempre, dire con chiarezza che cosa questo modulo non ha dimostrato. I teoremi di conservazione dell’informazione sono risultati sulla ricerca in spazi finiti sotto ipotesi esplicite: una linea di base, uno spazio di ricerche, un criterio di successo. La loro applicazione alla biologia richiede che l’evoluzione sia rappresentabile come ricerca, che gli obiettivi funzionali siano rari sotto la base scelta e che la base sia una rappresentazione adeguata dell’ignoranza; ciascuna di queste premesse è discutibile e va difesa caso per caso, non presupposta. I teoremi dicono che il costo informativo di una ricerca efficace è stato pagato; non dicono chi lo abbia pagato né dove. Escludere il caso e la necessità cieca come pagatori è un argomento negativo; identificare l’intelligenza come pagatore è un’inferenza dalla pratica ingegneristica, non un teorema. Il limite di Basener, a sua volta, riguarda modelli matematici e simulazioni; la sua estensione alla biosfera è un’ipotesi che i dati sperimentali sostengono ma non impongono. Infine, gran parte della forza dell’argomento dipende dal fatto empirico che le configurazioni funzionali siano davvero rare nello spazio delle sequenze: senza quel dato, la contabilità in bit non ha nulla da contare. È esattamente ciò che il modulo 8 andrà a verificare, portando il calcolo dentro la biologia.

Concetti chiave

1. La conservazione dell’informazione sposta l’attenzione dai prodotti ai processi. Se un processo rende probabile ciò che a caso sarebbe improbabile, la domanda diventa che cosa renda possibile quel processo; l’informazione necessaria è stata spostata, non spiegata.
2. Il No Free Lunch dice che non esiste un algoritmo universalmente superiore, non che gli algoritmi sono equivalenti su un problema dato. Ogni algoritmo fa meglio della media su alcune classi e peggio su altre (il letto ad acqua); il risultato vale per classi di fitness chiuse per permutazioni.
3. Il principio di Bernoulli fissa la linea di base, ma l’informazione attiva non la richiede uniforme. Nel caso discreto con spazio ben definito il principio è inviolabile; la contabilità può comunque partire da qualsiasi distribuzione di riferimento.
4. Tre grandezze in bit: I_Ω = −log₂ p (endogena), I_S = −log₂ q (esogena), I₊ = log₂(q/p) (attiva). L’informazione attiva può essere negativa; Q interrogazioni cieche ne forniscono solo circa log₂ Q bit.
5. Il limite di Basener: ogni sistema dinamico evolutivo su un dominio finito tende a un’orbita ricorrente oltre la quale la fitness non cresce. Superarlo richiede una sequenza di pressioni selettive progettate, cioè informazione attiva a gradini.
6. La coevoluzione non viola la conservazione dell’informazione. I pranzi gratis coevolutivi compaiono al livello delle interrogazioni subordinate; al livello della fitness completa la legge vale.
7. La ricerca della ricerca costa almeno quanto l’informazione attiva che cerca (caso debole) ed è esponenzialmente più difficile (caso rigoroso): Ĩ_Ω ≈ e^I₊*. Trasferire la difficoltà a un livello superiore non la elimina.
8. La legge è proscrittiva e negativa. Esclude che processi ciechi paghino il costo informativo di una ricerca efficace; non identifica da sola chi lo abbia pagato, e la sua applicazione alla biologia dipende da premesse empiriche da verificare.

Per approfondire

• I limiti degli algoritmi evolutivi — l’introduzione al NFL e all’informazione attiva, con l’analisi di WEASEL, Avida ed Ev che questo modulo presuppone.
• Complessità specificata: come riconoscere matematicamente il design — il criterio sui prodotti che la conservazione dell’informazione completa sul lato dei processi.
• Esperimenti di laboratorio e i limiti osservati — l’esperimento di Lenski e altri casi in cui l’evoluzione osservata raggiunge un tetto.
• La genetica delle popolazioni e le barriere matematiche — i vincoli quantitativi sul tempo di attesa che si intrecciano con i rendimenti logaritmici delle interrogazioni multiple.
• Un universo sintonizzato — se la levigatezza dei paesaggi di fitness è un dono delle leggi fisiche, la domanda sull’origine dell’informazione si sposta al fine-tuning.
• Le obiezioni principali all’ID sull’informazione biologica — il quadro generale delle critiche, di cui quelle di Häggström, Felsenstein ed English e Wolpert sono il versante matematico.

Riferimenti

Basener, W. F. (2013). Limits of chaos and progress in evolutionary dynamics. In R. J. Marks II, M. J. Behe, W. A. Dembski, B. L. Gordon & J. C. Sanford (a cura di), Biological Information: New Perspectives (pp. 87–104). World Scientific.

Bedau, M. A., Snyder, E., Brown, C. T., & Packard, N. H. (1997). A comparison of evolutionary activity in artificial evolving systems and in the biosphere. In Proceedings of the Fourth European Conference on Artificial Life (pp. 125–134). MIT Press.

Bernoulli, J. (1713). Ars Conjectandi. Thurneysen.

Brillouin, L. (1956). Science and Information Theory. Academic Press.

Dembski, W. A. (2002). No Free Lunch: Why Specified Complexity Cannot Be Purchased without Intelligence. Rowman & Littlefield.

Dembski, W. A., & Ewert, W. (2023). The Design Inference: Eliminating Chance through Small Probabilities (2ª ed.). Discovery Institute Press.

Dembski, W. A., Ewert, W., & Marks II, R. J. (2013). A general theory of information cost incurred by successful search. In R. J. Marks II et al. (a cura di), Biological Information: New Perspectives (pp. 26–63). World Scientific.

Dembski, W. A., & Marks II, R. J. (2009). Bernoulli’s principle of insufficient reason and conservation of information in computer search. In Proceedings of the 2009 IEEE International Conference on Systems, Man and Cybernetics (pp. 2647–2652). IEEE.

Dembski, W. A., & Marks II, R. J. (2009). Conservation of information in search: Measuring the cost of success. IEEE Transactions on Systems, Man and Cybernetics, Part A: Systems and Humans, 39(5), 1051–1061.

Dembski, W. A., & Marks II, R. J. (2010). The search for a search: Measuring the information cost of higher level search. Journal of Advanced Computational Intelligence and Intelligent Informatics, 14(5), 475–486.

English, T. M. (1996). Evaluation of evolutionary and genetic optimizers: No free lunch. In L. J. Fogel, P. J. Angeline & T. Bäck (a cura di), Evolutionary Programming V (pp. 163–169). MIT Press.

Ewert, W., Dembski, W. A., & Marks II, R. J. (2012). Climbing the Steiner tree: Sources of active information in a genetic algorithm for solving the Euclidean Steiner tree problem. BIO-Complexity, 2012(1), 1–14.

Ewert, W., Dembski, W. A., & Marks II, R. J. (2013). Conservation of information in relative search performance. In Proceedings of the 45th Southeastern Symposium on System Theory (pp. 41–50). IEEE.

Ewert, W., Dembski, W. A., & Marks II, R. J. (2017). Conservation of information in coevolutionary searches. BIO-Complexity, 2017(1), 1–15.

Felsenstein, J. (2007). Has natural selection been refuted? The arguments of William Dembski. Reports of the National Center for Science Education, 27(3–4), 20–26.

Häggström, O. (2007). Intelligent design and the NFL theorems. Biology & Philosophy, 22(2), 217–230.

Igel, C., & Toussaint, M. (2003). On classes of functions for which No Free Lunch results hold. Information Processing Letters, 86(6), 317–321.

Keynes, J. M. (1921). A Treatise on Probability. Macmillan.

Marks II, R. J., Dembski, W. A., & Ewert, W. (2017). Introduction to Evolutionary Informatics. World Scientific.

Medawar, P. B. (1984). The Limits of Science. Harper & Row.

Mitchell, T. M. (1980). The need for biases in learning generalizations (Technical Report CBM-TR-117). Rutgers University, Department of Computer Science.

Montañez, G. D. (2017). The famine of forte: Few search problems greatly favor your algorithm. In Proceedings of the 2017 IEEE International Conference on Systems, Man, and Cybernetics (pp. 477–482). IEEE.

Schaffer, C. (1994). A conservation law for generalization performance. In W. W. Cohen & H. Hirsh (a cura di), Machine Learning: Proceedings of the Eleventh International Conference (pp. 259–265). Morgan Kaufmann.

Wolpert, D. H. (2003). William Dembski’s treatment of the No Free Lunch theorems is written in jello. Mathematical Reviews, MR1884094 (recensione di Dembski, No Free Lunch).

Wolpert, D. H., & Macready, W. G. (1997). No free lunch theorems for optimization. IEEE Transactions on Evolutionary Computation, 1(1), 67–82.

Wolpert, D. H., & Macready, W. G. (2005). Coevolutionary free lunches. IEEE Transactions on Evolutionary Computation, 9(6), 721–735.