I tempi della ricerca e i tempi della mente umana

In alcuni recenti convegni si è parlato dei rischi delle machine learning per usi militari. Sono armi hi tech in rapido sviluppo nei laboratori di ricerca militari che autonomamente valutano una minaccia e autonomamente rispondono. Ci si domanda se i leader politici sono pronti a comprendere la capacità di queste nuove armi.

La velocità della ricerca nei laboratori è molto diversa da quella di cui è capace la mente dell’individuo medio. La maggior parte delle classi politiche ha poca o nessuna vera consapevolezza delle nuove scoperte scientifiche. Quando essi vanno nei laboratori annuiscono ma solitamente comprendono poco. Perché non è il loro lavoro. Dovrebbero essere ricercatori di biologia o di elettronica o di fisica per comprendere realmente. Per cui essi affidano le decisioni su materie “difficili” ad altri.

E’ accaduto molte volte. Per esempio, nella prima guerra mondiale, le classi politiche europee conoscevano molto poco gli sviluppi tecnologici degli armamenti. Lasciarono le decisioni ai militari. Le nuove armi causarono enormi carneficine lasciando i politici sconcertati e profondamente impressionati.

Il rischio che le armi hi-tech avviino una guerra autonoma oggi è basso ma lo sviluppo tecnologico incrementerà la loro autonoma capacità decisionale. L’elettronica farà considerare questi sistemi più affidabili di un essere umano e saranno i microchip a decidere quando e come superare la borden line di un attacco e avviare una guerra decidendo la strategia e a dando ordini ma silicio, transistor e microcircuiti, anche se ben progettati non possono competere, e ancora per lungo tempo, con le capacità cerebrali.

Tutti ricordano il famoso film di Stanley Kubrick Odissea nello spazio. Il computer HAL 9000 che diviene padrone della stazione spaziale e della vita degli astronauti. Lasciando la fantasia dei film esistono molti casi reali spesso non noti. Uno dei pochi conosciuti e forse il più noto, accadde nel settembre 1983: una catastrofe fu evitata solo per l’intuito del colonnello sovietico Stanislav Petrov: l’allarme di un attacco missilistico americano segnalato dagli apparati non poteva essere veritiero. Egli non diede l’allarme, una decisione difficile e superiore al suo grado militare.

L’elettronica odierna è capace di intuire? La neurochimica non sa cosa sia l’intuizione. E poi esistono molte forme di intuizione. Senza l’ intuizione di Stanislav Petrov ci sarebbe stata la immediata reazione sovietica avviando un conflitto nucleare. E probabilmente nessuno di noi oggi potrebbe raccontarlo.

P.S.: Da tempo si parla si intelligenza artificiale. E’ una definizione ingannevole. Molti credono che le macchine agiscano come un cervello, invece, si tratta di programmi che agiscono con calcolo probabilistico e di comparazione.