Qual è la Definizione Matematica di una Rete Neurale e Come si Collega ai Metodi Statistici?

Una Rete Neurale è un modello astratto che imita il funzionamento del cervello umano, composto da più strati interconnessi. Questi strati sono formati da unità, che simboleggiano i neuroni biologici, e sono collegate tra loro tramite pesi che rappresentano le sinapsi. Quando un neurone riceve un segnale che supera una certa soglia, invia un impulso ai neuroni successivi attraverso queste connessioni ponderate. Il concetto alla base di una rete neurale è la capacità di apprendere dai dati. Inizialmente, il modello non possiede alcuna informazione esplicita; durante la fase di addestramento, tuttavia, le connessioni tra i neuroni vengono regolate in modo che la rete risolva nel miglior modo possibile il problema assegnato.

Questa capacità di apprendimento distingue le Reti Neurali dai metodi statistici basati su regole, che operano in modo deterministico e non sono in grado di adattarsi ai dati in maniera autonoma. Durante l'addestramento, la rete fornisce un'uscita che viene confrontata con i dati osservati, e le connessioni interne vengono modificate per migliorare la prestazione del modello. Il processo è iterativo, con la rete che "impara" a risolvere problemi in situazioni sconosciute basandosi sull’esperienza acquisita in precedenza.

Per comprendere pienamente le reti neurali, è essenziale una conoscenza di base di algebra lineare e analisi. Molti concetti matematici di base sono alla base delle operazioni che una rete neurale compie durante l’addestramento. Un esempio è la definizione di matrice positiva definita o semi-definita, che riguarda il comportamento dei pesi nelle connessioni tra i neuroni. Queste proprietà matematiche influenzano la stabilità e l'efficacia dell'apprendimento in una rete neurale.

Nel contesto dell’analisi delle reti neurali, un altro concetto fondamentale è l'analisi delle componenti principali (PCA), che aiuta a ridurre la dimensionalità dei dati e a migliorare l'efficienza computazionale delle reti. La connessione tra PCA e le reti neurali è evidente nel caso dell'autoassociazione, dove una rete neurale viene addestrata a ricostruire l'input. In questo caso, la decomposizione in valori singolari (SVD) gioca un ruolo importante nell’analisi e nell’ottimizzazione della rete.

In aggiunta a questi concetti matematici, la comprensione delle proprietà statistiche delle reti neurali è cruciale. La gestione di bias e varianza, ad esempio, è un aspetto importante del loro funzionamento. Il bias è la tendenza di un modello a fare previsioni sistematicamente errate, mentre la varianza si riferisce alla sensibilità del modello ai cambiamenti nei dati di input. Una rete neurale ben addestrata deve trovare un equilibrio tra questi due fattori per evitare fenomeni di overfitting o underfitting.

Le reti neurali sono particolarmente potenti nei problemi di regressione, dove l'obiettivo è modellare una relazione tra variabili continue. In questo caso, l'approccio più comune è l'uso di un percettrone multilayer, che può apprendere funzioni non lineari complesse. Un percettrone multilayer viene addestrato utilizzando algoritmi come il backpropagation, che consente di aggiornare i pesi attraverso l'ottimizzazione di una funzione di perdita, come l'errore quadratico medio.

È importante ricordare che le Reti Neurali non sono una panacea universale. Sebbene siano straordinariamente potenti, richiedono una quantità significativa di dati per essere addestrate correttamente. Inoltre, le loro prestazioni dipendono fortemente dalla scelta dell'architettura, dei parametri di addestramento e della qualità dei dati utilizzati. La ricerca continua ad esplorare nuove tecniche, come le reti neurali convoluzionali per il riconoscimento delle immagini o le reti neurali ricorrenti per il trattamento delle sequenze temporali, che estendono ulteriormente le capacità di apprendimento delle reti neurali.

Come applicare le reti neurali per la previsione dei tempi di blocco nel trasporto aereo: un approccio pratico

Nel contesto delle reti neurali, un aspetto fondamentale è la gestione dei dati anomali, o outliers, che possono compromettere l'accuratezza delle previsioni. Un esempio di questo si verifica quando il tempo di blocco effettivo supera di gran lunga il tempo di blocco programmato. Questo tipo di disallineamento può essere causato da circostanze eccezionali, come condizioni meteorologiche impreviste o scioperi, ma si tratta di situazioni rare che non forniscono informazioni utili per ottimizzare i modelli. Infatti, queste anomalie potrebbero ostacolare il processo di apprendimento della rete, generando perdite elevate che distorcono il modello. Di conseguenza, è essenziale identificare e rimuovere tali outliers.

Una volta eliminati gli outliers, possiamo procedere con la divisione dei dati. Per testare la capacità predittiva dei modelli sui dati sconosciuti, è necessario suddividere il nostro dataset in due set distinti: l'80% dei dati sarà utilizzato per l'addestramento, mentre il restante 20% servirà per il test. Prima di alimentare i dati nella rete neurale, è essenziale centrarli, in quanto il vettore di bias ottimale per i dati di input è quello che ne centri la distribuzione. Ciò migliora l'efficacia della rete, specialmente in modelli complessi come il Perceptron Multistrato (MLP).

Per risolvere il problema di regressione relativo alla previsione dei tempi di blocco, abbiamo costruito quattro modelli di rete neurale, ognuno con un'architettura differente, per osservare come ciascuno apprende dai dati di addestramento e come si comporta sui dati di test. I modelli includono: un modello semplice con due strati nascosti, uno più profondo con quattro strati, uno più largo con due strati molto ampi e un modello che integra l'analisi principale con una rete lineare e non lineare combinata. Tutti i modelli sono progettati per restituire un output di dimensione uno, poiché si tratta di un problema di regressione.

Durante la fase di addestramento, abbiamo utilizzato la funzione di attivazione ReLU (g(s) = max(0, s)), che è molto diffusa in questo tipo di modelli per le sue proprietà di non linearità e facilità di calcolo. Inoltre, la funzione di perdita adottata è l'errore quadratico medio, e l'ottimizzatore scelto è Adam, un'implementazione del metodo di discesa del gradiente stocastico. Per evitare fenomeni di overfitting, abbiamo impostato una condizione di stop dell'addestramento se l'errore non migliorava dopo cinque epoche consecutive, e abbiamo dedicato il 20% dei dati di addestramento a un set di validazione.

Durante il training, abbiamo osservato che il modello più largo ha una performance migliore rispetto agli altri, raggiungendo un errore assoluto medio di 5,445 minuti dopo 43 epoche, rispetto al modello semplice che ha raggiunto un errore di 5,562 e al modello più profondo che ha ottenuto 5,682 minuti. Questo suggerisce che un dataset ridotto potrebbe richiedere una rete più ampia per imparare in modo più efficiente.

Una volta completato l'addestramento, i modelli sono stati applicati ai dati di test, cioè ai voli passati per i quali erano disponibili i tempi effettivi di blocco. Questa fase è cruciale per testare la capacità del modello di fare previsioni sui dati non visti durante l'addestramento. L'interesse non è solo minimizzare l'errore di previsione, ma anche scegliere il modello che predice in modo conservativo, tendendo a sovrastimare piuttosto che sottostimare i tempi di blocco. Ciò è importante per evitare ritardi nei voli successivi.

I risultati dell'analisi sui modelli mostrano che il modello semplice e quello più ampio, pur avendo prodotto un errore assoluto minore, tendono a sottostimare i tempi di blocco, con un errore che supera frequentemente i 10 minuti. In particolare, il modello più profondo si è comportato meglio, con solo l'8,62% delle previsioni che erano troppo brevi. Questo è un aspetto importante per evitare la creazione di ritardi nelle operazioni successive, facendo del modello più profondo la scelta migliore per questo tipo di applicazione.

La valutazione finale ha quindi dimostrato che, nonostante l'architettura più profonda possa sembrare più complessa, essa è stata la più adatta per il nostro scopo, in quanto fornisce una previsione più affidabile e sicura, prevenendo potenziali problemi operativi.