Gli occhi del modello CNN

Un modello CNN ha un “cervello” (la rete neurale) e gli occhi (i kernel convoluzionali). 

La scelta di quest’ultimi può influenzare drasticamente la qualità dell’output.
Il kernel determina come la rete “vede” e processa i dati. 
Immaginate una finestra scorrevole che cattura pattern locali nei dati. Nel contesto dei segnali sismici, ad esempio, un kernel più ampio può catturare meglio i pattern a bassa frequenza, mentre uno più piccolo esalta i dettagli ad alta frequenza.

Dimensione del kernel

• Kernel piccoli (3x3 o 1x3): catturano dettagli fini e sono computazionalmente efficienti

• Kernel medi (5x5 o 1x5): bilanciano dettaglio e contesto

• Kernel grandi (7x7 o superiori): catturano pattern più ampi ma richiedono più risorse

Trade-off

• Kernel più grandi → campo ricettivo più ampio ma più parametri da addestrare

• Kernel più piccoli → più efficienza ma necessitano di più layer per lo stesso campo ricettivo

Applicazione specifica

• Analisi di segnali sismici: kernel di dimensione 3-5 per bilanciare la cattura di eventi sismici e rumore

• Elaborazione audio: kernel più grandi per catturare pattern temporali estesi

• Immagini: tipicamente 3x3 per dettagli locali

Best practices

• Iniziare con kernel piccoli e aumentare se necessario

• Considerare l'uso di kernel dilated per aumentare il campo ricettivo senza aumentare i parametri

• Valutare il compromesso tra precisione e costo computazionale

• Testare diverse dimensioni di kernel nella fase di sviluppo del modello

Un'attenta considerazione di questi fattori è fondamentale per il successo del modello CNN.​​​​​​​​​​​​​​​​

Consigli per i futuri cacciatori di precursori

Per la ricerca di precursori sismici, la scelta del kernel diventa molto importante poiché si devono catturare i pattern sottili che potrebbero precedere eventi sismici significativi. 

L’approccio multi-scala con più kernel di dimensioni diverse è la scelta logicamente più giusta.

Un esempio visivo
Ho eseguito la convoluzione dell’immagine 5x5 in scala di grigi mostrata in figura con un kernel specificato 3x3. 

L’immagine risultante, mostrata qui, rappresenta le intensità dopo l’applicazione del filtro. 

Le aree più chiare indicano una maggiore risposta al filtro, suggerendo variazioni più accentuate in alcune regioni dell’immagine originale, mentre le aree più scure indicano minori cambiamenti. 

Questo può aiutare, per esempio, a evidenziare i bordi o altri pattern significativi nell’immagine.

Definizione dell'immagine 5x5 a scala di grigi
Matrice:
    [[5, 7, 2, 1, 2],
    [0, 1, 1, 3, 2],
    [4, 5, 6, 5, 5],
    [1, 2, 3, 2, 0],
    [0, 0, 0, 1, 1]]

Definizione del kernel 3x3:
    [[-1, -1, -1],
    [-1,  8, -1],
    [-1, -1, -1]]

Immagine derivante dalla compressione dello spazio dei dati: