mail unicampaniaunicampania webcerca

Francesco VERDE

Insegnamento di STATISTICAL LEARNING FOR SIGNAL PROCESSING

Corso di laurea magistrale in INGEGNERIA ELETTRONICA

SSD: IINF-03/A

CFU: 6,00

ORE PER UNITÀ DIDATTICA: 48,00

Periodo di Erogazione: Primo Semestre

Italiano

Lingua insegnamento

ITALIANO

Contenuti

Metodi di apprendimento supervisionato e non supervisionato per l’elaborazione statistica dei segnali, con modellazione probabilistica e inferenza/regressione Bayesiana, deep learning (reti convoluzionali e autoencoder), reti ricorrenti e Transformer per segnali e serie temporali. Laboratorio MATLAB/Python per implementazione e validazione sperimentale su casi di studio riguardanti problemi di comunicazione e sensing.

Testi di riferimento

1. S. Theodoridis, Machine Learning: From the Classics to Deep Networks, Transformers, and Diffusion Models, Third Edition, Academic Press is an imprint of Elsevier, 2026.

2. K.P. Murphy, Probabilistic Machine Learning: An Introduction, The MIT Press Cambridge, Massachusetts London, England, 2022.

3. K.P. Murphy, Probabilistic Machine Learning: Advanced Topics, The MIT Press Cambridge, Massachusetts London, England, 2023.

Obiettivi formativi

Al termine del corso lo studente sarà in grado di modellare problemi di elaborazione dei segnali in presenza di rumore e interferenze utilizzando un’impostazione probabilistica e, ove appropriato, Bayesiana, nonché di progettare e confrontare soluzioni di apprendimento supervisionato e non supervisionato in funzione dei vincoli di prestazione e complessità. Lo studente saprà inoltre valutare correttamente le prestazioni dei metodi studiati e implementare in ambiente MATLAB/Python algoritmi di apprendimento dai segnali, applicandoli a casi di studio in ambito comunicazioni e sensing.

Prerequisiti

È richiesta familiarità con i fondamenti della Teoria dei Segnali, della Teoria della Probabilità e dei Processi Aleatori, e della Programmazione di base.

Metodi didattici

La didattica è erogata per il 100% con lezioni frontali, che includono teoria, esercitazioni numeriche ed attività laboratoriale.

Modalità di verifica dell'apprendimento

Progetto pratico e prova orale.

Altre informazioni

Informazioni aggiornate sul corso e il materiale didattico sono disponibili sul canale Teams del corso.

Programma esteso

Parte I – Fondamenti probabilistici e apprendimento dai segnali

Richiami di elaborazione statistica dei segnali e modelli di rumore. Concetti di probabilità e inferenza statistica per l’apprendimento (verosimiglianza, stima, decisione). Inferenza Bayesiana. Metriche di prestazione per segnali (errore quadratico medio, rapporto segnale-rumore, probabilità d’errore). Generalizzazione, sovradattamento (overfitting) e criteri di validazione del modello.

Parte II – Apprendimento supervisionato per l’elaborazione dei segnali

Regressione lineare e non lineare; minimi quadrati e regolarizzazione (ridge, LASSO). Regressione Bayesiana. Classificazione binaria e multiclasse (modelli discriminativi e generativi per il riconoscimento di segnali in presenza di rumore e interferenze). Support Vector Machines e metodi a nucleo (kernel) per la classificazione non lineare. Valutazione delle prestazioni: tasso di falso allarme e probabilità di rilevazione, curva caratteristica operativa del ricevitore e area sottesa.

Parte III – Apprendimento non supervisionato e rappresentazione dei segnali

Riduzione della dimensionalità e metodi a sottospazio (PCA e affini). Clustering e individuazione di strutture latenti nei dati (k-means e cenni a modelli probabilistici). Selezione/estrazione di caratteristiche e rappresentazioni tempo-frequenza. Applicazioni a problemi di signal processing: riduzione del rumore, compressione/ricostruzione e analisi esplorativa.

Parte IV – Modelli neurali e applicazioni avanzate di signal processing

Deep Learning per segnali: reti neurali profonde, principi di addestramento e regolarizzazione. Reti convoluzionali per segnali monodimensionali e bidimensionali (estrazione automatica di rappresentazioni locali e multi-scala, applicazioni a classificazione, stima e riconoscimento). Reti ricorrenti per sequenze e serie temporali (modellazione di dipendenze nel tempo, previsione e rilevamento di eventi). Autoencoder per denoising e compressione (apprendimento di rappresentazioni latenti compatte, confronto con metodi classici di filtraggio e compressione in termini di distorsione e robustezza al rumore). Transformer per segnali e serie temporali. Casi di studio applicativi in comunicazioni e sensing.

English

Teaching language

Italian

Contents

Supervised and unsupervised learning methods for statistical signal processing, including probabilistic modeling and Bayesian inference/regression, deep learning (convolutional neural networks and autoencoders), recurrent neural networks, and Transformer architectures for signal and time-series analysis. MATLAB/Python laboratory sessions for the implementation and experimental validation of case studies involving communication and sensing applications.

Textbook and course materials

1. S. Theodoridis, Machine Learning: From the Classics to Deep Networks, Transformers, and Diffusion Models, Third Edition, Academic Press is an imprint of Elsevier, 2026.

2. K.P. Murphy, Probabilistic Machine Learning: An Introduction, The MIT Press Cambridge, Massachusetts London, England, 2022.

3. K.P. Murphy, Probabilistic Machine Learning: Advanced Topics, The MIT Press Cambridge, Massachusetts London, England, 2023.

Course objectives

Upon successful completion of the course, students will be able to formulate signal processing problems in the presence of noise and interference using a probabilistic framework and, where appropriate, a Bayesian approach. They will be able to design and compare supervised and unsupervised learning solutions according to performance and computational complexity requirements. Students will also be able to evaluate the performance of the studied methods and implement signal learning algorithms in MATLAB/Python, applying them to case studies in communication and sensing applications.

Prerequisites

Familiarity with the fundamentals of Signal Theory, Probability Theory and Stochastic Processes, and basic programming concepts is expected.

Teaching methods

The course is delivered 100% through face-to-face instruction, comprising theoretical lectures, numerical exercises, and hands-on laboratory sessions.

Assessment methods

Practical project and oral examination.

Other information

Updated course information and teaching materials are available on the course Microsoft Teams channel.

Detailed syllabus

Part I – Probabilistic foundations and learning from signals

Review of statistical signal processing and noise models. Probability concepts and statistical inference for learning (likelihood, estimation, and decision theory). Bayesian inference. Performance metrics for signal processing (mean squared error, signal-to-noise ratio, and probability of error). Generalization, overfitting, and model validation criteria.

Part II – Supervised learning for signal processing

Linear and nonlinear regression; least-squares methods and regularization techniques (Ridge and LASSO). Bayesian regression. Binary and multiclass classification (discriminative and generative models for signal recognition in the presence of noise and interference). Support Vector Machines and kernel methods for nonlinear classification. Performance evaluation: false alarm rate, probability of detection, receiver operating characteristic (ROC) curves, and area under the curve (AUC).

Part III – Unsupervised learning and signal representation

Dimensionality reduction and subspace methods (Principal Component Analysis and related techniques). Clustering and latent structure discovery (k-means and an introduction to probabilistic clustering models). Feature selection and extraction, and time-frequency signal representations. Applications to signal processing problems, including noise reduction, compression and reconstruction, and exploratory data analysis.

Part IV – Neural models and advanced signal processing applications

Deep learning for signal processing: deep neural networks, training principles, and regularization techniques. Convolutional neural networks for one-dimensional and two-dimensional signals (automatic extraction of local and multiscale representations, with applications to classification, estimation, and signal recognition). Recurrent neural networks for sequences and time-series analysis (modeling temporal dependencies, prediction, and event detection). Autoencoders for denoising and compression (learning compact latent representations, with comparisons to classical filtering and compression methods in terms of distortion and robustness to noise). Transformer architectures for signal and time-series processing. Application case studies in communication and sensing systems.

facebook logoinstagram buttonyoutube logotypelinkedin logotype