Pattern Analysis (PA)5 ECTS
(englische Bezeichnung: Pattern Analysis)
(Prüfungsordnungsmodul: Maschinelles Lernen für Zeitreihen)

Lehrveranstaltungen:

• • Pattern Analysis
    (Vorlesung, 3 SWS, Christian Riess, Di, Fr, 12:15 - 13:45, H16)
  • Pattern Analysis Programming
    (Übung, 1 SWS, Mathias Seuret et al.)

Empfohlene Voraussetzungen:

Es wird empfohlen, folgende Module zu absolvieren, bevor dieses Modul belegt wird:

Pattern Recognition (WS 2020/2021)

Inhalt:

This module introduces the design of pattern analysis systems as well as the corresponding fundamental mathematical methods. The topics comprise:

• clustering methods: soft and hard clustering

• classification and regression trees and forests

• parametric and non-parametric density estimation: maximum-likelihood (ML) estimation, maximum-a-posteriori (MAP) estimation, histograms, Parzen estimation, relationship between folded histograms and Parzen estimation, adaptive binning with regression trees

• mean shift algorithm: local maximization using gradient ascent for non-parametric probability density functions, application of the mean shift algorithm for clustering, color quantization, object tracking

• linear and non-linear manifold learning: curse of dimensionality, various dimensionality reduction methods: principal component analysis (PCA), multidimensional scaling (MDS), isomaps, Laplacian eigenmaps

• Gaussian mixture models (GMM) and hidden Markov models (HMM): expectation maximization algorithm, parameter estimation, computation of the optimal sequence of states/Viterbi algorithm, forward-backward algorithm, scaling

• Markov random fields (MRF): definition, probabilities on undirected graphs, clique potentials, Hammersley-Clifford theorem, inference via Gibbs sampling and graph cuts

Das Modul führt in das Design von Musteranalysesystemen sowie die zugrundeliegenden mathematischen Methoden ein. Die Vorlesung umfasst im Einzelnen:

• Clustering-Methoden: Soft- und Hard-Clustering

• Klassifikations- und Regressionsbäume/-wälder

• parametrische und nicht-parametrische Dichteschätzung: Verfahren sind ML- und MAP-Schätzung, Histogramme, Parzenschätzung, Zusammenhang gefaltete Histogramme und Parzenschätzung, adaptives Binning mit Regressionsbäumen.

• 'Mean Shift'-Algorithmus: lokale Maximierung durch Gradientenaufstieg bei nicht-parametrischen Dichtefunktionen, Anwendungen des 'Mean Shift'-Algorithmus zum Clustering, Farbquantisierung und Objektverfolgung

• Linear and Non-Linear Manifold Learning: Curse of Dimensionality, Verschiedene Methode zur Dimensionsreduktion: Principal Component Analysis (PCA), Multidimensionsional Scaling (MDS), Isomap, Laplacian Eigenmaps

• Gaußsche Mischverteilungsmodelle (GMM) und Hidden-Markov-Modelle (HMM): 'Expectation Maximization'-Algorithmus, Parameterschätzung, Bestimmung der optimalen Zustandsfolge/Viterbi-Algorithmus, Vorwärts-Rückwärts-Algorithmus, Skalierung

• Markov-Zufallsfelder: Definition, Wahrscheinlichkeiten auf ungerichteten Graphen, Cliquen-Potenziale, Hammersley-Clifford-Theorem, Inferenz mit Gibbs-Sampling und Graph Cuts

Lernziele und Kompetenzen:

The students

• explain the discussed methods for classification, prediction, and analysis of patterns,

• compare and analyze methods for manifold learning and select a suited method for a given set of features and a given problem,

• compare and analyze methods for probability density estimation and select a suited method for a given set of features and a given problem,

• apply non-parametric probability density estimation to pattern analysis problems,

• apply dimensionality reduction techniques to high-dimensional feature spaces,

• explain statistic modeling of feature sets and sequences of features,

• explain statistic modeling of statistical dependencies,

• implement presented methods in Python,

• supplement autonomously the mathematical foundations of the presented methods by self-guided study of the literature,

• discuss the social impact of applications of pattern analysis solutions.

Die Studierenden

• erläutern die behandelten Methoden zur Klassifikation, Vorhersage und Analyse von Mustern,

• vergleichen und analysieren Methoden des Manifold Learning und wählen für eine vorgegebene Fragestellung eine geeignete Methode aus,

• vergleichen und analysieren Methoden zur Dichteschätzung und wählen für eine vorgegebene Fragestellung eine geeignete Methode aus,

• wenden nicht-parametrische Dichteschätzung auf Probleme der Musteranalyse an,

• wenden Dimensionsreduktion bei hochdimensionalen Merkmalsräumen an,

• erläutern statistische Modellierung von Merkmalsmengen und Merkmalsfolgen,

• erklären statistische Modellierung abhängiger Größen,

• implementieren vorgestellte Verfahren in Python.

• ergänzen eigenständig mathematische Grundlagen der präsentierten Methoden durch selbstbestimmtes Studium der Literatur

• diskutieren die gesellschaftlichen Auswirkungen von Anwendungen der Musteranalyse

Literatur:

Begleitende Literatur / Accompanying literature:

• C. Bishop: Pattern Recognition and Machine Learning, Springer Verlag, Heidelberg, 2006
  

• T. Hastie, R. Tibshirani und J. Friedman: The Elements of Statistical Learning, 2nd Edition, Springer Verlag, 2009
  

• A. Criminisi and J. Shotton: Decision Forests for Computer Vision and Medical Image Analysis, Springer, 2013

Organisatorisches:

Please join the associated studOn class: https://www.studon.fau.de/crs2955878.html

Weitere Informationen:

Studien-/Prüfungsleistungen: