In diesem Modul werden theoretische und mathematische Grundlagen des Maschinellen Lernens sowie Methoden der Datenanalyse behandelt.
Die vermittelten Inhalte und Kompetenzen des Moduls sind für die Teilnahme am Modul Künstliche Intelligenz von Vorteil.
Ziel: Theoretische und praktische Kenntnissen über Data Analytics im Kontext Maschinellen Lernens
Übungen und praktische Optimierungsaufgaben begleitend zur Vorlesung Optimierung.
Die Übung wird mit Python durchgeführt, wahlweise auf dem eigenen Laptop oder auf PCs des Labors für Maschinelles Lernen. Erste Erfahrungen im Umgang mit Python (wie etwa in der Übung Maschinelles Lernen angeboten) werden vorausgesetzt. Die Übung findet in der zweiten Vorlesungshälfte statt.
Ziel: Vermittlung von theoretischen und praktischen Kenntnissen über Optimierungsmethoden/-kalküle im Kontext des Maschinellen Lernens (Minimierung der Fehlerfunktion)
Inhalte:
Einführung, Motivation und Modellierung
(Wiederholung) Mehrdimensionale Analysis (u.a. Gradienten einführen und verstehen, Taylorentwicklung, konvexe Funktionen, spezielle Ableitungen)
Numerische Verfahren zur Lösung von Gleichungssystemen:
Gradientenabstieg:
Kleinste Quadrate (Least Squares - LS):
Restringierte Optimierung:
Auf Wunsch: Spezielle Kapitel
M. P. Deisenroth, A. A. Faisal, C. S. Ong. Mathematics for Machine Learning. Cambridge University Press. 2020.
I. Goodfellow, Y. Bengio, A. Couville. Deep Learning. MIT Press. 2016.
J. Nocedal, S. J. Wright. Numerical Optimization. Springer. 2006.
W. H. Press, S. A. Teukolsky, W. T. Vetterling, B. P. Flannery. Numerical Recipies in C. Cambridge University Press. 2007.