Modernes Deep Learning in der Physik
Modern Deep Learning Learning for Physicists

Modul NAT3008

Diese Modulbeschreibung enthält neben den eigentlichen Beschreibungen der Inhalte, Lernergebnisse, Lehr- und Lernmethoden und Prüfungsformen auch Verweise auf die aktuellen Lehrveranstaltungen und Termine für die Modulprüfung in den jeweiligen Abschnitten.

Basisdaten

NAT3008 ist ein Semestermodul in auf das unregelmäßig angeboten wird.

Das Modul ist Bestandteil der folgenden Kataloge in den Studienangeboten der Physik.

  • Spezifischer Spezialfachkatalog Physik der kondensierten Materie
  • Spezifischer Spezialfachkatalog Kern-, Teilchen- und Astrophysik
  • Spezifischer Spezialfachkatalog Biophysik
  • Spezifischer Spezialfachkatalog Applied and Engineering Physics

Soweit nicht beim Export in einen fachfremden Studiengang ein anderer studentischer Arbeitsaufwand ("Workload") festgelegt wurde, ist der Umfang der folgenden Tabelle zu entnehmen.

GesamtaufwandPräsenzveranstaltungenUmfang (ECTS)
150 h 90 h 5 CP

Inhaltlich verantwortlich für das Modul NAT3008 ist Lukas Heinrich.

Inhalte, Lernergebnisse und Voraussetzungen

Inhalt

Since its breakthrough moment in 2012, Deep Learning has made significant strides in all aspects of society including the natural sciences. This course will over a broad overview over Deep Learning techniques for inference, i.e. deep regression and classification, as well as for generative modelling. The course starts out with a short review of the pertinent elements of statistics, machine learning and array-based programming in which we aim to distill what aspects of deep learning differentiate it from classical machine learning. Following this refresher, we will discuss a range of problem specific architectures for various data modalities such as image data, graph data, sequence data and discuss components such as attention mechanisms, residual connections, gated units etc. We will then formulate classic ML tasks such as regression and classification and generative modelling in the language of probabilistic Machine Learning and discuss gradient-based optimization. Here you will learn how to train neural networks practically. Throughout the course we will discuss how these methods are applied in fundamental physics research.

Lernergebnisse

After successful completion of the module the students are able to:

  1. Recall necessary Statistics, Learning Theory, and Array Programming
  2. Understand the Benefits of Deep Learning and Overparametrization with respect to other approaches to ML and AI.
  3. Have a Broad Overview over deep neural networks architectures (Recurrent Networks, Convolutional Networks, Attention, Transformers, Graph Neural Networks)
  4. Understand Generative Models (GANs, VAEs, Normalizing Flows, Diffusion Models, …)
  5. Understand Deep Learning Inference as Amortized Bayesian Analysis
  6. Use Differentiable Programming and Gradient-based Optimization
  7. Have an Overview over Machine Learning Frameworks
  8. Have an Overview over Applications in fundamental physics Research
  9. How to train deep neural networks for a variety of data modalities (image, sequences, structured data)

Voraussetzungen

Keine Vorkenntnisse nötig, die über die Zulassungsvoraussetzungen zum Masterstudium hinausgehen.

Lehrveranstaltungen, Lern- und Lehrmethoden und Literaturhinweise

Lehrveranstaltungen und Termine

ArtSWSTitelDozent(en)TermineLinks
VO 2 Modern Deep Learning Learning for Physicists Heinrich, L. Fr, 13:00–15:00, ZEI 0001
eLearning
UE 2 Exercise to Modern Deep Learning Learning for Physicists
Leitung/Koordination: Heinrich, L.
Termine in Gruppen

Lern- und Lehrmethoden

The course will taught using prepared lectures with intermittent periods of discussion to reflect on the material. Where applicable, we will look at live code examples and interactive visualizations in order to deepen the understanding of the discussed concepts. The various deep learning methods will then be connected to real-world applications from fundamental physics research

Medienformen

The material used in the lecture includes * slides * Jupyter Notebooks * Interactive Visualizations and will be made available publicly

Literatur

keine Angabe

Modulprüfung

Beschreibung der Prüfungs- und Studienleistungen

There will be a written exam of 90 minutes duration. Therein the achievement of the competencies given in section learning outcome is tested exemplarily at least to the given cognition level using comprehension questions and sample calculations.

For example an assignment in the exam might be:

  • Discuss how Deep Learning differentiates itself from other Types of Approaches to AI
  • What's the Bias-Variance Tradeoff?

Participation in the exercise classes is strongly recommended since the exercises prepare for the problems of the exam and rehearse the specific competencies.

Wiederholbarkeit

Eine Wiederholungsmöglichkeit wird am Semesterende angeboten.

Aktuell zugeordnete Prüfungstermine

Derzeit sind in TUMonline die folgenden Prüfungstermine angelegt. Bitte beachten Sie neben den oben stehenden allgemeinen Hinweisen auch stets aktuelle Ankündigungen während der Lehrveranstaltungen.

Titel
ZeitOrtInfoAnmeldung
Prüfung zu Modernes Deep Learning in der Physik
Mo, 17.7.2023 bis 23:55 Dummy-Termin. Wenden Sie sich zur individuellen Terminvereinbarung an die/den Prüfer(in). Anmeldung für Prüfungstermin vor 16.09.2023. // Dummy date. Contact examiner for individual appointment. Registration for exam date before 2023-Sep-16. bis 30.6.2023 (Abmeldung bis 16.7.2023)
Mo, 18.9.2023 bis 23:55 Dummy-Termin. Wenden Sie sich zur individuellen Terminvereinbarung an die/den Prüfer(in). Anmeldung für Prüfungstermin zwischen 18.09.2023 und 21.10.2023. // Dummy date. Contact examiner for individual appointment. Registration for exam date between 2023-Sep-18 and 2023-Oct-21. bis 17.9.2023
Nach oben