Einführung in Large Language Models
Semester

Sommersemester

Inhalte

Diese Vorlesung ist als niedrigschwelliger Einstieg in Large Language Models (LLMs) gedacht um deren grundlegende Arbeitsweise zu vermitteln. Zudem wird demonstriert wie Modelle lokal aufgesetzt und genutzt werden können. Die Themen decken folgende Bereiche ab:

  • Maschinelles Lernen mit Neuronalen Netzen
  • Sequenzmodellierung und Tokenization
  • Transformer-Modell und Attention-Mechanismus
  • Reinforcement Learning with Human in the Loop
  • Effizienz von LLMs (Skalierung, Quantisierung, Distillieren von Modellen, Fine-tuning für Anwendungen)
  • Fakten-Checks und LLMs als Agenten
  • Erweiterung zu multi-modalen Modellen
  • Aktuelle Limitierungen und offene Probleme

Die Themengebiete werden eher praxisorientiert vermittelt, ohne mathematisch zu sehr in die Tiefe zu gehen.

Moduldaten
Wahlpflichtmodul für den B.Sc. Informatik
Wahlpflichtmodul für den B.Sc. Angewandte Informatik
Wahlpflichtmodul für den B.A. Ergänzungsfach Informatik
Wahlpflichtmodul für den B.Sc. Bioinformatik (Bereich Informatik)