Einführung in Large Language Models
Semester
Sommersemester
Inhalte
Diese Vorlesung ist als niedrigschwelliger Einstieg in Large Language Models (LLMs) gedacht um deren grundlegende Arbeitsweise zu vermitteln. Zudem wird demonstriert wie Modelle lokal aufgesetzt und genutzt werden können. Die Themen decken folgende Bereiche ab:
- Maschinelles Lernen mit Neuronalen Netzen
- Sequenzmodellierung und Tokenization
- Transformer-Modell und Attention-Mechanismus
- Reinforcement Learning with Human in the Loop
- Effizienz von LLMs (Skalierung, Quantisierung, Distillieren von Modellen, Fine-tuning für Anwendungen)
- Fakten-Checks und LLMs als Agenten
- Erweiterung zu multi-modalen Modellen
- Aktuelle Limitierungen und offene Probleme
Die Themengebiete werden eher praxisorientiert vermittelt, ohne mathematisch zu sehr in die Tiefe zu gehen.
Moduldaten
| Wahlpflichtmodul für den B.Sc. Informatik |
| Wahlpflichtmodul für den B.Sc. Angewandte Informatik |
| Wahlpflichtmodul für den B.A. Ergänzungsfach Informatik |
| Wahlpflichtmodul für den B.Sc. Bioinformatik (Bereich Informatik) |
