Vorlesung

Fortgeschrittene Methoden des maschinellen Lernens (FKI/FML)

Dozenten

Sprache

  • Deutsch

Vorlesung

Die Vorlesungen werden in Präsenz stattfinden. Weitere Informationen sind im Moodle-Kurs zu finden.

  • Dienstag, 12:00 - 14:00, BC 523
  • Beginn: 14. Oktober

Übung

Die Übung besteht aus einem kleinen Projekt, welches in kleinere Aufgaben aufgeteilt ist. Beginn der Präsenzveranstaltung: 17. Oktober

  • Freitags
    • 10:00 - 12:00, BC 523

Prüfung

Es gibt eine mündliche Prüfung

Themen

  • Grundlagen (Neuronale Netze) (Definitionen, verschiedene Klassen von ML, Neuronen, Layers, Neuronale Architekturen)
  • Computer Vision/Audition (Definitionen, Bildverarbeitung, Convolution, spezielle Convolutions, CNN, Spezielle Layer, Netze (LeNet, AlexNet, VGG, Inception, ResNet, SqueezeNet, DenseNet, ResNeXt, MobiNet, EfficientNet,Two-Stage (R-NN, Fast R-CNN,Faster R-CNN), Multi-Stage Detectors, YOLO, SSD, U-Net, Audio-Signal Preprocessing, Nyquist–Shannon, Spektrogramm, TasNet, Audio-Recognition)
  • Generative/Probabilistische Modelle (U-Net, Latent Variable Models (Autoencoder (AE, CAE, DAE, VAE), GAN (DCGAN, cGAN, CycleGAN, StyleGAN, W-GAN), MiniMax-Game, Autoregressive Models (PixelCNN, WaveNet, GPT), Flow-based Models (Normalizing Flow, RealNVP, Glow, FFJORD), Energy-based Models, State-Space Models)
  • Optimierung (Over/Under- Fitting, Backpropagation, SGD, NAG, Adam, AdamW)
  • Explainability (XAI, Explainability, Interpretability, Grad-CAM, LRP, XRAI, IG, LIME, SHAP)
  • NLP/LLM (NLP, N-Grams, Tokenization, BOW, tf-idf, Encoding (WordPiece, Unigram-LM, SentencePiece), Markov Models, HMM, Seq2Seq, Embedding, Postional Embedding, Transformer, Attention (Multihead, Self, Cross, Masked, Flash), Mamba, LLM (Llama, Mistral, Apertus, ChatGPT, LaMDA, PALM, Gemini, Bloom, Gopher, Chinchilla, DeepSeek), Scaling Laws, Reasoning, RAG, MoE, Hallucination, Agentic LLM)
  • Reinforcement Learning (Agent, Exploitation, Exploration, State, Action, Policy, Bellman, Policy-Gradient, Monte Carlo, TD, SARSA, REINFORCE, PPO, A2C, A3C, Q-Learning, DQN, DDQN, Hierarchical Reinforcement Learning, Feudal Neural Networks, HIRO, DIAYN, MARL)

Material & Infos

Moodle-Kurs

Für die Einschreibung ist ein Schlüssel nötig, welcher in der ersten Vorlesung bekannt gegeben wird.