- Überblick
- Kurze Einführung in das Thema neuronale Netze
- Multilayer Perzeptron
- Motivation: Analogie zu Neuronenstruktur/Nervensystem in Lebewesen
- Intuitionen zu Deep Layers, Gewichten, Aktivierungsfunktionen
- Einführung LLMs
- Generative AI vs. Discriminative AI
- Überblick über die Struktur
- GPT = Generative Pre-trained Transformer
- Embeddings, Attention, Temperature
- Anwendungsfälle
- Anbindung von LLMs mit LangChain4j zur Inferenz
- Grundlagen
- AiServices
- Input (System Message, User Message, Prompt Templates)
- (Structured) Output
- Response Streaming
- Memory
- Retrieval Augmented Generation (RAG)
- Tools/Function calling
- Quarkus Integration
- Gefahren und Probleme
- LLMs als stochastische Maschine ohne formale Logik
- Halluzinationen
- Prompt Injection
- Excessive Agency
LernzieleSie verstehen die Grundlagen und Funktionsweise von Language Models (LLMs) und deren Integration in Jakarta EE mittels LangChain4j. Sie erlernen den Aufbau von Systemen, die LLMs effektiv nutzen können, und setzen erste Projekte um.
ZielgruppenDieser Kurs richtet sich an Software-Entwickler*innen, die LLMs zur Inferenz an Enterprise Anwendungen anbinden möchten.
Es werden Grundkenntnisse in Java und Jakarta EE vorausgesetzt.