LLM-Entwicklung und Deployment - Kompaktkurs in Nürnberg

BeschreibungSie lernen im kompakten Format, wie moderne LLM-Anwendungen aufgebaut und betrieben werden - von Prompt Design über RAG-Pipelines bis hin zu Deployment mit Docker, Monitoring und Governance. Der Kurs ist praxisnah und durchgängig hands-on.InhaltGrundlagen & Architektur moderner LLMs- Überblick Transformer, Kontext, Tokenisierung- Prompt Design (Zero-/Few-Shot, System Prompts)- Unterschiede zu klassischen NLP-Verfahren- Hands-on: effektive Prompts entwickelnRetrieval-Augmented Generation (RAG) Essentials- Rolle von Embeddings und Vektorsuche- Praktische Arbeit mit FAISS, ChromaDB- Integration externer Quellen über LangChain / LlamaIndex- Aufbau einer einfachen RAG-PipelineErweiterte RAG-Pipelines in der Praxis- Datenvorbereitung & semantische Abfragen- Tool-Ketten in LangChain- Query-Antwort-System mit API-Anbindung- Best Practices: Trennung von Modell- und WissenskomponenteLLMOps - Deployment & Infrastruktur- Deployment-Strategien: Hosted vs. On-Premise- Containerisierung (Docker), Frameworks (FastAPI, BentoML)- Monitoring & Logging (LangSmith, Weights & Biases, OpenTelemetry)- Prompt- & Model-ManagementLLMOps - Governance, Security & Skalierung- Sicherheit (Prompt Injection, Datenschutz, Auditierbarkeit)- Kostenkontrolle: Token-Tracking, Caching, Request-Management- CI/CD für LLM-AnwendungenAbschlussprojekt: Bau einer produktionsreifen Anwendung mit RAG, Logging, Monitoring & GuardrailsVoraussetzungenSolide Kenntnisse in Python und Grundverständnis von API-Nutzung, Machine Learning oder Cloud-Infrastruktur sind erforderlich. Erfahrung mit Tools wie Jupyter, VS Code oder Docker ist hilfreich.ZielgruppeAlle mit technischem Hintergrund, die an der Entwicklung, Integration oder dem Betrieb von LLM-basierten Anwendungen beteiligt sind - z.?B. in IT, AI, DevOps oder Produktentwicklung.