Corporate GPT: Maßgeschneiderter Einsatz von LLMs im Unternehmen

Integration eigener LLM, RAG-Systeme und KI-Agenten

Grundlagen

• Einführung in KI und Large Language Models (LLMs)
• Reasoning und Agenten
• Anwendungsfälle, Möglichkeiten und Nutzen eigener GPTs
• Erstellen eines Custom GPTs

Konzeption und Erstellung maßgeschneiderte Chatbots

• RAG (Retrieval-Augmented Generation) im Detail erklärt
• Einsatzszenarien im Unternehmen und Use-cases für Anwender
• Beispiele und Best-Practices etablierter Inhouse-Chatbots 
• Prompting, RAG und Finetuning im Vergleich
• Weitere Anpassungsmöglichkeiten von LLMs
• Vector Embedding und Vektor-Datenbanken
• Erstellen eines RAG-powered Chatbots

Tools, Workflows & Agents, MCP

• Workflows für komplexere Aufgaben
• Was sind Agenten und welche Technologie verbirgt sich dahinter?
• Wie Workflows und Agenten Tools verwenden
• MCP und A2A – einheitliche Agent-Schnittstellen für Tools

Design-Prinzipien für KI-Produkte

• Was macht ein gutes KI-Produkt aus?
• Best Practices für das Design von KI-Produkten
• KI als ein sich schnell wandelndes Werkzeug
• Risikomanagement im Kontext von Agentic AI
• Bottlenecks mit Logging und Metriken identifizieren
• Modell Performance mittels Benchmarks abschätzen

AI Sovereignty und Closed vs. Open Source

• Closed Source Umsetzung via API
• Open Source Umsetzung via API oder Self-Hosted
• Open Source/Open Weights vs. Closed Source Modelle
• Entscheidungsfaktoren

Kompetenzen und Umsetzung

• Agenten und Chatbots als Teil der KI-Strategie
• Datenschutz und EU AI Act im Kontext von LLMs und Agenten
• KI-Kompetenzpflicht im Kontext von LLMs und Agenten
• Teamstrukturen und Rollen
• Übung zur identifizierung von Use Cases
• Wichtiger Hinweis zur Vorinstallation von Software

Wichtiger Hinweis zur Vorinstallation von Software

In dem Seminar gibt es viele Praxisübungen, mit denen die beschriebenen Techniken erprobt werden. Diese führst du auf deinem eigenen Rechner durch. Wir empfehlen daher, am Seminar per Laptop oder PC teilzunehmen, die Verwendung eines Tablets wird nicht empfohlen.

Lerndauer: 2 Tage

Diese Veranstaltung findet vor Ort statt (aktuelle Hygienekonzepte)!

Lernziele

• Du erwirbst umfassendes Wissen über LLMs, Agentic AI und den Einsatz von KI im Unternehmenskontext

• Du lernst, wie du RAG-powered Chatbots erstellst und LLMs an deine spezifischen Unternehmensdaten anbindest.

• Du erfährst, wie du Agenten mittels Tools und Protokollen in automatisierte Workflows integrierst.

• Du verstehst, worauf es beim Design robuster KI-Produkte ankommt und wie du Risiken im Kontext von LLMs und Agenten managest.

• Du erfährst auf welche strategischen Aspekte es beim Einsatz von LLMs und Agenten im Unternehmen ankommt.

Die Inhalte dieser Weiterbildung unterstützen die Nachweispflicht zur Förderung von KI-Kompetenz im Sinne des Art. 4 EU KI-VO. 

Zielgruppen

Dieses Seminar eignet sich für Fach- und Führungskräfte, die sich mit dem Einsatz von KI-Lösungen im Unternehmen beschäftigen, sowie für Entwickler:innen aus dem Bereich der künstlichen Intelligenz und des maschinellen Lernens. In diesem Seminar wird das Gelernte direkt in die Praxis umgesetzt (hands-on): Mithilfe von No-Code/Low-Code-Tools werden eigene Workflows und Agenten erstellt. Daher werden eine technische Grundaffinität und Interesse an technischem Verständnis vorausgesetzt.