Generative AI in Production (GAIP) - Online Training

Modul 1 – Einführung in generative KI in der Produktion

Themen:

• Generative KI-Operationen
• Traditionelles MLOps vs. GenAIOps
• Komponenten eines LLM-Systems
• RAG/ReAct-Architektur

Ziele:

• Generative KI-Prozesse verstehen
• Vergleich zwischen traditionellem MLOps und GenAIOps
• Analysieren Sie die Komponenten eines LLM-Systems.
• RAG und ReAct definieren und vergleichen

Modul 2 – Einsatz generativer KI-Anwendungen

Themen:

• Optionen für die Anwendungsbereitstellung
• Bereitstellung, Paketierung und Versionierung

Ziele:

• Bewertung der Optionen für die Anwendungsbereitstellung
• Apps bereitstellen, verpacken und versionieren

Aktivitäten:

• Labor: Bereitstellung einer agentenbasierten Anwendung auf Cloud Run

Modul 3 – Generative KI in die Produktion bringen

Themen:

• Wartung und Aktualisierungen
• Prüfung und Bewertung
• CI/CD-Pipelines für KI-gestützte Apps

Ziele:

• LLM-Modelle pflegen und aktualisieren
• Testen und bewerten Sie KI-gestützte Apps
• CI/CD-Pipelines für generative KI-gestützte Anwendungen bereitstellen

Aktivitäten:

• Labor: Versionsverfolgung generativer KI-Anwendungen

Modul 4 – Sicherung generativer KI-Anwendungen

Themen:

• Sicherheitsherausforderungen
• Sofortige Sicherheit
• Schutz sensibler Daten und DLP-API
• Modellpanzerung

Ziele:

• Sicherheitsherausforderungen für allgemeine KI-Anwendungen identifizieren
• Aktuelle Sicherheitsprobleme verstehen
• Anwendung von sensiblen Daten und DLP-API
• Modellpanzerung implementieren

Aktivitäten:

• Labor: Sicherung generativer KI-gestützter Anwendungen

Modul 5 – Beobachtbarkeit für LLM-Systeme in der Produktion

Themen:

• Cloud-Betrieb
• Cloud-Protokollierung
• Überwachung
• Cloud-Verfolgung
• Agentenanalyse und AgentOps
• Alles zusammenfügen

Ziele:

• Beschreiben Sie den Zweck und die Funktionen von Google Cloud Observability.
• Erläutern Sie den Zweck von Cloud Monitoring.
• Erläutern Sie den Zweck von Cloud Logging.
• Erläutern Sie den Zweck von Cloud Trace.

Aktivitäten:

• Labor: Protokollierung, Überwachung und Agentenanalyse

Lernziele

• Verstehen Sie die Herausforderungen bei der Produktionsreife von Anwendungen mit generativer KI.
• Verwaltung von Experimenten und Evaluierungen für LLM-gestützte Anwendungen
• LLM-basierte Anwendungen in die Produktion bringen
• Sichere generative KI-Anwendungen
• Implementierung von Protokollierung und Überwachung für LLM-gestützte Anwendungen

Zielgruppen

Entwickler, DevOps-Ingenieure und Machine-Learning-Ingenieure, die GenAI-basierte Anwendungen operationalisieren möchten