Vertex AI and Generative AI Security (VAIGAS) - Online Training

Modul 01 - Einführung in die Sicherheitsprinzipien von Vertex AI

Themen

• Google Cloud-Sicherheit
• Vertex AI-Komponenten
• Vertex AI Sicherheitsbedenken

Zielsetzungen

• Überprüfen Sie die Grundlagen der Google Cloud-Sicherheit.
• Aufbau eines grundlegenden Verständnisses von Vertex AI.
• Aufzählung der Sicherheitsbedenken im Zusammenhang mit den Funktionen und Komponenten von Vertex AI.

Aktivitäten

• Labor: Vertex AI: Training und Bedienung eines benutzerdefinierten Modells

Modul 02 - Identitäts- und Zugriffsmanagement (IAM) in Vertex AI

Themen

• Überblick über IAM in Google Cloud

Zielsetzungen

• Kontrollieren Sie den Zugriff mit Identity Access Management.
• Vereinfachen Sie Genehmigungen durch Organisationshierarchien und Richtlinien.
• Verwenden Sie Dienstkonten für den am wenigsten privilegierten Zugriff.

Aktivitäten

• Übung: Dienstkonten und Rollen: Grundlagen

Modul 03 - Datensicherheit und Datenschutz

Themen

• Datenverschlüsselung
• Schutz sensibler Daten
• VPC-Dienst-Kontrollen
• Planung der Wiederherstellung im Katastrophenfall

Zielsetzungen

• Konfigurieren Sie die Verschlüsselung im Ruhezustand und bei der Übermittlung.
• Verschlüsseln Sie Daten mit vom Kunden verwalteten Verschlüsselungscodes.
• Schützen Sie sensible Daten mit dem Data Loss Prevention-Dienst.
• Verhindern Sie die Exfiltration von Daten mit VPC Service Controls.
• Systeme mit Blick auf die Wiederherstellung im Katastrophenfall entwickeln.

Aktivitäten

• Übung: Erste Schritte mit Cloud KMS
• Übung: Erstellen einer de-identifizierten Kopie von Daten im Cloud-Speicher

Modul 04 - Absicherung von Vertex AI-Endpunkten und Modellbereitstellung

Themen

• Sicherheit im Netz
• Absicherung von Modellendpunkten

Zielsetzungen

• ML-Modelle mithilfe von Modell-Endpunkten bereitstellen.
• Sichere Modellendpunkte.

Aktivitäten

• Übung: Privaten Google-Zugang und Cloud-NAT konfigurieren

Modul 05 - Überwachung und Protokollierung in Vertex AI

Themen

• Protokollierung
• Überwachung

Zielsetzungen

• Schreiben Sie in Protokolle und analysieren Sie diese.
• Überwachung und Alarmierung einrichten.

Modul 06 - Sicherheitsrisiken bei generativen KI-Anwendungen

Themen

• Überblick über die Sicherheitsrisiken der KI
• Überblick über die AI-Sicherheit
• Prompte Sicherheit
• LLM-Garantien

Zielsetzungen

• Identifizierung von Sicherheitsrisiken, die spezifisch für LLM und KI-Anwendungen sind.
• Methoden zur Entschärfung von Prompt-Hacking- und Injektionsangriffen zu verstehen.
• Erforschen Sie die Grundlagen der Sicherung generativer KI-Modelle und Anwendungen.
• Einführung in die Grundlagen der KI-Sicherheit.

Aktivitäten

• Labor: Absicherung mit Vertex AI Gemini API
• Labor: Gen AI & LLM Sicherheit für Entwickler

Modul 07 - Testen und Bewerten von generativen KI-Modellantworten

Themen

• Testen generativer AI-Modellantworten.
• Bewertung der Modellreaktionen.
• Feinabstimmung der LLMs.

Zielsetzungen

• Umsetzung bewährter Verfahren für das Testen von Modellantworten.
• Anwendung von Techniken zur Verbesserung der Reaktionssicherheit bei KI-Anwendungen

Aktivitäten

• Labor: Messen Sie die Leistung von Gen AI mit dem Generative AI Evaluation Service
• Labor: Unit Testing generativer KI-Anwendungen

Modul 08 - Sicherung von Retrieval-Augmented Generation (RAG)-Systemen

Themen

• Grundlagen der Retrieval-Augmented Generation
• Sicherheit in RAG-Systemen

Zielsetzungen

• Verstehen der RAG-Architektur und der Auswirkungen auf die Sicherheit.
• Umsetzung bewährter Verfahren für die Erdung und Sicherung von Datenquellen in RAG-Systemen.

Aktivitäten

• Labor: Multimodale Retrieval Augmented Generation (RAG) unter Verwendung der Vertex AI Gemini API
• Übung: Einführung in den Funktionsaufruf mit Gemini

Lernziele

• Aufbau von Grundkenntnissen über Vertex AI und die damit verbundenen Sicherheitsherausforderungen.
• Implementierung von Maßnahmen zur Identitäts- und Zugangskontrolle, um den Zugang zu Vertex AI-Ressourcen zu beschränken.
• Konfigurieren Sie Verschlüsselungsstrategien und schützen Sie sensible Informationen.
• Aktivieren Sie die Protokollierung, Überwachung und Alarmierung für die Echtzeit-Sicherheitsüberwachung von Vertex AI-Operationen.
• Identifizierung und Entschärfung einzigartiger Sicherheitsbedrohungen im Zusammenhang mit generativer KI.
• Anwendung von Testtechniken zur Validierung und Absicherung von generativen KI-Modellantworten.
• Implementierung von Best Practices zur Sicherung von Datenquellen und Antworten in Retrieval-Augmented Generation (RAG)-Systemen.
• Aufbau von Grundkenntnissen über KI-Sicherheit.

Zielgruppen

KI-Fachleute, Sicherheitsexperten und Cloud-Architekten