Security in KI-Projekten – KI-Agenten absichern – Online Training

Künstliche Intelligenz und Sprachmodelle revolutionieren unsere digitale Welt. Doch bieten sie auch neue Angriffsflächen. In den Medien liest man von Chatbots, deren Sicherheitsmechanismen umgangen wurden, und von KI, die für Angriffe benutzt wird. Soll KI also effektiv und sicher genutzt werden, muss man sich dieser Gefahren und möglicher Sicherheitsmaßnahmen bewusst sein.

In dieser interaktiven KI-Security-Schulung lernen Sie praxisnah, wie moderne KI-Systeme angreifbar sind und vor allem effektiv gegen solche Angriffe abgesichert werden können. Anhand vieler Beispiele und Übungen analysieren Sie Schwachstellen, führen selbst Angriffe durch und lernen, wie man Gegenmaßnahmen entwickelt und welche Projektarchitekturen besonders robust gegenüber Angriffen sind.

Kursinhalt

• OWASP Top 10 for LLM and Gen AI
• Prompt Injection – Manipulation durch Sprache
• Aufgabensicherheit
• Data Poisoning
• Denial-of-Service-Angriffe
• Supply Chain Attacks im KI-Ökosystem
• Richtige Projektarchitektur – Excessive Agency als Schwachstelle
• Blindes Vertrauen vermeiden – Prüfstellen einbauen

Voraussetzungen

Grundkenntnisse in KI sind von Vorteil. Diese können z. B. in folgendem Kurs erworben werden:

KI-Tools und LLMs erfolgreich einsetzen – ChatGPT, Gemini, Claude & Co. 

Kursziel

Sie erlangen die Fähigkeit, Schwachstellen und Angriffspunkte von LLMs zu erkennen und können Angriffe wie Prompt Injection verstehen. Sie sind in der Lage, korrekte Architekturen und Sicherheitskonzepte für KI-Projekte zu entwickeln und umzusetzen.

Alternativen

Einen generellen Überblick über Einsatzmöglichkeiten und Umsetzung von KI-Projekten erhalten Sie im Kurs KI-Manager – Potenziale, Use Cases, Projekt-Know-how. Einen Überblick über die Nutzung und Funktionsweise von Sprachmodellen vermitteln wir Ihnen im Kurs KI-Tools und LLMs erfolgreich einsetzen – ChatGPT, Gemini, Claude & Co.. 

Lernziele

Sie erlangen die Fähigkeit, Schwachstellen und Angriffspunkte von LLMs zu erkennen und können Angriffe wie Prompt Injection verstehen. Sie sind in der Lage, korrekte Architekturen und Sicherheitskonzepte für KI-Projekte zu entwickeln und umzusetzen.

Zielgruppen

Diese KI-Schulung richtet sich an KI-Verantwortliche, Red-Team-Mitglieder, Sicherheitsbeauftragte und alle, die LLMs sicher einsetzen und Risiken verstehen wollen.