Implement Generative AI engineering with Azure Databricks (DP-3028) - Online Training

Erste Schritte mit Sprachmodellen in Azure Databricks

• Einführung
• Grundlegendes zum Thema generative KI
• Grundlegendes zu großen Sprachmodellen (Large Language Models, LLMs)
• Identifizieren wichtiger Komponenten von LLM-Anwendungen
• Verwenden von LLMs für NLP-Aufgaben (Natural Language Processing, Verarbeitung natürlicher Sprache)
• Übung: Erkunden von Sprachmodellen
• Modulbewertung
• Zusammenfassung

Implementieren von Retrieval Augmented Generation (RAG) mit Azure Databricks

• Einführung
• Erkunden der wichtigsten Konzepte eines RAG-Workflows
• Vorbereiten Ihrer Daten für RAG
• Suchen relevanter Daten mit Vektorsuche
• Reranken der abgerufenen Ergebnisse
• Übung – Einrichten von RAG
• Modulbewertung
• Zusammenfassung

Implementieren einer mehrstufigen Argumentation in Azure Databricks

• Einführung
• Was sind mehrstufige Argumentationssysteme?
• LangChain erkunden
• Erkunden Sie LlamaIndex
• Erkunden von Haystack
• Erkunden des DSPy-Frameworks
• Übung – Implementieren einer mehrstufigen Begründung mit LangChain
• Modulbewertung
• Zusammenfassung

Feinabstimmung von Sprachmodellen mit Azure Databricks

• Einführung
• Was ist Feinabstimmung?
• Aufbereiten von Daten für die Feinabstimmung
• Optimieren eines Azure OpenAI-Modells
• Übung: Optimierung eines Azure OpenAI-Modells
• Modulbewertung
• Zusammenfassung

Auswerten von Sprachmodellen mit Azure Databricks

• Einführung
• Erkunden der LLM-Auswertung
• Auswerten von LLMs und KI-Systemen
• Auswerten von LLMs mit Standardmetriken
• Beschreiben von LLM-as-a-Judge für die Auswertung
• Übung: Auswerten eines Azure OpenAI-Modells
• Modulbewertung
• Zusammenfassung

Erläutern der Prinzipien für verantwortungsvolle KI für Sprachmodelle in Azure Databricks

• Einführung
• Was ist verantwortungsvolle KI?
• Identifizieren von Risiken
• Minimieren von Problemen
• Verwenden wichtiger Sicherheitstools zum Schutz Ihrer KI-Systeme
• Übung – Implementieren von verantwortungsvoller KI
• Modulbewertung
• Zusammenfassung

Implementieren von LLMOps in Azure Databricks

• Einführung
• Übergang vom herkömmlichen MLOps zu LLMOps
• Grundlegendes zu Modellimplementierungen
• Beschreiben der MLflow-Bereitstellungsfunktionen
• Verwenden von Unity Catalog zum Verwalten von Modellen
• Übung: Implementieren von LLMOps
• Modulbewertung
• Zusammenfassung

Lernziele

Dieser Kurs befasst sich mit generativen KI-Ingenieuren in Azure Databricks, wobei Spark verwendet wird, um erweiterte Sprachmodelle zu erkunden, zu optimieren, auszuwerten und zu integrieren. Es lehrt, wie Techniken wie Die Abruf-Augmented Generation (RAG) und mehrstufiges Denken implementiert werden, sowie wie Sie große Sprachmodelle für bestimmte Aufgaben optimieren und ihre Leistung bewerten. Lernende werden auch verantwortungsvolle KI-Methoden für die Bereitstellung von KI-Lösungen und das Verwalten von Modellen in der Produktion mithilfe von LLMOps (Large Language Model Operations) in Azure Databricks untersuchen.

Zielgruppen

Dieser Kurs wurde für Data Scientists, Machine Learning-Ingenieure und andere KI-Experten entwickelt, die generative KI-Anwendungen mit Azure Databricks erstellen möchten. Es richtet sich an Experten, die mit grundlegenden KI-Konzepten und der Azure Databricks-Plattform vertraut sind.