KI im Keller – Grundlagen und Praxisbeispiele

Wie kann ich eine KI mit meinen Daten in Theorie und Praxis lokal betreiben? Welche Hard- und Software benötige ich dafür? Auf diese und viele weitere Fragen gehen wir im Rahmen des Seminars in Theorie und Praxis ein.

Grundlagen und Aufbau eines PoC-Setups 

• Grundlagen und Funktionsweise von LLMs und Co.

• Open-Source-Toolchain für eine OnPremises-KI (OpenWebUI, Ollama etc.)

• Demonstration des Basissystems der OnPremise-KI

Prompting

• Grundlagen Prompting

• Praxisbeispiele

• Übersicht und Unterschiede von frei verfügbaren LLMs

• Beispiele und Demonstrationen im PoC-Setup

Tools – Wissen / Suche

• Grundlagen Wissen (Internetsuche/Wissensbasis)

• Retrieval Augmented Generation (RAG)

• Umsetzung in OpenWebUI

• Beispiele

Betrieb von KI im eigenen RZ

• Hardware für moderne KI

• Vernetzung und Storage

• Herausforderungen für die Infrastruktur

Customizing / Toolbuilding

• Funktionen in OpenWebUI

• Aufbau von Produktivsystemen

• Beispiele

Bildgenerierung

• Grundlagen Bildgenerierung

• ComfyUI

• Integration in OpenWebUI

• Beispiel

Diskussion / Ausprobieren / Testen (30min)

Lernziele

• PoC-Aufbau

• Praxiserfahrung mit lokaler KI

• Theorie und Praxis mit KI

Zielgruppen

• Betreiber

• Administratoren

• Projektleiter

• Planer

• Rechenzentrumsleiter

• Entscheider

• Führungskräfte

Dieses Seminar richtet sich an alle, die erfahren möchten, wie eine KI mit eigenen Daten lokal betrieben werden kann und welche Hard- und Software hierfür benötigt wird