Lokale KI mit Ollama & LM Studio: Offline & DSGVO-konform

Beschreibung

Dieser Kurs richtet sich an **fortgeschrittene Anwender** aus den Bereichen Datenschutz, IT-Sicherheit, Softwareentwicklung und IT-Management, die nach Wegen suchen, die Leistungsfähigkeit von Sprachmodellen zu nutzen, ohne dabei Kompromisse bei der Datensouveränität und dem Datenschutz einzugehen. Sie werden lernen, wie Sie leistungsstarke Sprachmodelle, die bislang oft nur in der Cloud verfügbar waren, **komplett lokal** auf Ihrer Hardware betreiben können. Dies ermöglicht Ihnen volle Kontrolle über Ihre Daten und gewährleistet eine **DSGVO-konforme** Nutzung von KI, da keine sensiblen Informationen an Drittanbieter übermittelt werden müssen. Der Kurs ist praxisorientiert aufgebaut und führt Sie Schritt für Schritt durch die Einrichtung und Nutzung der wichtigsten Tools wie **Ollama und LM Studio**. Angefangen bei den grundlegenden Konzepten und den **Vorteilen lokaler KI** (Datenschutz, Kosten, Grenzen) über die detaillierte **Installation und Konfiguration** beider Plattformen bis hin zur Auswahl und dem Verständnis von **Modellquantisierungen**. Ein weiterer Schwerpunkt liegt auf den **Hardwareanforderungen und Performance-Optimierungen**, um das Beste aus Ihrer lokalen Infrastruktur herauszuholen. Abschließend beleuchten wir die **Integration lokaler KI-Lösungen** in bestehende Workflows, wie lokale RAG-Systeme und die Anbindung an eigene Anwendungen, sowie die **praktische Umsetzung der DSGVO** im Kontext lokaler KI.

Curriculum