K28 · KI-Agenten und KI in Prozessen

Lokale Sprachmodelle mit Ollama in Prozessen einsetzen

Modelle auswählen und betreiben, Hardware, Schnittstellen, Prompts für Prozessaufgaben, Datenschutz.

  • 1 Tag
  • Einstieg
  • online oder in Präsenz
  • bis 12 Personen
Hand drückt eine grün leuchtende Taste an einem Bedienpult
Symbolbild · KI-generiert

Ziele

  • Sie wählen offene Sprachmodelle passend zu Aufgabe, Hardware und Lizenz aus
  • Sie betreiben Modelle mit Ollama und binden sie über die API an
  • Sie formulieren Anweisungen für typische Prozessaufgaben
  • Sie kennen die Anforderungen an Datenschutz und Betrieb

Agenda

Vormittag

  • Offene Sprachmodelle im Überblick: Größe, Fähigkeiten, Lizenzen
  • Ollama installieren und Modelle verwalten
  • Hardware: Arbeitsspeicher, Grafikkarte, Quantisierung
  • Übung: Modelle für eine Aufgabe vergleichen

Nachmittag

  • API und OpenAI-kompatible Schnittstelle
  • Anweisungen für Klassifikation, Extraktion und Zusammenfassung
  • Strukturierte Ausgaben als JSON
  • Datenschutz und Betrieb
  • Übung: Anfragen per API klassifizieren

Voraussetzungen

Erfahrung mit der Kommandozeile. Ein Rechner mit mindestens 16 GB Arbeitsspeicher und Installationsrechten.

Zielgruppe

  • IT-Administration und Betrieb
  • Entwickler
  • KI-Verantwortliche
  • Organisationen mit hohen Datenschutzanforderungen, z. B. Verwaltung, Gesundheitswesen

Werkzeuge und Standards

  • Ollama

Bezug zu KI

Kernthema des Kurses.

KI-Agenten und KI in Prozessen

Verwandte Schulungen

Welche Schulung passt zu Ihrem Team?

Beschreiben Sie kurz Ihr Vorhaben. Wir melden uns innerhalb von 2 Werktagen und klären die Details in einem Vorgespräch.