Eigene KI lokal betreiben – Diese vier Tools solltest du kennen: Jan, OpenHands, n8n & Open WebUI

Lokale KI-Lösungen werden immer leistungsfähiger und bieten eine interessante Alternative zu cloudbasierten Diensten. Programme wie Jan, OpenHands, n8n und Open WebUI ermöglichen es, KI-Modelle auf dem eigenen Rechner auszuführen, Arbeitsabläufe zu automatisieren oder sogar komplexe Aufgaben von einem KI-Agenten erledigen zu lassen – oft kostenlos und mit voller Kontrolle über die eigenen Daten.

Doch wofür eignen sich diese Programme eigentlich? Wo liegen ihre Stärken, und welche Unterschiede gibt es zwischen ihnen? In diesem Artikel habe ich mir die verschiedenen Lösungen angesehen und zeige, was man mit Jan, OpenHands, n8n und Open WebUI in der Praxis machen kann und wie du eine eigene KI lokal betreiben kannst. Dabei geht es sowohl um typische Anwendungsfälle als auch um die Frage, für wen sich die jeweilige Software am besten eignet.

Cyber Security Tipps

Wofür eignet sich Jan?

Jan ist eine kostenlose Open-Source-KI-Anwendung für Windows, macOS und Linux. Man kann sie sich als einen lokalen ChatGPT-Client vorstellen, der mit Modellen wie Qwen, Llama, Gemma oder Mistral arbeitet – und zwar auf dem eigenen Rechner. Jan eine der einfachsten Möglichkeiten, lokale KI zu nutzen.

Funktionen und Einsatzmöglichkeiten

  • Mit einer KI chatten – komplett lokal, ohne Daten an einen Cloud-Dienst zu senden.
  • Texte schreiben, umformulieren oder übersetzen.
  • PDFs, Word-Dateien und Textdateien analysieren (je nach Version und Erweiterungen).
  • Programmierhilfe erhalten (Python, JavaScript, C#, HTML usw.).
  • E-Mails, Bewerbungen oder Berichte verfassen.
  • Dokumente in andere Sprachen übersetzen.
  • Eigene Wissensquellen einbinden (RAG), sodass die KI Fragen zu deinen Dokumenten beantworten kann.
  • Mit lokalen oder externen Modellen arbeiten, z. B. über Ollama.

Jan ist kein autonomer KI-Agent:

  • Klickt sich nicht selbstständig durch Webseiten.
  • Steuert nicht automatisch Maus und Tastatur.
  • Installiert oder startet keine Programme eigenständig.
  • Führt keine längeren Aufgaben im Hintergrund selbstständig aus.

Für solche Funktionen brauchst du zusätzliche Agenten-Software oder Automatisierungstools.

Für wen eignet sich Jan?

Jan ist eine gute Wahl, wenn du:

  • einen kostenlosen ChatGPT-Ersatz suchst,
  • deine Daten möglichst lokal behalten möchtest,
  • mit Open-Source-Modellen experimentieren willst,
  • ohne komplizierte Einrichtung loslegen möchtest.

Wenn du einen „echten“ KI-Agenten möchtest

Falls dein Ziel so etwas ist wie:

  • „Lies meine E-Mails und fasse sie zusammen.“
  • „Durchsuche einen Ordner und sortiere Dokumente.“
  • „Bearbeite Dateien automatisch.“
  • „Programmiere ein Projekt und teste es.“

dann sind Werkzeuge wie OpenHands, n8n (für Automatisierungen) oder Kombinationen aus Ollama + Agentensoftware besser geeignet als Jan allein.

Cyber Security Tipps

Wofür eignet sich OpenHands?

OpenHands ist ein Open-Source-KI-Agent, der deutlich mehr kann als ein normaler Chatbot. Statt nur Antworten zu schreiben, kann er – je nach Konfiguration – Code bearbeiten, Dateien verwalten und Terminalbefehle ausführen. Mit OpenHands erhältst du einen lokalen KI-Agenten, der kleinere Entwicklungs- und Automatisierungsaufgaben ohne laufende Kosten erledigen kann.

Funktionen und Einsatzmöglichkeiten

Programmieren

  • Ganze Projekte erstellen
  • Bestehenden Code analysieren
  • Fehler finden und beheben
  • Unit-Tests schreiben
  • Dokumentation erstellen

Dateien bearbeiten

  • Dateien lesen
  • Dateien erstellen
  • Dateien umbenennen
  • Ordner durchsuchen
  • Konfigurationsdateien anpassen

Terminal nutzen:

  • Shell-Befehle ausführen
  • Python-Skripte starten
  • Git-Befehle verwenden
  • Pakete installieren
  • Logs auswerten

Daten analysieren

  • CSV-Dateien auswerten
  • Diagramme erstellen
  • Python-Skripte schreiben
  • Daten bereinigen

Mit Webseiten arbeiten

  • Aufgaben im Browser automatisieren
  • Formulare ausfüllen
  • Informationen aus Webseiten auslesen

Welche Aktionen möglich sind, hängt von der jeweiligen Konfiguration und den verfügbaren Tools ab.

Praktische Beispiele

Du könntest OpenHands Anweisungen geben wie:

  • „Schreibe ein Python-Programm, das alle PDFs in diesem Ordner nach Rechnungsnummern durchsucht.“
  • „Analysiere dieses Git-Projekt und erkläre seine Architektur.“
  • „Finde den Fehler in meinem Java-Programm und behebe ihn.“
  • „Erstelle aus dieser CSV-Datei eine Auswertung mit Diagrammen.“
  • „Schreibe Tests für alle Funktionen im Projekt.“

Was OpenHands nicht automatisch kann

OpenHands arbeitet nicht unbegrenzt selbstständig und führt nicht ohne Weiteres beliebige Aktionen auf deinem Rechner aus. Es benötigt die passenden Werkzeuge und Berechtigungen. Außerdem solltest du vorgeschlagene Änderungen und ausgeführte Befehle überprüfen, besonders wenn sie Dateien verändern oder Programme installieren.

Cyber Security Tipps

Wofür eignet sich n8n?

n8n ist kein KI-Modell, sondern eine Automatisierungsplattform. Du kannst damit Arbeitsabläufe („Workflows“) erstellen, die Programme, Webseiten und KI miteinander verbinden, ähnlich wie Zapier oder Make, aber als Open-Source-Lösung auch lokal auf deinem Rechner. In Kombination mit KI wird n8n besonders leistungsfähig.

Funktionen und Einsatzmöglichkeiten

E-Mails automatisieren

  • Neue E-Mails überwachen
  • Rechnungen automatisch speichern
  • Anhänge sortieren
  • KI Zusammenfassungen erstellen
  • Antworten entwerfen

Dokumente auswerten

Du legst eine PDF in einen Ordner, n8n kann dann automatisch:

  1. PDF erkennen
  2. Text auslesen
  3. KI analysiert den Inhalt
  4. Daten in Excel speichern
  5. Benachrichtigung senden

Eigener Chatbot

Du kannst einen Chatbot bauen, der:

  • deine Dokumente kennt
  • Fragen beantwortet
  • lokal mit Ollama arbeitet
  • keine Cloud benötigt

Webseiten überwachen

Beispielsweise:

  • Preisänderungen erkennen
  • neue Stellenanzeigen finden
  • neue Nachrichten sammeln
  • Änderungen an Webseiten melden

Excel automatisieren

n8n kann:

  • Excel-Dateien lesen
  • Daten filtern
  • Diagramme erstellen
  • CSV erzeugen
  • Berichte automatisch verschicken

Smart Home

n8n kann mit vielen Systemen kommunizieren, z. B.:

  • Home Assistant
  • MQTT
  • Philips Hue
  • Shelly
  • Zigbee-Gateways (je nach Integration)

Beispiel: „Wenn die Haustür geöffnet wird, schalte das Licht ein und sende eine Nachricht.“

KI-Agent

Mit einem lokalen Modell (z. B. Qwen über Ollama) kann n8n:

  • Dokumente lesen
  • Texte schreiben
  • Code erzeugen
  • Zusammenfassungen erstellen
  • Entscheidungen anhand von Regeln treffen
  • Informationen aus verschiedenen Quellen kombinieren

Unterstützte Dienste

n8n bietet Integrationen für Hunderte von Diensten, darunter:

  • Gmail
  • Outlook
  • Google Drive
  • Dropbox
  • Nextcloud
  • GitHub
  • Discord
  • Slack
  • Telegram
  • Notion
  • PostgreSQL
  • MySQL
  • SQLite
  • Ollama
  • OpenAI
  • Anthropic
  • und viele weitere

Außerdem kannst du eigene HTTP-APIs einbinden oder JavaScript-Code ausführen.

Kombination, die gut funktionieren

  • n8n → steuert den Workflow
  • Ollama → führt das lokale Sprachmodell aus
  • Qwen3 → beantwortet Fragen und verarbeitet Texte
  • Jan oder Open WebUI → zum direkten Chatten mit dem Modell

Damit kannst du dir einen persönlichen Assistenten bauen, der beispielsweise E-Mails verarbeitet, PDFs analysiert, Dateien organisiert und Berichte erstellt – alles lokal auf deinem eigenen Rechner.

Cyber Security Tipps

Wofür eignet sich Open WebUI?

Open WebUI ist eine Weboberfläche für KI-Modelle. Man kann sie sich wie eine eigene ChatGPT-Webseite vorstellen, die auf dem eigenen PC läuft und mit lokalen Modellen (z. B. über Ollama) oder Cloud-Modellen verbunden werden kann.

Funktionen und Einsatzmöglichkeiten

Mit lokalen KI-Modellen chatten

Zum Beispiel mit:

  • Qwen3
  • Llama
  • Gemma
  • Mistral

Deine Unterhaltungen bleiben lokal, wenn du nur lokale Modelle verwendest.

Dokumente hochladen

Du kannst Dateien hochladen, z. B.:

  • PDF
  • Word
  • TXT
  • Markdown

Anschließend kannst du Fragen dazu stellen:

  • „Fasse dieses Dokument zusammen.“
  • „Welche Fristen stehen in diesem Vertrag?“
  • „Erstelle eine Liste aller genannten Personen.“

Eigene Wissensdatenbank (RAG)

Du kannst Dokumente als Wissensbasis hinterlegen, z. B.:

  • Handbücher
  • Verträge
  • Firmenrichtlinien
  • Bücher
  • technische Dokumentation

Dann kannst du Fragen stellen wie: „Wie richte ich VPN laut unserem Handbuch ein?“ Die Antworten basieren auf deinen Dokumenten.

Mehrere Modelle verwalten

Du kannst verschiedene Modelle installieren und je nach Aufgabe wechseln, z. B.:

  • Qwen3 → Programmieren
  • Gemma → Übersetzungen
  • Llama → Allgemeine Fragen

KI-Assistent

Open WebUI eignet sich gut für:

  • Briefe schreiben
  • E-Mails formulieren
  • Übersetzungen
  • Zusammenfassungen
  • Programmierung
  • Erklärungen

Mehrere Benutzer

Du kannst Benutzerkonten anlegen und Rechte vergeben. Das ist praktisch für kleine Teams.

Erweiterungen und Werkzeuge

Je nach Version kannst du Funktionen wie Websuche, Bildverarbeitung oder Anbindungen an andere Dienste aktivieren. Welche Möglichkeiten verfügbar sind, hängt von der installierten Version und den eingerichteten Erweiterungen ab.

Was Open WebUI nicht ist

Open WebUI ist kein eigenständiges KI-Modell und kein autonomer Agent. Es ist die Oberfläche.

Man kann sich die Rollen so vorstellen:

  • Ollama = Motor (führt das Modell aus)
  • Qwen3 = Gehirn (das Sprachmodell)
  • Open WebUI = Cockpit (die Benutzeroberfläche)

Kombination mit n8n

Viele nutzen folgende Aufteilung:

  • Open WebUI → zum Chatten mit der KI
  • n8n → für automatische Workflows
  • Ollama → stellt das lokale Modell bereit

Beispiel:

  1. n8n überwacht einen Ordner.
  2. Eine neue PDF wird erkannt.
  3. n8n schickt sie an Ollama.
  4. Das Modell erstellt eine Zusammenfassung.
  5. Das Ergebnis wird gespeichert und erscheint in Open WebUI oder wird per E-Mail weitergeleitet.

Lohnt sich Open WebUI für dich?

Wenn du einen kostenlosen, lokalen ChatGPT-Ersatz möchtest, ist Open WebUI eine sehr gute Wahl. Falls dein Ziel ein persönlicher KI-Assistent ist, wäre die Kombination Ollama + Qwen3 + Open WebUI + n8n eine solide Grundlage, die du später schrittweise erweitern kannst.

Welche Hardware wird wird für Jan, OpenHands, n8n und Open WebUI benötigt?

Nicht jedes KI-Tool stellt die gleichen Anforderungen an den Computer. Während einige Programme bereits auf einem älteren PC problemlos laufen, benötigen andere deutlich mehr Arbeitsspeicher oder eine leistungsfähige Grafikkarte. Die folgenden Angaben dienen als Orientierung für den Einstieg.

Welche Hardware benötigt Jan?

Jan ist vergleichsweise ressourcenschonend und eignet sich gut für Einsteiger, die lokale KI-Modelle nutzen möchten.

Mindestvoraussetzungen:

  • Windows 10 oder Windows 11 (alternativ macOS oder Linux)
  • 8 GB RAM
  • Dual-Core-Prozessor
  • Etwa 10 GB freier Festplattenspeicher

Empfohlen:

  • 16 GB RAM oder mehr
  • NVIDIA-Grafikkarte (optional, beschleunigt die Verarbeitung)
  • SSD

Mit 8 GB Arbeitsspeicher lassen sich kleinere Modelle wie Qwen3 1.7B oder ähnliche Modelle gut nutzen.

2. Welche Hardware benötigt OpenHands?

OpenHands selbst benötigt nur wenige Ressourcen. Entscheidend ist jedoch das KI-Modell, das im Hintergrund verwendet wird.

Mindestvoraussetzungen:

  • Windows 10 oder Windows 11 (oft über Docker oder WSL eingerichtet)
  • 8 GB RAM
  • Mehrkernprozessor
  • Ollama oder ein anderer Modellserver

Empfohlen:

  • 16 bis 32 GB RAM
  • NVIDIA-Grafikkarte mit mindestens 8 GB VRAM
  • SSD

Für kleinere Programmierprojekte reichen 8 GB RAM aus. Bei größeren Codebasen oder komplexen Agenten-Aufgaben arbeitet OpenHands mit mehr Arbeitsspeicher deutlich flüssiger.

3. Welche Hardware benötigt n8n?

n8n ist eine Automatisierungsplattform und stellt vergleichsweise geringe Anforderungen an die Hardware.

Mindestvoraussetzungen:

  • Windows 10 oder Windows 11
  • 4 bis 8 GB RAM
  • Node.js oder Docker
  • Wenige Gigabyte freier Speicherplatz

Empfohlen:

  • 8 bis 16 GB RAM
  • SSD

Die eigentliche Rechenleistung wird erst dann wichtig, wenn n8n mit einem lokalen KI-Modell zusammenarbeitet. In diesem Fall richtet sich der Ressourcenbedarf hauptsächlich nach dem verwendeten Modell.

4. Welche Hardware benötigt Open WebUI?

Open WebUI ist eine Browseroberfläche für lokale oder cloudbasierte KI-Modelle. Die Oberfläche selbst benötigt nur wenige Ressourcen.

Mindestvoraussetzungen:

  • Windows 10 oder Windows 11
  • 8 GB RAM
  • Docker oder Python
  • Ollama oder ein anderer unterstützter KI-Server

Empfohlen:

  • 16 GB RAM
  • SSD
  • NVIDIA-Grafikkarte (optional)

Der größte Teil der Rechenarbeit erfolgt durch das angeschlossene Sprachmodell. Open WebUI dient hauptsächlich als komfortable Benutzeroberfläche.

Systemvoraussetzungen im Überblick (Tabelle)

Für ein flüssiges Arbeiten mit lokalen KI-Anwendungen gelten 16 GB RAM heute als empfehlenswerte Ausstattung. Wer regelmäßig mit großen Sprachmodellen oder komplexen KI-Agenten arbeitet, sollte 32 GB RAM oder mehr sowie eine aktuelle NVIDIA-Grafikkarte in Betracht ziehen.

Tool8 GB RAM16 GB RAM32 GB RAMGrafikkarte erforderlich?Geeignet für
JanGeeignetEmpfohlenOptimalNein (optional NVIDIA)Lokaler KI-Chat, Texte, Übersetzungen, Programmierhilfe
OpenHandsEingeschränkt geeignetEmpfohlenOptimalNein, aber NVIDIA empfohlenKI-Agent für Programmierung, Terminal und Dateiverwaltung
n8nGeeignetEmpfohlenOptimalNeinAutomatisierungen, Workflows, KI-Anbindungen
Open WebUIGeeignetEmpfohlenOptimalNeinChat-Oberfläche für lokale KI-Modelle

Bewertung der Hardware

HardwareBewertungEmpfehlung
8 GB RAMGeeignetKleine KI-Modelle wie Qwen3 1.7B oder 4B, einfache Agenten und Automatisierungen
16 GB RAMEmpfohlenDie meisten lokalen KI-Anwendungen laufen flüssig, auch größere Modelle bis etwa 8 Milliarden Parameter
32 GB RAMOptimalIdeal für größere Sprachmodelle, umfangreiche Projekte und komplexe KI-Agenten

Grafikkarte

GrafikkarteBewertung
Keine dedizierte GPUAusreichend für kleinere Modelle, aber langsamer
NVIDIA RTX 3060 (12 GB VRAM) oder vergleichbarSehr gut für Modelle bis etwa 8 Milliarden Parameter
NVIDIA RTX 4070/4080/4090 oder vergleichbarOptimal für große Modelle und anspruchsvolle KI-Agenten

Lokale KI-Anwendungen sind längst nicht mehr nur etwas für Entwickler oder Unternehmen. Mit Programmen wie Jan, OpenHands, n8n und Open WebUI kann heute nahezu jeder kostenlos eine leistungsfähige KI-Umgebung auf dem eigenen PC einrichten – ganz ohne monatliche Abonnements und mit voller Kontrolle über die eigenen Daten.

Welches Tool das richtige ist, hängt vor allem vom Einsatzzweck ab. Wer einfach mit einer KI chatten oder Texte erstellen möchte, ist mit Jan oder Open WebUI gut beraten. OpenHands richtet sich dagegen an Entwickler und alle, die einen KI-Agenten für Programmierung oder die Arbeit mit Dateien und dem Terminal nutzen möchten. n8n ist die passende Wahl, wenn wiederkehrende Aufgaben automatisiert oder KI in bestehende Arbeitsabläufe integriert werden soll.

Abonniere jetzt unsere Cyber-News!
Erhalte wertvolle Insights, Tipps und Ratschläge zur Cybersicherheit, ganz gleich ob du Anfänger oder Fortgeschrittener bist.