🖥️ Arbeitsblatt · Teil 2 von 3 · Eigene KI hosten

Eigene KI im Unternehmen hosten

Im ersten Arbeitsblatt hast du deinen KI-Kundenservice-Bot geplant und gebaut. Der schickt seine Anfragen bisher an eine fremde KI in der Cloud — also verlassen Kundendaten dein Unternehmen. Hier klärst du die Folgefrage: Kann und soll die KI stattdessen bei dir selbst laufen? Fülle unten die 6 Aufgaben aus und schicke sie an den Kursleiter — oder speichere alles als PDF.

⏱ ca. 25 Min.🎓 Einsteiger💶 alles kostenlos machbar🧰 Aufgaben nur im Browser📧 Versand + PDF

🧭 Unklar, was „hosten" überhaupt heißt?

Dann mach zuerst das Blatt Wo läuft die KI eigentlich?. Es klärt in 30 Minuten die drei Wege — fertigen Dienst nutzen, eigene Einrichtung auf gemietetem Server, alles im eigenen Haus — und räumt mit dem häufigsten Irrtum auf: Ein Chat-Fenster im Browser ist noch kein eigenes Hosting. Hier geht es danach um das Wie: Werkzeuge, Modelle und Anbieter.

🔗 Das baut aufeinander auf

Teil 1: Arbeitsblatt „Mein KI-Kundenservice-Plan" — dort hast du Anfragen gesammelt, eine Wissensbasis geschrieben, deinen Bot gebaut, Eskalation und Rechts-Check geklärt.
Teil 2 (hier): Wo läuft die KI hinter diesem Bot — beim Anbieter oder bei dir?
Teil 3: Firmenwissen in die eigene KI bringen — die KI läuft bei dir, kennt aber deine Firma noch nicht: Dokumente sauber einspeisen und die Antworten prüfen.

Noch nicht gemacht? Kein Problem: Du kannst dieses Blatt auch mit einem anderen Anwendungsfall ausfüllen. Grundlagen fehlen? Dann erst die Quizze „Eigene KI hosten: Grundlagen" und „Geht das auch mit ChatGPT oder Claude?".

Kurz-Wiederholung

Umgebung hosten ist nicht dasselbe wie Modell hosten

Der wichtigste Merksatz aus der Lektion — behalte ihn beim Ausfüllen im Kopf.

🍽️ Der Restaurant-Vergleich

Die Umgebung (z. B. Open WebUI oder AnythingLLM) ist wie das Restaurant: Tisch, Speisekarte, Kellner — alles, was du siehst und selbst steuerst. Das Modell ist die Küche, die das Essen tatsächlich zubereitet — also die eigentliche KI, die deine Frage beantwortet.

Läuft bei dir nur die Oberfläche, schickt sie deine Anfrage im Hintergrund oft an eine externe Schnittstelle (kurz „API" — die Verbindung zu einem fremden Anbieter) von OpenAI, Anthropic oder Google. Dann kocht in Wirklichkeit weiterhin jemand anderes — und deine vertraulichen Daten verlassen dein Unternehmen.

Nur wenn auch das Modell auf deiner eigenen Hardware läuft (z. B. mit Ollama), bleibt wirklich alles bei dir im Haus.

Referenz

Die 3 Wege, KI im Unternehmen zu nutzen

Von „einfach loslegen" bis „alles selbst betreiben" — je nachdem, wie viel Kontrolle und Aufwand du willst. Wichtig für dich: Der Bot, den du in Teil 1 gebaut hast, ist Weg 1 — du hast einen fertigen Zugang genutzt (ChatGPT, Claude oder Gemini) und ihm deine Wissensbasis mitgegeben. Oberfläche und Modell liefen beide beim Anbieter. Ein Chat-Fenster im Browser ist noch kein eigenes Hosting — sonst würde jeder Mensch mit einem Browser hosten.

Weg	Was gehört dir	Datenschutz	Kosten / Aufwand	Wann sinnvoll
1 · Normale Nutzung ChatGPT / Claude als Web & App	Nichts — du nutzt nur einen Zugang (Account)	Daten gehen an den Anbieter	Dein vorhandenes Abo (Claude Pro / ChatGPT Plus), kein Aufwand	Einstieg, unkritische Aufgaben, kleine Teams
2 · Eigene Umgebung + Cloud-Modell Open WebUI / AnythingLLM oder Cloud-Partner (Azure OpenAI, Bedrock, Vertex)	Die Oberfläche & wer Zugriff hat; das Modell läuft weiter in der Cloud	Vertraglich abgesichert (EU-Region, keine Nutzung für Training)	Mittel — etwas Einrichtung nötig	Kleine/mittlere Firmen mit Datenschutz-Anforderungen, die keine eigenen Server warten wollen
3 · Alles selbst hosten Ollama + lokales Modell (z. B. ein „7B"-Modell — ein kleineres, sparsameres Modell)	Oberfläche und Modell laufen auf eigener Hardware	Daten verlassen das Haus nicht	Hoch — Hardware, Updates, Wartung	Sehr sensible Daten oder dauerhaft viele Anfragen

Referenz

Werkzeug-Steckbriefe

Die vier Bausteine aus der Lektion — kurz erklärt, damit du bei den Aufgaben unten begründet wählen kannst.

Open WebUI

Oberfläche · Open Source

Umgebung

Eine Chat-Oberfläche für den eigenen Server — wie ein privates ChatGPT für dein Team. Gut geeignet, wenn viele Mitarbeitende einfach nur chatten sollen. Kostenlos, aber die Einrichtung ist technischer (Server/Docker).

👥 Allgemeiner KI-Chat fürs Team 🔗 Nutzt lokales oder Cloud-Modell

AnythingLLM

Oberfläche · Open Source

Umgebung

Spezialisiert auf eigene Dokumente (Fachbegriff „RAG" — die KI durchsucht deine Dateien, bevor sie antwortet). Für jeden Kunden oder jedes Projekt legst du einen eigenen Arbeitsbereich an, lädst Dateien hoch und stellst Fragen dazu. Genau hier passt deine Wissensbasis aus Teil 1 rein — die Standardantworten hochladen, und der Bot antwortet daraus.

📁 Wissen aus internen Dokumenten 🔗 Nutzt lokales oder Cloud-Modell

Ollama

Modell-Runner · lokal

Modell-Runner

Lässt KI-Modelle direkt auf deinem eigenen Rechner laufen, z. B. ein „7B"-Modell (ein kleineres, sparsameres Modell). Kostenlos. Kleine Modelle (z. B. llama3.2, ~2 GB) laufen auch auf einem normalen Laptop ohne Gaming-Grafikkarte — nur langsamer. Deine Daten verlassen den Rechner nie.

🔒 Maximaler Datenschutz 💶 Kostenlos · kleiner Rechner reicht zum Testen

Cloud-Partner

Azure OpenAI · Bedrock · Vertex

Modell (Cloud)

Starke KI-Modelle über einen Unternehmensvertrag: Deine Daten bleiben in der EU, werden nicht zum Training verwendet — und du musst keine eigenen Server betreiben. Nur zur Einordnung: kostenpflichtig und auf Firmenkonten ausgelegt — für den Kurs brauchst du das nicht.

⚖️ Kompromiss aus Kontrolle & Komfort 💶 Kostenpflichtig · eher für größere Unternehmen

Optional · Praxis

In 20 Minuten selbst ausprobieren — kostenlos

Freiwillig zum Testen zu Hause oder im Büro — hak ab, was du geschafft hast. Wird nicht bewertet. Du brauchst kein Abo und keinen Bezahl-Zugang: Alle Programme hier sind kostenlos, und die KI läuft auf deinem eigenen Rechner.

1 · AnythingLLM installierenAuf anythingllm.com die kostenlose Desktop-App für Windows/Mac laden. Kein Terminal, keine Anmeldung, kein Abo.

2 · Ein kleines Modell aktivierenDie App bringt die KI schon mit: unter Einstellungen → KI-Anbieter → LLM ein kleines Modell auswählen (2–4 GB reichen). Es lädt einmalig herunter und läuft danach offline.

3 · Deine Wissensbasis hochladenArbeitsbereich anlegen, die Standardantworten aus Teil 1 als Datei hochladen — das ist dein Kundenservice-Bot, komplett auf deinem Rechner.

4 · Eine echte Kundenfrage stellenNimm eine der 5 Support-Anfragen aus Teil 1, stelle sie deinem lokalen Bot — und dieselbe Frage bei ChatGPT oder Claude. Vergleiche Antwortqualität und Tempo.

5 · Kür für Technik-InteressierteOllama von ollama.com separat installieren und im Terminal ollama run llama3.2 starten. Nicht nötig, wenn Schritt 1–4 schon läuft — AnythingLLM bringt Ollama bereits mit.

💶 Was kostet was?

Kostenlos: AnythingLLM, Ollama und die lokalen Modelle — dauerhaft, ohne Abo.
Dein vorhandenes Abo: Claude Pro oder ChatGPT Plus reichen für alles andere im Kurs.
Kostet extra (im Kurs nicht nötig): API-Zugänge nach Verbrauch und Cloud-Partner-Verträge wie Azure OpenAI, Bedrock oder Vertex.

Dein Arbeitsauftrag

Übertrag auf dein Unternehmen

Beantworte die 6 Aufgaben in eigenen Worten. Kurze, ehrliche Antworten reichen — es geht um deinen eigenen Fall.

Aufgabe 1

Was ist der Unterschied zwischen „Umgebung hosten" und „Modell hosten"?

Erkläre es in 1–2 eigenen Sätzen — nicht den Restaurant-Vergleich abschreiben, sondern in deinen eigenen Worten.

Aufgabe 2

Welche Daten würde deine eigene KI verarbeiten?

Denk an deinen Kundenservice-Bot aus Teil 1: Welche Kundendaten laufen da durch (Namen, Bestellnummern, Adressen, Beschwerden)? Kein Bot geplant? Dann nimm einen anderen Anwendungsfall, z. B. interne Richtlinien oder Angebote.

Aufgabe 3

Bleibst du bei Weg 2 — oder wechselst du?

Dein Bot läuft aktuell auf Weg 2 (Oberfläche bei dir, KI beim Anbieter). Reicht das für die Daten aus Aufgabe 2, oder sollte die KI bei dir laufen (Weg 3)? Nenne den Weg und begründe in 1–2 Sätzen.

Aufgabe 4

Welches Werkzeug würdest du dafür wählen?

Open WebUI (allgemeiner Team-Chat), AnythingLLM (arbeitet mit deiner Wissensbasis aus Teil 1) oder ein Cloud-Partner (Azure OpenAI / Bedrock / Vertex)? Begründe kurz anhand deiner Antwort aus Aufgabe 2.

Aufgabe 5

Was ist dir wichtiger: Datenschutz oder niedrige Kosten?

Denk an die Kundendaten aus Aufgabe 2: Wiegt deren Schutz schwerer — oder zählen für dich niedrige, planbare Kosten mehr? Entscheide dich und erkläre es in 1–2 Sätzen.

Aufgabe 6

Was ist deine größte Stolperfalle — und wie beugst du vor?

z. B. Wartungsaufwand unterschätzen, Dokumente nicht aktuell halten, zu wenig Fachwissen im Team. Was würdest du dagegen tun?

Name *

Firma / Abteilung (optional)

🔒 Datenschutzhinweis

Verantwortlicher: Daniel Wagmann · danielwagmann@amzmanager.de

Zweck: Auswertung des Lernfortschritts im Rahmen des KI-Kurses.

Erhobene Daten: Name, optionale Firmenzugehörigkeit, deine Antworten, Datum.

Weitergabe: Ausschließlich an den Kursleiter. Technische Übermittlung über Web3Forms. Keine Weitergabe an Dritte.

Speicherung: Keine dauerhafte Speicherung auf dem Server. Keine Cookies.

Rechte: Auskunft, Berichtigung, Löschung und Widerruf jederzeit per E-Mail.

Lieber offline arbeiten? Speichere dieses Arbeitsblatt mit deinen Antworten als PDF.
Klicke auf den Button und wähle „Als PDF speichern".