DSGVO by Design
Art. 6 & 9 DSGVO · keine Auftragsverarbeitung
Prompts und Beispiele mit sensiblen Daten bleiben im eigenen Netz. Kein Transfer in US-Clouds, kein Schrems-II-Risiko, kein AV-Vertrag mit einem Hyperscaler nötig.
Prompt Engineering macht aus KI-Sprachmodellen ein verlässliches Werkzeug – mit Mustern, Evaluation und Guardrails statt Trial-and-Error. Wir entwickeln Ihre Prompts mit quelloffenen lokalen Modellen ebenso wie mit Cloud-Modellen: sensible Beispiele bleiben im Haus, Ihre Prompt-Bibliothek wird Ihr Asset. Sie lernen, es selbst zu betreiben – oder wir richten Ihre Umgebung ein und schulen Ihr Team.
On-Premise
auf Ihrer eigenen Hardware
0 € / Prompt
keine Cloud-Abrechnung
100 % Open Source
kein Vendor-Lock-in
WAS SIE IM WORKSHOP AUFBAUEN
Wir bauen mit Ihrem Team eine systematische Prompt-Entwicklung auf und richten die Werkzeuge auf Ihrer Hardware ein. Zwei Wege: Sie lernen, alles selbst zu betreiben – oder wir übernehmen Einrichtung und Wartung und schulen die Anwender.
Bewährte Prompt-Muster statt Bauchgefühl: Rollen, Kontext, Beispiele, strukturierte Anweisungen. Wir entwickeln wiederverwendbare Templates für Ihre typischen Aufgaben – dokumentiert und teamweit nutzbar.
Prompts funktionieren gegen lokale Modelle mit Ollama und vLLM ebenso wie gegen Cloud-Anbieter. Sensible Beispiele testen Sie lokal, produktiv wählen Sie das Modell mit dem besten Preis-Leistungs-Verhältnis.
Prompts werden gegen Testfälle geprüft, nicht nach Gefühl freigegeben. Wir richten Eval-Sets und automatisierte Vergleiche ein, damit Änderungen messbar besser werden – nicht nur anders.
Strukturierte Outputs (JSON, Schemata), Validierung und Guardrails machen die Ausgaben verlässlich weiterverarbeitbar – weniger Halluzinationen, klar definierte Grenzen, saubere Anbindung an Ihre Systeme.
Prompts, die auf Ihren eigenen Dokumenten arbeiten: Wir zeigen, wie Retrieval-Augmented Generation Kontext gezielt einspielt – damit Antworten auf Ihrem Wissen basieren, lokal und nachvollziehbar.
Alle Muster, Templates und Eval-Sets landen in einer versionierten Bibliothek, die Ihnen gehört. Ihr Prompt-Wissen wird zum wiederverwendbaren Unternehmens-Asset – nicht zum Wissen in fremden Chatverläufen.
WARUM ON-PREMISE, LOKAL & OFF-GRID
Prompts direkt gegen die Cloud zu entwickeln ist bequem – bis zur ersten Rechnung, zur DSGVO-Frage oder zum Moment, in dem sensible Beispiele auf fremden Servern landen. Lokal betrieben gehört der Stack Ihnen. Das sind die Gründe, warum wir on-premise aufbauen.
Art. 6 & 9 DSGVO · keine Auftragsverarbeitung
Prompts und Beispiele mit sensiblen Daten bleiben im eigenen Netz. Kein Transfer in US-Clouds, kein Schrems-II-Risiko, kein AV-Vertrag mit einem Hyperscaler nötig.
einmal Hardware statt pro Token/Prompt
Cloud-Modelle rechnen pro Token und pro Anfrage ab. Lokal zahlen Sie Strom und einmal die Hardware – Entwickeln und Testen von Prompts ist ab dem Break-even faktisch zum Nulltarif, in beliebiger Menge.
offene Modelle & portable Prompts
Quelloffene Modelle und eine Prompt-Bibliothek, die Sie behalten. Kein Anbieter kann Preise erhöhen, Modellverhalten ändern oder Ihren Zugang kündigen – Ihre Prompts laufen weiter.
off-grid, ohne Internet
Prompt-Entwicklung und -Betrieb funktionieren mit lokalen Modellen ohne Internetverbindung – im abgeschotteten Netz, an Standorten ohne stabile Leitung, im Sicherheitsbereich.
keine Content-Filter, kein Rate-Limit
Keine fremden Inhaltsfilter, die legitime Fachaufgaben blockieren. Keine Warteschlangen, keine Tageskontingente, keine gedrosselte Nachfrage beim Testen ganzer Eval-Sets.
reproduzierbar & nachvollziehbar
Modellversion, Prompt-Version und Eval-Ergebnisse sind fixiert und dokumentiert. Jedes Ergebnis ist reproduzierbar – wichtig für Freigaben, Compliance und Governance.
volle Rechenleistung
Keine geteilten Cloud-Ressourcen. Die volle Leistung Ihrer Hardware steht Ihnen jederzeit zur Verfügung – planbar und ohne Nachbarn auf der Maschine.
Ihr Team betreibt es selbst
Nach dem Workshop kann Ihr Team Prompts selbst entwickeln, evaluieren und pflegen – mit vollständiger Dokumentation und eigener Bibliothek. Wartung optional durch uns.
Eingesetzte Open-Source-Bausteine je nach Anwendungsfall und Hardware, u. a.: Ollama und vLLM für den lokalen Betrieb quelloffener Sprachmodelle, ergänzt um Evaluations- und Guardrail-Werkzeuge sowie eine versionierte Prompt-Bibliothek. Modelle, Werkzeuge und Lizenzen prüfen wir gemeinsam auf Eignung für Ihren produktiven Einsatz.
On-premise und Open Source heißt: Prompts mit sensiblen Daten, Ihre Beispiele und Ihre Prompt-Bibliothek werden lokal verarbeitet – nicht auf fremde Server geladen, nicht zum Training fremder Modelle verwendet, nicht in ein Drittland übertragen. Volle Kontrolle über Ihr wertvollstes Prompt-Wissen, technisch und rechtlich.
WORKSHOP-ABLAUF
Wir klären Anwendungsfälle, Zielausgaben und Datenschutzanforderungen und sichten Ihre typischen Aufgaben und Beispieldaten. Ergebnis: ein realistischer Fahrplan inkl. Break-even gegenüber Cloud-Kosten und der Entscheidung, was lokal und was in der Cloud laufen soll.
Installation der Umgebung für lokale Modelle (Ollama, vLLM) sowie die Anbindung an Cloud-Modelle – lokal in Ihrem Netz, als Arbeitsplatz für die Prompt-Entwicklung oder zentral im Team.
Praxis an Ihren eigenen Aufgaben: von der ersten Formulierung über Muster und Templates bis zum strukturierten Output. Sensible Beispiele testen Sie dabei lokal, ohne dass Daten das Haus verlassen.
Wir richten Eval-Sets und automatisierte Vergleiche ein, bauen Guardrails und RAG-Prompting auf Ihren Dokumenten auf und machen Prompt-Änderungen messbar besser statt nur anders.
Aufbau Ihrer versionierten Prompt-Bibliothek, Übergabe mit Betriebsdokumentation und Team-Schulung. Ihr Team entwickelt und pflegt Prompts selbst – die Wartung übernehmen Sie oder wir.
TYPISCHE EINSATZFELDER
Überall dort, wo KI-Sprachmodelle verlässlich arbeiten sollen, sensible Beispiele im Haus bleiben müssen oder Cloud-Kosten aus dem Ruder laufen.
Mit Mustern, Struktur und Guardrails weniger Halluzinationen und konstante Qualität – Ausgaben, die sich verlässlich weiterverarbeiten lassen statt jedes Mal nachkorrigiert zu werden.
Outcome
Konstante, weiterverarbeitbare Ergebnisse.
Statt Insel-Wissen einzelner Power-User eine gemeinsame, dokumentierte Prompt-Praxis im ganzen Team – mit Templates, Standards und einer Bibliothek, die allen gehört.
Outcome
Gemeinsamer Standard statt Einzelwissen.
Kürzere Prompts und kleinere, lokal betriebene Modelle für Routineaufgaben senken die Kosten deutlich – teure Cloud-Aufrufe nur dort, wo sie wirklich nötig sind.
Outcome
Deutlich niedrigere Token- und Cloud-Kosten.
Prompts, die Ihre Fachsprache, Prozesse und Dokumente kennen – als versionierte, domänenspezifische Bibliothek, die Ihr Wissen bündelt und im Haus bleibt.
Outcome
Fachwissen als wiederverwendbares Asset.
HÄUFIGE FRAGEN
Prompt Engineering ist die systematische Entwicklung der Anweisungen, mit denen Sie KI-Sprachmodelle steuern. Statt durch Ausprobieren zu einem Prompt zu kommen, arbeiten Sie mit bewährten Mustern, Templates, Testfällen und Guardrails. Das Ergebnis sind verlässlichere Ausgaben, weniger Halluzinationen und Prompts, die reproduzierbar funktionieren und sich im Team teilen lassen.
Ja, mit beiden – das ist ein Kern des Workshops. Wir entwickeln Prompts gegen lokal betriebene Open-Source-Modelle (über Ollama und vLLM) ebenso wie gegen Cloud-Anbieter. So testen Sie sensible Beispiele lokal, ohne dass Daten das Haus verlassen, und entscheiden pro Aufgabe, welches Modell das beste Preis-Leistungs-Verhältnis bietet.
Weil Sie beim Entwickeln und Testen typischerweise mit echten, oft sensiblen Beispieldaten arbeiten. Lokal bleiben diese Daten in Ihrem Netz, es entstehen keine Kosten pro Test und Sie können ganze Eval-Sets ohne Rate-Limit durchlaufen. Ihre entstehende Prompt-Bibliothek bleibt Ihr Asset und landet nicht in fremden Chatverläufen.
Beim lokalen Betrieb ist es das direkt: Prompts und Beispiele mit personenbezogenen oder vertraulichen Daten werden ausschließlich in Ihrem Netz verarbeitet, es gibt keine Auftragsverarbeitung durch Dritte und keine Übermittlung in Drittländer. Wo Sie bewusst Cloud-Modelle nutzen, zeigen wir, welche Daten dorthin dürfen und wie Sie sensible Inhalte vorher lokal abschichten.
Nicht zwingend. Viele lokale Modelle für Prompt-Entwicklung und Routineaufgaben laufen bereits auf einer aktuellen GPU wie der RTX 4090. Für größere Modelle oder mehr Durchsatz im Team empfehlen sich Server-Karten. Im Assessment dimensionieren wir die Hardware auf Ihre Modelle und Nutzung – und rechnen vor, ab wann sich der lokale Betrieb gegenüber der Cloud rechnet.
RAG (Retrieval-Augmented Generation) spielt dem Modell gezielt Kontext aus Ihren eigenen Dokumenten ein, damit Antworten auf Ihrem Wissen basieren statt auf dem allgemeinen Modellwissen. Das brauchen Sie überall dort, wo Antworten aktuell, fachlich korrekt und an Ihre Quellen gebunden sein müssen. Im Workshop zeigen wir die Grundlagen und wie sie sich lokal und nachvollziehbar umsetzen lassen.
Beides ist möglich – genau das ist der Kern des Workshops. Wir richten die Umgebung ein und befähigen Ihr Team, Prompts eigenständig zu entwickeln, zu evaluieren und in der eigenen Bibliothek zu pflegen. Ob Sie die Wartung danach selbst übernehmen oder an uns geben, entscheiden Sie.
Beides: als Inhouse-Termin bei Ihnen, remote oder in Karlsruhe. Er ist bewusst sehr praxis- und hands-on-lastig und richtet sich an Fach-, Marketing-, Support- und Produktteams ebenso wie an Entwickler:innen; Programmierkenntnisse sind für den Einstieg nicht nötig. Wo eine tiefere Integration in Ihre Systeme gewünscht ist, binden wir Ihre technischen Kolleg:innen mit ein.
In einem kostenlosen Erstgespräch klären wir Anwendungsfälle, Datenschutz und die passende Mischung aus lokalen und Cloud-Modellen – und zeigen, wie schnell Ihr Team Prompt Engineering DSGVO-konform und produktiv einsetzt. Selbst betreiben oder von uns betreiben lassen: Sie entscheiden.