PROMPT ENGINEERING · LOKAL & CLOUD · ON-PREMISE

Verlässliche Prompts – systematisch entwickelt, lokal auf Ihrer eigenen Hardware.

Prompt Engineering macht aus KI-Sprachmodellen ein verlässliches Werkzeug – mit Mustern, Evaluation und Guardrails statt Trial-and-Error. Wir entwickeln Ihre Prompts mit quelloffenen lokalen Modellen ebenso wie mit Cloud-Modellen: sensible Beispiele bleiben im Haus, Ihre Prompt-Bibliothek wird Ihr Asset. Sie lernen, es selbst zu betreiben – oder wir richten Ihre Umgebung ein und schulen Ihr Team.

On-Premise

auf Ihrer eigenen Hardware

0 € / Prompt

keine Cloud-Abrechnung

100 % Open Source

kein Vendor-Lock-in

Code und Sprachmodell-Ausgabe – Prompt-Entwicklung auf eigener Hardware
Läuft auf Ihrer Hardware – auch offline

WAS SIE IM WORKSHOP AUFBAUEN

Eine eigene Prompt-Praxis – lokal wie in der Cloud

Wir bauen mit Ihrem Team eine systematische Prompt-Entwicklung auf und richten die Werkzeuge auf Ihrer Hardware ein. Zwei Wege: Sie lernen, alles selbst zu betreiben – oder wir übernehmen Einrichtung und Wartung und schulen die Anwender.

Muster & Templates

Bewährte Prompt-Muster statt Bauchgefühl: Rollen, Kontext, Beispiele, strukturierte Anweisungen. Wir entwickeln wiederverwendbare Templates für Ihre typischen Aufgaben – dokumentiert und teamweit nutzbar.

Lokale & Cloud-Modelle

Prompts funktionieren gegen lokale Modelle mit Ollama und vLLM ebenso wie gegen Cloud-Anbieter. Sensible Beispiele testen Sie lokal, produktiv wählen Sie das Modell mit dem besten Preis-Leistungs-Verhältnis.

Evaluation & Tests

Prompts werden gegen Testfälle geprüft, nicht nach Gefühl freigegeben. Wir richten Eval-Sets und automatisierte Vergleiche ein, damit Änderungen messbar besser werden – nicht nur anders.

Guardrails & Struktur

Strukturierte Outputs (JSON, Schemata), Validierung und Guardrails machen die Ausgaben verlässlich weiterverarbeitbar – weniger Halluzinationen, klar definierte Grenzen, saubere Anbindung an Ihre Systeme.

RAG-Prompting

Prompts, die auf Ihren eigenen Dokumenten arbeiten: Wir zeigen, wie Retrieval-Augmented Generation Kontext gezielt einspielt – damit Antworten auf Ihrem Wissen basieren, lokal und nachvollziehbar.

Prompt-Bibliothek als Asset

Alle Muster, Templates und Eval-Sets landen in einer versionierten Bibliothek, die Ihnen gehört. Ihr Prompt-Wissen wird zum wiederverwendbaren Unternehmens-Asset – nicht zum Wissen in fremden Chatverläufen.

WARUM ON-PREMISE, LOKAL & OFF-GRID

Ihr Vorteil gegenüber jeder KI-Cloud

Prompts direkt gegen die Cloud zu entwickeln ist bequem – bis zur ersten Rechnung, zur DSGVO-Frage oder zum Moment, in dem sensible Beispiele auf fremden Servern landen. Lokal betrieben gehört der Stack Ihnen. Das sind die Gründe, warum wir on-premise aufbauen.

DSGVO by Design

Art. 6 & 9 DSGVO · keine Auftragsverarbeitung

Prompts und Beispiele mit sensiblen Daten bleiben im eigenen Netz. Kein Transfer in US-Clouds, kein Schrems-II-Risiko, kein AV-Vertrag mit einem Hyperscaler nötig.

Keine laufenden Kosten

einmal Hardware statt pro Token/Prompt

Cloud-Modelle rechnen pro Token und pro Anfrage ab. Lokal zahlen Sie Strom und einmal die Hardware – Entwickeln und Testen von Prompts ist ab dem Break-even faktisch zum Nulltarif, in beliebiger Menge.

Kein Vendor-Lock-in

offene Modelle & portable Prompts

Quelloffene Modelle und eine Prompt-Bibliothek, die Sie behalten. Kein Anbieter kann Preise erhöhen, Modellverhalten ändern oder Ihren Zugang kündigen – Ihre Prompts laufen weiter.

Läuft offline & air-gapped

off-grid, ohne Internet

Prompt-Entwicklung und -Betrieb funktionieren mit lokalen Modellen ohne Internetverbindung – im abgeschotteten Netz, an Standorten ohne stabile Leitung, im Sicherheitsbereich.

Keine Zensur, keine Limits

keine Content-Filter, kein Rate-Limit

Keine fremden Inhaltsfilter, die legitime Fachaufgaben blockieren. Keine Warteschlangen, keine Tageskontingente, keine gedrosselte Nachfrage beim Testen ganzer Eval-Sets.

Volle Kontrolle & Auditierbarkeit

reproduzierbar & nachvollziehbar

Modellversion, Prompt-Version und Eval-Ergebnisse sind fixiert und dokumentiert. Jedes Ergebnis ist reproduzierbar – wichtig für Freigaben, Compliance und Governance.

Ihre Hardware, Ihr Tempo

volle Rechenleistung

Keine geteilten Cloud-Ressourcen. Die volle Leistung Ihrer Hardware steht Ihnen jederzeit zur Verfügung – planbar und ohne Nachbarn auf der Maschine.

Wissenstransfer statt Abhängigkeit

Ihr Team betreibt es selbst

Nach dem Workshop kann Ihr Team Prompts selbst entwickeln, evaluieren und pflegen – mit vollständiger Dokumentation und eigener Bibliothek. Wartung optional durch uns.

Das nehmen Sie aus dem Workshop mit

  • Systematische Prompt-Praxis
  • Datensouveränität
  • Wiederverwendbare Templates
  • Eval-Sets & Tests
  • Guardrails & Struktur
  • RAG-Grundlagen
  • Offline-Fähigkeit
  • Eigene Prompt-Bibliothek
  • Betriebsdokumentation
  • Team-Enablement

Eingesetzte Open-Source-Bausteine je nach Anwendungsfall und Hardware, u. a.: Ollama und vLLM für den lokalen Betrieb quelloffener Sprachmodelle, ergänzt um Evaluations- und Guardrail-Werkzeuge sowie eine versionierte Prompt-Bibliothek. Modelle, Werkzeuge und Lizenzen prüfen wir gemeinsam auf Eignung für Ihren produktiven Einsatz.

On-Premise-Serverraum – lokales Sprachmodell im eigenen Haus
DATENSOUVERÄNITÄT

Ihre Prompts und Beispiele verlassen Ihr Haus nie.

On-premise und Open Source heißt: Prompts mit sensiblen Daten, Ihre Beispiele und Ihre Prompt-Bibliothek werden lokal verarbeitet – nicht auf fremde Server geladen, nicht zum Training fremder Modelle verwendet, nicht in ein Drittland übertragen. Volle Kontrolle über Ihr wertvollstes Prompt-Wissen, technisch und rechtlich.

WORKSHOP-ABLAUF

Vom Trial-and-Error zur systematischen Prompt-Praxis

01

Assessment & Datenlage

Wir klären Anwendungsfälle, Zielausgaben und Datenschutzanforderungen und sichten Ihre typischen Aufgaben und Beispieldaten. Ergebnis: ein realistischer Fahrplan inkl. Break-even gegenüber Cloud-Kosten und der Entscheidung, was lokal und was in der Cloud laufen soll.

02

Setup auf Ihrer Hardware

Installation der Umgebung für lokale Modelle (Ollama, vLLM) sowie die Anbindung an Cloud-Modelle – lokal in Ihrem Netz, als Arbeitsplatz für die Prompt-Entwicklung oder zentral im Team.

03

Hands-on: Ihr erster Use-Case

Praxis an Ihren eigenen Aufgaben: von der ersten Formulierung über Muster und Templates bis zum strukturierten Output. Sensible Beispiele testen Sie dabei lokal, ohne dass Daten das Haus verlassen.

04

Vertiefung: Evaluation & Guardrails

Wir richten Eval-Sets und automatisierte Vergleiche ein, bauen Guardrails und RAG-Prompting auf Ihren Dokumenten auf und machen Prompt-Änderungen messbar besser statt nur anders.

05

Enablement & Betrieb

Aufbau Ihrer versionierten Prompt-Bibliothek, Übergabe mit Betriebsdokumentation und Team-Schulung. Ihr Team entwickelt und pflegt Prompts selbst – die Wartung übernehmen Sie oder wir.

TYPISCHE EINSATZFELDER

Wo systematisches Prompt Engineering am meisten bringt

Überall dort, wo KI-Sprachmodelle verlässlich arbeiten sollen, sensible Beispiele im Haus bleiben müssen oder Cloud-Kosten aus dem Ruder laufen.

QUALITÄT

Verlässlichere Outputs

Mit Mustern, Struktur und Guardrails weniger Halluzinationen und konstante Qualität – Ausgaben, die sich verlässlich weiterverarbeiten lassen statt jedes Mal nachkorrigiert zu werden.

Outcome

Konstante, weiterverarbeitbare Ergebnisse.

ENABLEMENT

Team-Enablement & Standards

Statt Insel-Wissen einzelner Power-User eine gemeinsame, dokumentierte Prompt-Praxis im ganzen Team – mit Templates, Standards und einer Bibliothek, die allen gehört.

Outcome

Gemeinsamer Standard statt Einzelwissen.

EFFIZIENZ

Kosten senken

Kürzere Prompts und kleinere, lokal betriebene Modelle für Routineaufgaben senken die Kosten deutlich – teure Cloud-Aufrufe nur dort, wo sie wirklich nötig sind.

Outcome

Deutlich niedrigere Token- und Cloud-Kosten.

FACHDOMÄNE

Domänen-Prompt-Bibliotheken

Prompts, die Ihre Fachsprache, Prozesse und Dokumente kennen – als versionierte, domänenspezifische Bibliothek, die Ihr Wissen bündelt und im Haus bleibt.

Outcome

Fachwissen als wiederverwendbares Asset.

FAQ zum Prompt-Engineering-Workshop

HÄUFIGE FRAGEN

Prompt Engineering ist die systematische Entwicklung der Anweisungen, mit denen Sie KI-Sprachmodelle steuern. Statt durch Ausprobieren zu einem Prompt zu kommen, arbeiten Sie mit bewährten Mustern, Templates, Testfällen und Guardrails. Das Ergebnis sind verlässlichere Ausgaben, weniger Halluzinationen und Prompts, die reproduzierbar funktionieren und sich im Team teilen lassen.

Ja, mit beiden – das ist ein Kern des Workshops. Wir entwickeln Prompts gegen lokal betriebene Open-Source-Modelle (über Ollama und vLLM) ebenso wie gegen Cloud-Anbieter. So testen Sie sensible Beispiele lokal, ohne dass Daten das Haus verlassen, und entscheiden pro Aufgabe, welches Modell das beste Preis-Leistungs-Verhältnis bietet.

Weil Sie beim Entwickeln und Testen typischerweise mit echten, oft sensiblen Beispieldaten arbeiten. Lokal bleiben diese Daten in Ihrem Netz, es entstehen keine Kosten pro Test und Sie können ganze Eval-Sets ohne Rate-Limit durchlaufen. Ihre entstehende Prompt-Bibliothek bleibt Ihr Asset und landet nicht in fremden Chatverläufen.

Beim lokalen Betrieb ist es das direkt: Prompts und Beispiele mit personenbezogenen oder vertraulichen Daten werden ausschließlich in Ihrem Netz verarbeitet, es gibt keine Auftragsverarbeitung durch Dritte und keine Übermittlung in Drittländer. Wo Sie bewusst Cloud-Modelle nutzen, zeigen wir, welche Daten dorthin dürfen und wie Sie sensible Inhalte vorher lokal abschichten.

Nicht zwingend. Viele lokale Modelle für Prompt-Entwicklung und Routineaufgaben laufen bereits auf einer aktuellen GPU wie der RTX 4090. Für größere Modelle oder mehr Durchsatz im Team empfehlen sich Server-Karten. Im Assessment dimensionieren wir die Hardware auf Ihre Modelle und Nutzung – und rechnen vor, ab wann sich der lokale Betrieb gegenüber der Cloud rechnet.

RAG (Retrieval-Augmented Generation) spielt dem Modell gezielt Kontext aus Ihren eigenen Dokumenten ein, damit Antworten auf Ihrem Wissen basieren statt auf dem allgemeinen Modellwissen. Das brauchen Sie überall dort, wo Antworten aktuell, fachlich korrekt und an Ihre Quellen gebunden sein müssen. Im Workshop zeigen wir die Grundlagen und wie sie sich lokal und nachvollziehbar umsetzen lassen.

Beides ist möglich – genau das ist der Kern des Workshops. Wir richten die Umgebung ein und befähigen Ihr Team, Prompts eigenständig zu entwickeln, zu evaluieren und in der eigenen Bibliothek zu pflegen. Ob Sie die Wartung danach selbst übernehmen oder an uns geben, entscheiden Sie.

Beides: als Inhouse-Termin bei Ihnen, remote oder in Karlsruhe. Er ist bewusst sehr praxis- und hands-on-lastig und richtet sich an Fach-, Marketing-, Support- und Produktteams ebenso wie an Entwickler:innen; Programmierkenntnisse sind für den Einstieg nicht nötig. Wo eine tiefere Integration in Ihre Systeme gewünscht ist, binden wir Ihre technischen Kolleg:innen mit ein.

Bereit für eine systematische Prompt-Praxis?

In einem kostenlosen Erstgespräch klären wir Anwendungsfälle, Datenschutz und die passende Mischung aus lokalen und Cloud-Modellen – und zeigen, wie schnell Ihr Team Prompt Engineering DSGVO-konform und produktiv einsetzt. Selbst betreiben oder von uns betreiben lassen: Sie entscheiden.