KI und lokale Modelle
Das Modell wählen wir nach der Aufgabe und lassen es dort laufen, wohin Ihre Daten dürfen: auf Ihrem oder unserem Server oder über eine API ohne Training mit Ihren Daten. Antworten haben eine Quelle, und über nicht umkehrbare Schritte entscheidet ein Mensch.
Was wir können
Die Arbeit mit KI setzen wir aus Bausteinen zusammen, die wir bis ins Detail kennen. Bei jedem ist beschrieben, wie er funktioniert und, an einem Beispiel, was er leistet.
-
Lokale Modelle
Das Modell läuft auf Ihrem oder unserem Server, und die Daten verlassen die Infrastruktur nicht. Für die Suche nach Bedeutung genügt ein Server ohne Grafikkarte, größere Modelle laufen auf Servern mit GPU.
Aufgabe Bedeutungssuche auf dieser Website Ergebnis Modell auf unserem Server, ohne GPU
-
Modelle über eine API
Bei weniger sensiblen Aufgaben nutzen wir die API des Anbieters in einem Modus ohne Training mit Ihren Daten. Wohin die Daten dürfen, entscheiden Sie.
Aufgabe Zusammenfassung öffentlicher Texte Ergebnis API ohne Training mit Ihren Daten
-
Auswahl und Wechsel des Modells
An einer Stichprobe Ihrer Daten vergleichen wir mehrere Modelle bei Antworten, Geschwindigkeit und Kosten. Die Anwendung spricht mit dem Modell über eine einheitliche Schnittstelle, sodass sich das Modell später austauschen lässt.
Situation ein anderer Modellanbieter Ergebnis Änderung der Konfiguration, Anwendung unverändert
-
Suche nach Bedeutung
Wir wandeln Text in einen Vektor um, und eine Anfrage findet ein Dokument nach seiner Bedeutung, auch wenn darin nicht dieselben Wörter vorkommen. Antwortet das Modell nicht, läuft die Suche per Volltext weiter.
Suchanfrage Anbindung an künstliche Intelligenz Ergebnis Seite über KI im Unternehmen, ohne übereinstimmende Wörter
-
Antworten mit Quellenangabe
Der Assistent antwortet aus Ihren Dokumenten und zeigt bei jeder Antwort, worauf sie beruht. Er sieht nur die Daten, auf die der Benutzer berechtigt ist zuzugreifen.
Suchanfrage Anfrage eines neuen Kollegen in eigenen Worten Ergebnis Antwort mit Verweis auf das Dokument
-
MCP-Server
Wir bauen einen MCP-Server, über den ein KI-Assistent auf Ihre Systeme und Daten zugreift. Er sieht nur, wofür der Benutzer berechtigt ist, und nicht umkehrbare Aktionen bestätigt ein Mensch.
Suchanfrage Anfrage an den Assistenten zum Bestellstatus Ergebnis Antwort direkt aus Ihrem System
-
Text, Bild und Ton
Aus Freitext, E-Mails, Fotos und Scans liest es Angaben wie ein Mensch heraus, Gespräche und Besprechungen schreibt es ab und fasst sie zusammen. Es beherrscht auch andere Sprachen als die, in der Sie fragen.
Quelle Freitext einer Versteigerungsbekanntmachung Ergebnis Angaben im Immobiliendatensatz
-
Prüfung der Antworten
Wir speichern, was das Modell erhalten und zurückgegeben hat, und schützen es vor Prompt-Injection. Nach einem Modellwechsel oder einer Änderung des Prompts prüfen wir die Antworten erneut anhand von Testbeispielen.
Situation Änderung des Prompts Ergebnis Antworten erneut an Testbeispielen
-
Kosten unter Kontrolle
Der Pilot zeigt die Kosten einer Anfrage im Betrieb. Der Verbrauch hat eine Obergrenze, und wiederholte Anfragen kommen aus dem Cache, sodass sie nicht erneut berechnet werden.
Situation wiederholte Anfrage auf dieser Website Ergebnis aus dem Cache, ohne neue Berechnung
Wie wir vorgehen
Wir beginnen mit der Aufgabe, nicht mit dem Modell. Zuerst ein kleiner Pilot an einer Stichprobe Ihrer Daten, über den Umfang entscheidet das Ergebnis. Wir sagen Ihnen auch, wo Sie KI nicht brauchen.
-
Aufgabe und Daten Was die KI tun soll, auf welchen Daten und woran wir erkennen, dass sie gut arbeitet. Ohne den dritten Punkt hat es keinen Sinn zu beginnen.
-
Pilot und Modellvergleich An einer Stichprobe Ihrer Daten probieren wir mehrere Varianten aus und zeigen den Unterschied bei Antworten, Geschwindigkeit und Kosten.
-
Einführung und Betrieb Einbindung ins System, Verbrauchslimits, Protokollierung der Anfragen und laufende Feinabstimmung nach dem tatsächlichen Betrieb.
Technologie
- Lokale Modelle
- Ollama, offene Modelle wie Gemma oder Qwen
- Modelle über eine API
- ChatGPT, Claude, Gemini, in einem Modus ohne Training mit Ihren Daten
- Einbindung in die Anwendung
- Symfony AI, Node.js, Python
- MCP-Server
- Anbindung von KI-Assistenten an Ihre Systeme und Daten
- Vektoren und Suche
- PostgreSQL mit pgvector, HNSW-Index
- Server
- Server mit und ohne GPU, private Instanzen beim Anbieter
Das ist eine Auswahl. Das Modell wählen wir nach Aufgabe, Sensibilität der Daten und Budget, und es lässt sich austauschen, ohne die Anwendung neu zu schreiben.
Wo Modelle bei uns arbeiten
KI liest Angaben aus Freitext und unterstützt in der Administration. Auf dieser Website sucht sie nach Bedeutung auf unserem Server.
Wir können vieles
Ein Modell ist nur so gut wie die Daten und die Suche darunter. Aus diesen Fähigkeiten setzen wir jedes Projekt zusammen.
- Systemintegration und Datenerfassung Systeme verschiedener Anbieter als ein Ganzes. Adol Monitor liest täglich Dutzende Quellen.
- Fortgeschrittene Datensuche Tippfehler und Bedeutung, Hunderttausende Datensätze, Antwort in wenigen Dutzend Millisekunden.
- Server und Betrieb Vom gemeinsamen über dedizierte Server bis zur Cloud. Geplant, betrieben, rund um die Uhr überwacht.
- Geschwindigkeit und Leistung Eine Website, die im Handumdrehen lädt, und ein Portal für Zehntausende Menschen täglich.
- Karten und Geodaten Adressen am richtigen Ort, Umkreissuche und Routenplanung.
- Auffindbarkeit und Besuchermessung Sichtbar in Suchmaschinen und bei KI-Assistenten. Messung Ihrer Ziele, auch ohne Cookies.
- Cookies, DSGVO und Barrierefreiheit Eine Einwilligungsleiste nach den Regeln und, wo es geht, eine Website ohne sie. Barrierefreiheit von Anfang an.