Was gibt's Neues bei Grepture

Sehen Sie genau, welches Team, Projekt oder welche Umgebung was ausgibt. Versehen Sie Requests mit einem Label, und Grepture schluesselt Kosten, Tokens und Request-Volumen pro Label auf.

Der OTLP-Export liefert jetzt echte Agent-Traces — Span-Baeume, Tool-Call-Spans, gen_ai-Attribute und Kosten — plus Beispiel-Download per Klick.

Jede protokollierte Anfrage direkt aus dem Traffic-Log erneut abspielen, anpassen und die neue Antwort neben dem Original ueber Ihre Evaluatoren bewerten.

Erzwingen Sie eine Tool-Allowlist am Gateway. Entfernen Sie verbotene Tool-Definitionen, bevor das Modell sie sieht, und blockieren oder entfernen Sie verbotene Tool-Aufrufe in der Antwort.

Neuer opt-in Debug-Modus erfasst den Roh-Input, jede Schwaerzung, den Upstream-Body, die Upstream-Response und den wiederhergestellten Output einer einzelnen Anfrage. Loescht sich nach 24 Stunden automatisch.

Pro-Key- und Pro-Label-Ausgabenregeln mit E-Mail-Alerts bei 50/80/100% und HTTP-402-Durchsetzung am Proxy, wenn der Cap erreicht ist.

TypingMind, LibreChat, LobeChat, Open WebUI, NextChat, ChatBox und weitere BYOK-Chat-Clients laufen jetzt mit einer einzigen Basis-URL-Aenderung durch Grepture — ohne Plugin, ohne Fork. Kosten pro Nutzer, PII-Schwaerzung und Audit-Logs ueber jede Chat-App, die Ihr Team ohnehin schon nutzt.

Traffic-Logs schneiden grosse Request- und Response-Bodies nicht mehr ab. Grosse Payloads — Long-Context-Prompts, Agent-Laeufe mit tiefer Tool-Historie, RAG-Dokumente — werden vollstaendig gespeichert und im Detail-Sheet end-to-end angezeigt.

Embeddings sind dauerhafte Angriffsflaeche, kein fluechtiger Traffic. Der neue POST /v1/embeddings-Endpunkt schwaerzt PII aus der Eingabe, bevor OpenAI den Vektor erzeugt — PII landet nie im Vektorspeicher. Eigener Endpunkt, eigene Log-Tabelle, eigener Dashboard-Tab.

Neue Filter- und Sortieroptionen in der Trace-Ansicht zeigen die teuersten Requests und groessten Token-Verbraucher auf einen Blick.

Das Dashboard bleibt jetzt auch bei Accounts mit Millionen von Requests fluessig. Analytics, Traffic-Logs und Traces laden deutlich schneller.

Tool-Calls sind jetzt ein First-Class-Objekt in Grepture. Aufrufvolumen, p50/p95-Latenz und Fehlerraten pro Tool — ueber die gesamte Traffic-Historie.

Ein Ausblick auf die naechsten Wochen — Performance-Verbesserungen fuer Proxy und Dashboard sowie ClickHouse-gestuetzte Traffic-Logs mit deutlich laengerer Aufbewahrung.

LLM-Provider-API-Keys in Grepture speichern. Automatisches Same-Provider- und Cross-Provider-Fallback bei Auth-Fehlern, Rate-Limits, Timeouts und Server-Fehlern.

Behalten Sie die niedrige Pro-Grundgebuehr und wachsen Sie zu Ihren Bedingungen in Business hinein. Neue Overage-Abrechnung schliesst die Luecke zwischen Pro und Business, und Grepture rechnet jetzt auch in USD ab.

Produktions-Logs in kuratierte Test-Suites verwandeln und Experiments durchfuehren, um Prompt-Versionen und Modelle mit LLM-as-a-Judge-Bewertung zu vergleichen.

Einheitlichere visuelle Identitaet auf der Marketing-Seite und Dokumentation mit einem einheitlichen Grid-Layout, verbesserter Typografie.

Nutzer koennen jetzt mehreren Teams angehoeren, sofort zwischen ihnen wechseln und neue Teams mit eigenen Abrechnungsplaenen erstellen.

Die Trace-Detailansicht wurde mit einer Wasserfall-Timeline, Tool-Call-Anzeige, Volltextsuche und Aufschluesselung von Kosten, Tokens und Latenz komplett ueberarbeitet.

Einzelne Anfragen mit Labels taggen, Key-Value-Metadata anhaengen, eigene Events in Traces loggen und Traces in einer eigenen Detailansicht inspizieren.

Traffic zwischen Prompt-Versionen aufteilen, Qualität mit automatischen Evaluatoren messen und den Gewinner wählen.

Ein lokales AI Gateway in der Entwicklung mit der gleichen Observability und PII-Schutz wie in Produktion.

LLM-as-a-Judge-Evaluierungen, die automatisch auf Produktions-Traffic laufen.

Neuer Trace-Modus bietet volle Dashboard-Sichtbarkeit ohne zusätzliche Latenz.

Cursor-AI-Traffic durch Grepture routen — für Observability, Kosten-Tracking und PII-Schutz.

Allen Claude-Code-Traffic durch Grepture routen — für Observability, Kosten-Tracking und PII-Schutz.

Grepture erweitert sich vom PII-Redaktions-Proxy zum vollständigen AI Gateway mit Prompt-Verwaltung, Tracing und mehr.

Grepture gestartet — ein programmierbarer Proxy, der jede LLM-Anfrage auf PII, Secrets und sensible Daten scannt.