LLM-as-a-Judge-Bias ist real — Reihenfolge, Laenge und Selbstbevorzugung koennen Urteile kippen. So messen Sie die Zuverlaessigkeit und bauen Evals, denen Sie trauen koennen.
Ben @ Grepture
WeiterlesenUnbeaufsichtigte Agenten rufen jedes Tool auf, das Sie ihnen geben. Greptures neue Tool-Restriktionsregel erzwingt eine Allowlist am Gateway — bevor das Modell das Tool ueberhaupt sieht.
SicherheitNanoGPT routet Traffic im Auftrag seiner Nutzer an dutzende Modelle. Das Schwierige sind nicht die Modelle — sondern die API-Keys, Kundendaten und Stack-Traces, die Nutzer in Prompts einfuegen. So loesen sie das mit Grepture.
KundenEin neuer opt-in Modus erfasst die komplette Pipeline einer einzelnen Anfrage — Roh-Input, Schwaerzungen, Upstream-Body, Upstream-Response und finaler Output — damit Sie Stakeholdern exakt zeigen koennen, was Grepture veraendert hat. Loescht sich nach 24 Stunden automatisch.
Produktupdates