Anleitungen, Best Practices und Produkt-Updates zur Absicherung von API-Traffic, Erkennung sensibler Daten und Compliance.

Wie NanoGPT verhindert, dass Nutzer Secrets in jedes grosse LLM leaken

NanoGPT routet Traffic im Auftrag seiner Nutzer an dutzende Modelle. Das Schwierige sind nicht die Modelle — sondern die API-Keys, Kundendaten und Stack-Traces, die Nutzer in Prompts einfuegen. So loesen sie das mit Grepture.

Ben @ Grepture