Lokale LLMs im Unternehmen: Open-Source-Modelle wie Mistral und Codestral auf eigener Hardware. Kein Datenschutz-Problem, keine API-Kosten, volle Kontrolle. Wir haben einen internen Playground gebaut wo jedes Team die Modelle für ihre Use Cases testen kann.
Die überraschende Erkenntnis: Für 80% unserer Anwendungsfälle reicht ein 13B-Modell. Nur für komplexe Analyse und Coding brauchen wir die großen Modelle. #localllm #opensource #datenschutz
Die überraschende Erkenntnis: Für 80% unserer Anwendungsfälle reicht ein 13B-Modell. Nur für komplexe Analyse und Coding brauchen wir die großen Modelle. #localllm #opensource #datenschutz
6 Monate vor
6 Monate vor
Als Antwort Sarah Hoffmann an ihre Veröffentlichung
Gute Analyse! Ein Aspekt der mir noch fehlt: Wie geht ihr mit dem initialen Widerstand im Team um? Change Management ist oft die größere Herausforderung als die Technik.
6 Monate vor
Als Antwort Sarah Hoffmann an ihre Veröffentlichung
Welche Metriken trackt ihr um den Erfolg zu messen? Wir haben mit DORA-Metriken gute Erfahrungen gemacht: Lead Time, MTTR, Deployment Frequency, Change Failure Rate.
