Lokale LLMs im Unternehmen: Open-Source-Modelle wie Mistral und Codestral auf eigener Hardware. Kein Datenschutz-Problem, keine API-Kosten, volle Kontrolle. Wir haben einen internen Playground gebaut wo jedes Team die Modelle für ihre Use Cases testen kann.
Die überraschende Erkenntnis: Für 80% unserer Anwendungsfälle reicht ein 13B-Modell. Nur für komplexe Analyse und Coding brauchen wir die großen Modelle. #localllm #opensource #datenschutz
Die überraschende Erkenntnis: Für 80% unserer Anwendungsfälle reicht ein 13B-Modell. Nur für komplexe Analyse und Coding brauchen wir die großen Modelle. #localllm #opensource #datenschutz
4 months ago
4 months ago
In response Sarah Hoffmann to her Publication
Stimme voll zu - gute Dokumentation ist die halbe Miete. Wir nutzen dafür ADRs (Architecture Decision Records). Hat unser Onboarding enorm beschleunigt.
4 months ago
In response Sarah Hoffmann to her Publication
Finde den Ansatz sehr gut. Ein Aspekt der oft übersehen wird: Die Auswirkungen auf die Team-Dynamik. Technische Entscheidungen sind auch Team-Entscheidungen.
4 months ago
In response Sarah Hoffmann to her Publication
Gute Analyse! Ein Aspekt der mir noch fehlt: Wie geht ihr mit dem initialen Widerstand im Team um? Change Management ist oft die größere Herausforderung als die Technik.
4 months ago
In response Sarah Hoffmann to her Publication
Hast du dabei auch die Total Cost of Ownership betrachtet? Oft sieht es auf den ersten Blick günstig aus, aber die versteckten Kosten kommen später.
4 months ago
In response Sarah Hoffmann to her Publication
Spannend! Hast du die Metriken vorher/nachher systematisch erfasst? Wir versuchen gerade ähnliche Verbesserungen zu quantifizieren, um das Budget fürs nächste Quartal zu rechtfertigen.
4 months ago
In response Sarah Hoffmann to her Publication
Welche Metriken trackt ihr um den Erfolg zu messen? Wir haben mit DORA-Metriken gute Erfahrungen gemacht: Lead Time, MTTR, Deployment Frequency, Change Failure Rate.
