SauerkrautLM-Gemma-7b und 2b weltweit die #1
Die weltweite Nummer 1 im international anerkannten open LLM Leaderboard von Hugging Face ist das SauerkrautLM-Gemma in den Größen 7b und 2b. Und es ist das erste Gemma Fine-Tune das deutsch sprechen kann.
Die Gemma Modelle von Google sind noch schwer zu bändigen und sprechen bislang kein Deutsch. Dennoch haben wir es mit unseren Fine-Tuning Ansätzen geschafft, die Stärken des Modells zu erhöhen und ihm gleichzeitig Deutsch beizubringen. Nur wenige Teams haben bisher brauchbare fine-tunes zu den Gemma Modelle fertigstellen können.
Die Modelle wurden überwiegend mit deutschen SauerkrautLM Daten trainiert. Dabei haben sie nicht nur deutsch gelernt, sie haben sogar ihre Fähigkeiten im Englischen verbessert!
Wir releasen die Modelle nur als Alpha Version, da sowohl das originale Google Modell wie auch unsere Fine-Tunes teilweise merkwürdiges Verhalten zeigen und weitere Forschung benötigen. Aber die Community kann mit den Alpha Versionen gerne schon testen.
ZURÜCK
