Mankei ist Hardanis Programm für deutsche Sprachmodelle, für Hochdeutsch und für Alpendialekte. Die größeren Modelle des Programms stehen im Partnerprogramm und sind auf Anfrage zugänglich. Zwei kleinere Modelle veröffentlicht Hardani dagegen offen: Mankei-1B-Chat und Mankei-Boarisch, beide unter Apache-2.0-Lizenz auf Hugging Face.
Mankei-1B-Chat: von Grund auf in Deutschland trainiert
Mankei-1B-Chat hat 1,01 Milliarden Parameter und wurde von Grund auf in Deutschland trainiert, mit einem eigenen deutschen Tokenizer statt einem angepassten internationalen Wortschatz. Das Modell ist für den Betrieb auf CPU ausgelegt und damit auch ohne spezialisierte Rechenhardware einsetzbar. Im deutschen MMLU erreicht es 23,0 Prozent, während vergleichbare, von Grund auf deutsch trainierte Modelle bei 20,0 bis 20,2 Prozent liegen. Die Stärke des Modells liegt im Sprachfluss und im lokalen Betrieb, nicht im Faktenwissen: Für Aufgaben, die auf breitem Weltwissen beruhen, ist ein Modell dieser Größe nicht ausgelegt.
Mankei-Boarisch: ein Modell für eine Mundart
Mankei-Boarisch ist ein Chat-Modell mit rund einer Milliarde Parametern, das auf Bairisch antwortet. Es führt Konversationen in der Mundart und überträgt hochdeutsche Texte ins Boarische. Wie Mankei-1B-Chat läuft es on-premise und lässt sich auch über Ollama betreiben. Für Anwendungsfälle mit regionalem Bezug, etwa in der Kommunikation oder in der Textverarbeitung, bietet das Modell eine Option, die bei allgemeinen, überwiegend hochdeutsch trainierten Sprachmodellen fehlt. Beide Modelle lassen sich damit ohne Cloud-Anbindung in die eigene Umgebung einbinden, ein Aspekt, der für den Einsatz in sensiblen Bereichen oft ebenso zählt wie die reine Antwortqualität.
Weitere offene Bausteine
Neben den beiden Chat-Modellen stellt Hardani mit Mankei-326M-Embedder und Mankei-326M-Reranker zwei weitere offene Bausteine für den Betrieb von RAG-Systemen im eigenen Haus bereit. Der Embedder erreicht auf dem juristischen Textkorpus GerDaLIR, einem Datensatz außerhalb seines eigentlichen Trainingsbereichs, einen nDCG@10-Wert von 20,3 und liegt damit vor bge-m3 (17,8) und multilingual-e5-large (15,6). Auf dem näher am Trainingsbereich liegenden GermanDPR erreicht er 68,7 Punkte und liegt dort hinter größeren, breiter trainierten Modellen. Der Reranker ergänzt den Embedder für den zweiten Schritt einer Suche, die Sortierung der zunächst gefundenen Treffer.
Alle vier Modelle stehen offen auf Hugging Face zur Verfügung; Mankei-1B-Chat und Mankei-Boarisch lassen sich zudem direkt über Ollama ausprobieren. Weitere Informationen zum Mankei-Programm stehen unter mankei.ai.
