Jacob 2 4B

--- library_name: peft license: apache-2.0 license_link: https://huggingface.co/Qwen/Qwen3.5-4B/blob/main/LICENSE base_model: Qwen/Qwen3.5-4B tags: - axolotl - base_model:adapter:Qwen/Qwen3.5-4B - lora - transformers datasets: - jacob-ml/Jacob-2-SSFT-filtered pipeline_tag: text-generation model-index: - name: Jacob-2-4B results: [] --- <p align="center"> <img src="./images/banner-2-4b.webp" alt="Jacob 2 4b banner" width="720" /> </p> Das **neueste und effizienteste Modell** der Jacob 2-Familie, basierend auf Qwen 3.5 4b, ist da! Es stellt die modernste Iteration von Jacob, der KI in Leichter Sprache, dar. Neu dazugekommen sind... - über 6x schnellere Inferenz gegenüber Jacob 24b, - ein größerer und verbesserter Trainingsdatensatz, - das Denken vor dem Antworten für verbesserte Fähigkeiten zur Problemlösung, - zuverlässigeres Tool-Calling > [!IMPORTANT] > **Empfohlen wird eine Temperatur von 0.3 bis 0.5 und ein Denkaufwand von "high".** Dies ist das kleinste Modell der Jacob 2-Familie und somit unter Umständen weniger leistungsstark als Jacob 24b, insbesondere in Hinblick auf die Grammatik. Dennoch kann es im Alltag von großer Hilfe sein, da es Antworten schneller liefern kann als Jacob 24b und weniger Fehler in der Punktuation macht. Dieses Repository enthält: - **den Adapter** des LoRA-Fine-Tunings, der frei für verschiedenste Zwecke benutzt werden kann - **die GGUF** des Modells in Q8-Quantisierung für die Ausführung in llama.cpp Viel Spaß damit! --- ## Text in Leichter Sprache > [!NOTE] > Jacob 2 4b hat den nachfolgenden Text in Leichte Sprache übersetzt. Lediglich die Formatierung wurde im Nachhinein angepasst. Das neueste Modell von Jacob 2 ist da! Es ist das effizienteste Modell. Effizient bedeutet: Es braucht wenig Zeit und Energie. Es basiert auf Qwen 3.5 4b. Qwen 3.5 4b ist ein Modell von Alibaba. 4b bedeutet 4 Milliarden Parameter. Parameter sind kleine Teile von einem KI-Modell. Jeder Parameter hilft dem Modell bei der Arbeit. --- **Neu dazugekommen sind:** - über 6x schnellere Inferenz gegenüber Jacob 24b Inferenz bedeutet: Die KI denkt und berechnet. Die neue KI ist 6 Mal schneller bei der Arbeit. --- - ein größerer und verbesserter Trainingsdatensatz Trainingsdatensatz bedeutet: Die KI lernt aus vielen Beispielen. Der neue Trainingsdatensatz ist größer und besser. --- - das Denken vor dem Antworten für verbes...