MiniCPM5 1B Fable5 Thinking T Wix Ru

--- license: apache-2.0 base_model: GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking datasets: - t-tech/T-Wix language: - ru library_name: transformers pipeline_tag: text-generation tags: - merge - lora - russian - thinking - tool-calling - gguf - experimental --- # MiniCPM5-1B-Fable5-Thinking-T-Wix-ru > ⚠️ **Экспериментальная модель.** Метрики не снимались (только ручной смоук-квиз). Не для продакшена. Русскоязычная 1B-модель с работающим `<think>`-режимом. Получена в два этапа: 1. **Merge**: T-Wix LoRA (r=32, обучена на базовой `openbmb/MiniCPM5-1B` на ~461k русских диалогов [t-tech/T-Wix](https://huggingface.co/datasets/t-tech/T-Wix)) применена к дистилляту [GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking](https://huggingface.co/GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking) через `PeftModel` + `merge_and_unload()`. 2. **Reasoning-SFT (v2, текущая версия)**: merge дообучен LoRA (r=16, LR 2e-5, 1 эпоха) на reasoning-сабсете T-Wix — 31k примеров с русскими `<think>`-трейсами; управляющие суффиксы ` /think` из данных убраны, чтобы thinking стал поведением по умолчанию. ## Наблюдаемое поведение (ручной смоук-тест, не бенчмарк) **Что работает:** - `<think>` включается сам на задачах, где уместен (математика, рассуждения), думает на языке вопроса (RU-вопрос → русский трейс, EN → английский), закрывает блок и даёт ответ - Пошаговая математика с самопроверкой внутри think - Tool calling: корректно выбирает функцию и аргументы - Беглый русский с хорошей структурой **Известные дефекты:** - На длинных выкладках think может не уложиться в маленький `max_new_tokens` — ставьте ≥1000–2000 - Фактология на русском слабая (модель 1B): для фактов используйте RAG - Перевод EN→RU нестабилен - Рекомендуется `repetition_penalty=1.1` (без него возможны циклы) ## Структура репозитория | Путь | Содержимое | |---|---| | `/` | модель после reasoning-SFT, bf16 safetensors | | `/gguf` | GGUF: F16, Q8_0 | | `/lora` | reasoning-LoRA (r=16) отдельно — применима к merge-версии из истории коммитов | ## Запуск ```python from transformers import AutoModelForCausalLM, AutoTokenizer repo = "kaufkino/MiniCPM5-1B-Fable5-Thinking-T-Wix-ru" model = AutoModelForCausalLM.from_pretrained(repo, dtype="bfloat16", device_map="auto") tokenizer = AutoTokenizer.from_pretrained(repo) messages = [{"role": "user", "content": "Реши: 17 * 23 = ?"}] inputs = tokenizer.apply_chat_templat...

Source context: 555 downloads · 5 likes · Pipeline text-generation · Library transformers · Repo kaufkino/MiniCPM5-1B-Fable5-Thinking-T-Wix-ru