Nanochat D16 Habrgpt

Обучение LLM с нуля с помощью nanochat. Создание pretrain только на статьях Хабра, размер d16 (0.5B), сравнение обучения в fp8 и bf16. bf16 оказался лучше. Разные варианты для sft и dpo. Для обучения и запуска модифицирован проект nanochat для кастомной загрузки датасетов, dpo, продолжения sft, web-чата с dpo. Подробнее: # Как запустить через оригинальный nanochat - Клонировать оригинальный nanochat - - - скачать dpo чекпоинт и положить его по пути C:\Users\ .cache\nanochat\chatsft_checkpoints\d16-dpo-step2-bf16\ - скачать токенизатор и положить в C:\Users\ .cache\nanochat\tokenizer\ - После запуска будет консоль: # Через кастомный проект, который удобнее для запуска этих чекпоинтов - Скачать nanochat_custom_datasets_and_dpo.zip и разархивировать, в этой версии все папки расположны локально - - - скачать чекпоинты и положить их в свои папки - для dpo будет nanochat_data\chatdpo_checkpoints - для sft nanochat_data\chatsft_checkpoints - скачать токенизатор и положить его в nanochat_data\tokenizer - После запуска будет веб-интерфейс: # Как выбрать чекпоинт - Выбирайте d16-dpo-mix-bf16 или d16-dpo-step2-bf16 - Остальные версии представлены для опытных, для понимания разницы между fp8, bf16, разных датасетов обучения. Ответы на простые вопросы должны быть без зацикливаний, с нормальным оформлением. Качество самих ответов плавающее, так как эта модель обучена только на маленьком узкоспециализированном датасете и представляет собой proof-of-concept, а не законченный продукт. При нажатии на блок ответа запустится перегенерация, отстановить генерацию можно нажатием Esc.