Taiwan Tongues ASR CE Pretrained v1.0

--- license: other language: - zh - nan - hak - en base_model: openai/whisper-large-v2 pipeline_tag: automatic-speech-recognition tags: - dginfra - whisper - taiwanese - hakka --- # Taiwan-Tongues-ASR-CE-pretrained Model v1.0 本模型為 [Taiwan-Tongues-ASR-CE](https://github.com/adi-gov-tw/Taiwan-Tongues-ASR-CE) 專案發布的 **預訓練模型 (Pretrained Model)**，採用 Hugging Face `transformers` 原生權重格式（`model.safetensors`），可供使用者於台灣多語語料上**繼續微調 (fine-tune)**。 若只需要直接推論而不再訓練，請改用純推論模型 [Taiwan-Tongues-ASR-CE](https://huggingface.co/adi-gov-tw/Taiwan-Tongues-ASR-CE)（CTranslate2 / faster-whisper 格式）。 > 📜 **訓練腳本請參考** <https://github.com/adi-gov-tw/Taiwan-Tongues-ASR-CE> --- ## 📌 版本資訊 | 版本 | Base Model | 格式 | 用途 | |---|---|---|---| | v1.0 | `openai/whisper-large-v2` | Transformers (`model.safetensors`) | **預訓練**，可供繼續微調 | --- ## 📂 模型檔案結構 模型包含以下檔案： * `config.json` — 模型結構與超參數設定 * `model.bin` — 預訓練權重 * `preprocessor_config.json` — 音訊前處理設定 * `tokenizer.json` — 分詞器設定 * `vocabulary.json` — 詞彙表 --- ## 🛠️ 訓練方法 請參考 [Taiwan-Tongues-ASR-CE](https://github.com/adi-gov-tw/Taiwan-Tongues-ASR-CE) 專案最新且完整訓練方法及步驟 ### 1. 安裝依賴套件 請先安裝 Python 3.8+ 及以下套件（建議使用虛擬環境）： ```bash pip install torch transformers datasets evaluate ``` ### 2. 準備語料 依照 [專案資料集格式](https://huggingface.co/datasets/adi-gov-tw/Taiwan-Tongues-ASR-CE-dataset-zhtw) 放置語音資料與標註檔案。 * 推薦使用 **WebDataset tar 檔** (`train/train-000000.tar`...) 搭配 metadata，能更方便地進行流式訓練。 * 也可使用 `train.tsv` / `test.tsv` 載入，但不建議。 ### 3. 執行訓練腳本 可直接執行 `run.sh`，或根據需求修改參數： ```bash bash run.sh ``` 主要參數說明： * `--model_name_or_path`：預訓練模型名稱（如 `openai/whisper-large-v3`，或本模型路徑 `./`） * `--corpus_data_dir`：語料資料夾（如 `sample_corpus`） * `--dataset_config_name`：資料集組合（如 `train_ds_01+train_ds_02`） * `--language`：語言代碼（如 `zh`、`nan`、`hak`、`en`） * 其他參數可參考 `run.sh` 及 `train_asr.py`。 ### 4. 訓練結果 訓練完成後，模型與相關設定會儲存在 `output/` 目錄： ``` output/ ├── config.json ├── model.bin ├── preprocessor_config.json ├── tokenizer.json ├── vocabulary.json ``` --- ## 📦 已訓練模型 * 已訓練好的國語、台語、客語、英語模型存放於 `models/` 目錄，包含： * `model.bin`：模型權重 * `config.json`、`preprocessor_config.json`、`tokenizer.json`、`vocabulary.json` 這些檔案可以直接放入 Hugging Face `transformers` 進行推論或微調。 --- ## 🙌 貢獻與回饋 歡迎研究人員與開發者使用本模型，並透過 Issue 或 Pull Request 回饋改進。 --- ## 📜 授權 本模型依照 [Taiwan-Tongues-ASR-CE](https://github.com/adi-gov-tw/Taiwan-Tongues-ASR-CE) 專案授權條款釋出，使用者需遵守相關規範。

Source context: 73 downloads · 4 likes · Pipeline automatic-speech-recognition · Repo adi-gov-tw/Taiwan-Tongues-ASR-CE-pretrained-v1.0