AI Training 工程師

工作內容

1. 負責公司 AI 產品中離線小型模型（On-device / Edge Model）的訓練、微調（Fine-tuning）與部署優化。
2. 針對特定應用場景，對大型語言模型（LLM）或其他 AI 模型進行知識蒸餾（Knowledge Distillation），產出符合效能與精度需求的小型模型。
3. 執行模型重新訓練（Retraining），根據新資料或需求變更持續迭代模型表現。
4. 設計並執行模型微調策略，包含 LoRA、QLoRA、Adapter Tuning、Prompt Tuning 等方法，以最小成本達成模型客製化。
5. 建立與維護模型訓練 Pipeline（資料前處理、訓練、評估、部署），確保流程可重現且自動化。
6. 進行模型壓縮與優化（量化 Quantization、剪枝 Pruning、蒸餾 Distillation），使模型能在邊緣裝置或離線環境高效運行。
7. 設計模型評估指標與基準測試（Benchmark），確保微調後模型品質符合產品需求。
8. 與產品團隊、資料團隊及後端工程師協作，將訓練完成的模型整合至產品中。
9. 追蹤 AI/ML 領域最新技術趨勢（如開源模型、訓練框架更新），持續引入最佳實踐。

需求條件

1. 三年以上機器學習/深度學習相關工作經驗，具備模型訓練與微調實務經驗。
2. 熟悉至少一種深度學習框架（PyTorch 為佳），能獨立完成模型訓練流程。
3. 具備大型語言模型（LLM）微調經驗，熟悉 LoRA、QLoRA、Adapter Tuning 等參數高效微調方法。
4. 具備模型蒸餾（Knowledge Distillation）實務經驗，能將大型模型能力轉移至小型模型。
5. 熟悉模型壓縮技術（量化、剪枝、蒸餾），能針對邊緣裝置或離線環境進行部署優化。
6. 了解 NLP / CV / 多模態模型架構（如 Transformer、Diffusion Model 等）。
7. 具備良好的實驗設計與數據分析能力，能系統性地評估模型效能。
8. 具備良好的溝通協調能力，能與產品、資料及工程團隊緊密合作。

【加分】有邊緣運算（Edge Computing）或嵌入式 AI 部署經驗。
【加分】有開源模型社群貢獻經驗（如 Hugging Face Model Hub）。
【加分】熟悉 MLOps 工具鏈（MLflow、W&B、Kubeflow），能建立自動化訓練管線。

擅長工具

PyTorch、TensorFlow、Hugging Face Transformers、PEFT（LoRA/QLoRA）、DeepSpeed、vLLM、ONNX Runtime、TensorRT、llama.cpp、Python、Docker、Git、Weights & Biases (W&B)、MLflow、CUDA
＊具備英文技術論文與開源文件閱讀能力。