AI軟體應用開發工程師

●AI Core

◎檢索增強生成 (RAG)： 熟悉 Embedding Model 微調、chunking, Vector Databases (如 Qdrant, Milvus 或 Pinecone) 的應用與 Indexing 策略。

◎模型評估與優化： 具備 Rerank 演算法實作經驗，能針對 RAG 的檢索準確度進行定量分析 (如 Hit Rate, MRR)。

◎多模態與 OCR： 熟悉 VLM (Vision Language Models) 與 OCR 流程，能處理複雜單據的解析與結構化資料提取。

◎LLM 微調： 了解 SFT (Supervised Fine-Tuning) 與合成資料生成技術。

◎AI Agent : 了解AI Agent 架構, 了解Skill / Tool-use 與 Task Planning。

●Software & System Architecture Design

◎前/後端開發： 精通 Python (FastAPI / Flask)或是C#，UI/UX (Vue3/HTML )，具備 RESTful API 設計與非同步程式設計經驗。

◎系統設計： 具備 Multi-user 架構設計能力，熟悉帳號權限 (RBAC)、日誌系統 (ELK/Loki) 與資料庫設計 (SQL/NoSQL)。

◎高效能通訊： 熟悉網路協議與分散式通訊，如 TCP/IP、NATS 或 gRPC。

◎中介軟體： 熟悉 Redis 快取機制，用於處理高併發請求或 Session 管理。

●推論優化與維運 (Inference & Ops)

◎推論引擎： 熟練使用 vLLM, llama.cpp, Ollama 或 OVMS 進行模型佈署與加速。

◎硬體知識： 了解 GPU/NPU 架構，能評估 TOPS、KV Cache 佔用對推論延遲與吞吐量的影響。

◎容器化與編排： 熟練 Docker / podman 操作，並具備 Kubernetes (K8s) 基本概念，能管理大規模容器化應用。