Phison Electronics Corp_群聯電子股份有限公司

負責分析AI算法在實際系統架構運行時的效能瓶頸。 AI 應用成為近幾年的主流，軟體服務的效能依賴於幾個重點：系統架構設計、演算法的實作、硬體規格。 過去為了提升協作開發效率，計算機領域主要朝著抽象化的方式，降低各層互相的耦合性。 然而，這其中的權衡奠基在過去硬體隨著摩爾定律效能快速的成長，在大型系統中往往能藉由過剩的硬體效能彌補抽象化造成的損失。 然而，AI 時代迎來模型參數和運算需求指數成長的情況，這是少數已經具有商業價值需求的算法，超出現有硬體算力需求的狀況。 所以，以整體作為優化的研究，成為當前相當具有價值的工作。縱向的打破各層之間的抽象，找出不同實作之間能獲得最佳效能的搭配。 1. 基於演算法(多為平行運算)估算運算複雜度和空間使用量 2. 基於硬體配置，估算演算法在系統上的理論表現 3. 設計 DOE 實驗，驗證實際數據與理論數據的誤差 4. 基於實驗結果，找出演算法、軟體實作、系統、硬體的瓶頸 5. 實作優化算法，藉由實驗結果和理論分析證明其有效性 6. 撰寫技術文件，提供應用服務端作為實作參考。The responsibility involves analyzing performance bottlenecks of AI algorithms during operation within actual system architectures. AI applications have become mainstream over recent years. The performance of software services relies on several key factors: system architecture design, algorithm implementation, and hardware specifications. In the past, to improve collaborative development efficiency, the computing field primarily focused on abstraction to reduce coupling between different layers. However, this trade-off was based on the rapid growth in hardware performance driven by Moore’s Law. In large systems, excess hardware capabilities often compensated for losses caused by abstraction. However, the AI era brings exponential growth in model parameters and computational demands. This situation occurs with only a few algorithms that already possess commercial value requirements, exceeding existing hardware computing capabilities. Therefore, research focusing on overall optimization has become highly valuable work. Breaking down vertical abstractions between layers to identify optimal combinations among different implementations becomes essential. Estimating computational complexity and space usage based on algorithms (mostly parallel computing)Estimating theoretical performance of algorithms on systems based on hardware configurationsDesigning DOE experiments to verify discrepancies between actual and theoretical dataIdentifying bottlenecks in algorithms, software implementation, systems, and hardware based on experimental resultsImplementing optimized algorithms, demonstrating their effectiveness through experimental results and theoretical analysisWriting technical documentation to provide application service providers with implementation references.

1. AI 威脅建模與防禦：識別企業 AI 應用（如 LLM, RAG, Agent）的潛在風險，防範提示詞注入、資料洩漏及模型越獄等新型攻擊。 2. AI 治理框架規劃：參考 ISO 42001 與 NIST AI RMF 等國際標準，建立企業內部的 AI 使用規範、風險評估制度與安全準則。 3. 自動化流程安全設計：審核內部 AI 工作流的權限控制與執行邊界，確保 Agent 在調用外部 API 時的安全性。 4. 安全評測與資安演練：利用資安測試工具對 AI 模型進行對抗性測試，模擬攻擊行為以找出系統漏洞並協助修復。 5. 核心資產保護：監督 AI 檢索流程中的資料遮蔽（Data Masking）與存取控制，確保公司的智慧財產權（IP）不因 AI 回應而外流。 6. 技術合規稽核：定期對內部的 AI 系統進行資安審查，確保所有開發計畫符合資訊安全政策與相關法律法規。

[Job Description] 1.AI 工作流整合： 設計並實施端到端的 AI 自動化流程，將 AI 能力無縫串接至企業現有的系統（如 ERP, CRM 或 SaaS 系統）。 2.客製化解決方案交付： 深入分析客戶或內部單位的業務需求，設計量身打造的 AI 應用，解決客戶痛點。 3.推論經濟與效能優化： 監控並優化 AI 的推論成本（Token 消耗）與回應速度，在混合雲或邊緣環境中尋求成本與效能的最優解。 4.技術諮詢與導入支援： 擔任技術橋樑，將複雜的商務邏輯轉化為技術規格，並提供持續的提示詞調優與技術支援。

●AI Core ◎檢索增強生成 (RAG)： 熟悉 Embedding Model 微調、chunking, Vector Databases (如 Qdrant, Milvus 或 Pinecone) 的應用與 Indexing 策略。 ◎模型評估與優化： 具備 Rerank 演算法實作經驗，能針對 RAG 的檢索準確度進行定量分析 (如 Hit Rate, MRR)。 ◎多模態與 OCR： 熟悉 VLM (Vision Language Models) 與 OCR 流程，能處理複雜單據的解析與結構化資料提取。 ◎LLM 微調： 了解 SFT (Supervised Fine-Tuning) 與合成資料生成技術。 ◎AI Agent : 了解AI Agent 架構, 了解Skill / Tool-use 與 Task Planning。 ●Software System Architecture Design ◎前/後端開發： 精通 Python (FastAPI / Flask)或是C#，UI/UX (Vue3/HTML )，具備 RESTful API 設計與非同步程式設計經驗。 ◎系統設計： 具備 Multi-user 架構設計能力，熟悉帳號權限 (RBAC)、日誌系統 (ELK/Loki) 與資料庫設計 (SQL/NoSQL)。 ◎高效能通訊： 熟悉網路協議與分散式通訊，如 TCP/IP、NATS 或 gRPC。 ◎中介軟體： 熟悉 Redis 快取機制，用於處理高併發請求或 Session 管理。 ●推論優化與維運 (Inference Ops) ◎推論引擎： 熟練使用 vLLM, llama.cpp, Ollama 或 OVMS 進行模型佈署與加速。 ◎硬體知識： 了解 GPU/NPU 架構，能評估 TOPS、KV Cache 佔用對推論延遲與吞吐量的影響。 ◎容器化與編排： 熟練 Docker / podman 操作，並具備 Kubernetes (K8s) 基本概念，能管理大規模容器化應用。