name
李汶道
alias
DennySORA
role
後端與雲端系統工程
status
東京・日語學習中

DennySORA

我關注軟體如何從概念走向可運作、可觀測、可維護的實作。過去的工作涵蓋後端服務與雲端平台;目前在東京學習日語。

對 AI 有興趣嗎?歡迎大家來 Facebook 社團一起交流!

硬核 AI 交流社 · Facebook(外部網站)

核心技術與實作方向

從雲端與後端工程,到模型訓練、GPU 推論、網路安全與密碼學。

Kubernetes 與雲端架構

以 Kubernetes、Terraform 與 Helm 管理基礎設施與服務部署,處理資源配置、網路及相容性問題。

  • Kubernetes
  • Terraform
  • Helm

後端與分散式系統

使用 Go、Python 建構 API 平台與分散式服務,設計非同步資料流、服務協作及故障處理機制。

  • Go
  • Python
  • Plugin Architecture

VPN 與安全通訊

研究 WireGuard 隧道、TLS 交握與憑證驗證,釐清網路連線、加密通訊與身分信任的關係。

  • WireGuard
  • TLS
  • PKI

模型架構與訓練

實作 LLM 訓練與 SFT/DPO 流程,探索動態層路由;研究 DiT 架構與推論整合。

  • DiT
  • SFT
  • DPO

AI 推論與 GPU 效能工程

設計 PTQ 量化工作流,整合模型載入、逐層卸載與 CUDA 預取,分析精度、顯存與效能取捨。

  • PTQ
  • Block Offload
  • CUDA Prefetch

含研究與實驗性實作;部分 GPU 流程尚待驗證。

一路走來

先看角色與主要工作,細節留給想深入了解的人。以下依本站既有的公開履歷整理。

  1. — 至今教育・目前狀態

    日語留學,東京日本語學校(長沼スクール)

    於東京進行全日制日語學習。

  2. — (3 年 9 個月)

    資深雲端工程師,趨勢科技 TrendMicro

    參與 AI Agent 編排、平台與 API 系統、雲端基礎設施及資料保護相關工作。

    • 設計並交付 Google ADK Agent 編排平台,整合 A2A、LangGraph、CopilotKit 與 SSE/Human-in-the-Loop。
    • 重新架構 EKS node groups:將監控移至 ARM 節點以節省成本,並導入專用的 CPU/記憶體最佳化資源池。
    展開全部工作內容(24 項)

    Companion-Orchestrator Agent Center

    • 以 Google ADK 設計並交付 Agent 編排平台,建立清楚的應用架構與模組邊界。
    • 實作 Agent-to-Agent(A2A)通訊,協調遠端 Agent。
    • 建立具備工具使用、狀態追蹤、重試與錯誤處理的 LLM Agent。
    • 交付 Web Playground,支援情境測試與 prompt/工具除錯;透過 AI 輔助工作流程獨立開發前端。
    • 建立 CopilotKit adapter,並組合多步驟 LangGraph 流程。
    • 透過資料庫設定動態載入 Agent,支援零停機更新。
    • 開發 ADK ↔ AGUI Middleware,提供 SSE 串流與 Human-in-the-Loop 流程,並整合至 orchestrator。
    • 完成 A2A → ADK → LangGraph → CopilotKit 端到端流程,並由另一團隊跨組織採用。

    平台開發與 API 管理

    • 打造以 plugin 為基礎的 API 平台,讓團隊不需修改核心即可交付整合功能;提供生命週期 hooks、驗證與流量限制。
    • 開發 Collector Manager,支援可設定的日誌路由、背壓與重試控制。
    • 建立 Mini-Companion 系統,透過 GitHub 同步支援宣告式工作流程。
    • 實作 Companion Proxy,執行 PII 遮蔽與政策式請求過濾。

    雲端基礎設施最佳化

    • 重新架構 EKS node groups:將監控移至 ARM 節點以節省成本,並導入專用的 CPU/記憶體最佳化資源池。
    • 解決 Stream Lake 環境中的 Kubernetes 相容性缺陷。
    • 撰寫模組化 Helm charts,標準化各服務的部署。
    • 修復 CNI IP 耗盡與路由問題,穩定多租戶叢集。

    AI 整合與資料安全

    • 建立 AWS Comprehend PII 管線,成本降低約 99%,同時維持偵測品質。
    • 建立 AI Proxy Adapter,整合 Amazon Bedrock 與政策執行。
    • 開發 Kafka → Neptune 管線,建置符合 MITRE 框架的知識圖譜。
    • 實作細粒度 AI 存取控制,支援可稽核性與租戶隔離。

    技術領導

    • 製作供 CEO 的 NVIDIA 簡報使用之 AI demo。
    • 帶領內部 AI 工具與最佳實務工作坊。
    • 獲頒本季最佳員工(Employee of the Quarter)。
    • 透過可重複使用的平台元件,推動跨部門賦能。

    ADK ↔ AGUI Middleware 原始碼(外部網站)

  3. — (1 年 1 個月)

    後端工程師,KKStream

    投入串流服務、Kafka consumer 架構與 CI/CD,並以基礎設施即程式碼支援部署流程。

    • 設計以 Kafka 為基礎的 consumer 服務架構。
    • 以 Golang 開發低延遲串流伺服器。
    • 以 Terraform 實作基礎設施即程式碼。
    展開全部工作內容(12 項)

    DevOps 與基礎設施

    • 最佳化 GitLab CI/CD 管線,部署時間縮短 40%。
    • 使用 Helm 部署 Kubernetes 叢集。
    • 以 Terraform 實作基礎設施即程式碼。
    • 使用 Kops 管理 Kubernetes 叢集。

    系統架構與開發

    • 設計以 Kafka 為基礎的 consumer 服務架構。
    • 建立 Docker Compose 開發環境。
    • 整合多個後端服務與資料庫。
    • 以 Golang 開發低延遲串流伺服器。

    研究與實作

    • 評估 WebRTC Mesh 與 SFU 技術。
    • 整合 Pydantic,強化資料驗證。
    • 重構單體專案以提升可維護性。
    • 實作 CI/CD 管線測試整合。
  4. — (6 個月)

    後端工程師(實習),[博弈公司] 天堂遊戲有限公司

    以 Go 進行 RESTful API 開發與效能分析,參與資料處理與新技術評估。

    • 使用 Golang PProf 最佳化 RESTful API。
    • 實作 Apache Spark 資料處理。
    展開全部工作內容(6 項)

    API 開發與最佳化

    • 使用 Golang PProf 最佳化 RESTful API。
    • API 回應時間縮短 30%。
    • 重構程式碼以改善模組化。

    研究與評估

    • 實作 Apache Spark 資料處理。
    • 展示 GraphQL API 能力。
    • 評估新興技術的導入可行性。
  5. —

    電子工程系畢業,國立臺北科技大學

    2018 永續環境黑客松技職盃全國大賽|評審團大獎。

    • 以「北科魔法師」團隊參賽,提出結合潮水與輻射熱的發電構想。

    高科大官方報導(外部網站)

  6. 電子科,國立南投高級中學

    104 年全國工科技藝競賽・工業電子職種金手獎第 2 名。

    校方公告(2016.02.16)(外部網站)

最近的文章

全部文章