wen aidev
Published on

Azure AI 解析（一）：微軟 AI 生態系基礎架構

Table of Contents

老闆一句「我們也要導入 AI」，身為開發者的你打開 Azure Portal 準備大顯身手。結果迎面而來的是眼花撩亂的服務選單：Azure Machine Learning、Azure Cognitive Services、Azure OpenAI、Azure AI Studio、還跑出一個新的 Azure AI Foundry。

你心想：「不就是串個 API 嗎？為什麼微軟要搞得這麼複雜？」

這也是大多數開發者踏入企業級 AI 開發的第一個檻。在企業場景中，AI 絕對不只是「拿個 Token 敲 API」這麼簡單。 當你的應用需要處理機敏資料、需要 SLA 保障、或是需要辨識特殊的產業圖紙時，你就必須具備挑選正確服務的能力。

這篇文章我們不寫 Code，我們先來建立一張清晰的**「Azure AI 生態全景地圖」**。

Azure AI 的三層架構：別把積木當成地基

要理解 Azure AI，最快的方式是把它想像成一棟建築物，由下而上分為三層：

Azure AI 核心生態系全景圖：從 IaaS 到 Foundry 的架構分層

Layer 1: 模型算力與基礎建置層 (PaaS)

代表服務：Azure Machine Learning (AML)

如果你的公司是台積電或聯發科，有獨門絕活，需要從頭訓練特製模型，那裡這裡就是你的軍火庫。AML 提供給你的是裸機 GPU 資源、Jupyter Notebook 環境、以及 MLOps 的自動化管線。

  • 白話文：這裡是給你「蓋窯烤麵包」的地方，麵粉跟秘方都要自己準備。
  • 適用對象：Data Scientist, ML Engineer。

Layer 2: 預訓練模型 API 層 (SaaS / API)

代表服務：Azure OpenAI, Vision, Speech, Document Intelligence (前 Cognitive Services)

這是 90% 開發者最常接觸的一層。微軟跟 OpenAI 已經幫你把世界上最頂尖的模型（GPT-4、DALL-E、語音辨識、OCR）訓練好了，封裝成隨開即用的 REST API。

  • 白話文：這裡是「麵包店」，你不需要懂發酵，付錢（Token）就可以把現烤麵包買走。
  • 差異化：比起你在網路上付費給 OpenAI，放在這裡賣的這套具有「嚴格的資安圍籬與企業合約保障」（這點我們會在第三篇深聊）。

Layer 3: 應用整合平台層 (Orchestration)

代表服務：Azure AI Foundry (前身為 Azure AI Studio)

這是微軟目前最新、也是全力主推的亮點。當你買了麵包（GPT-4）、買了抹醬（企業內部資料庫檢索），你需要一個廚房把它做成三明治。Foundry 就是那個端到端的開發平台，讓你把 RAG（檢索增強生成）、Agent 工具鏈、與模型效能評估一口氣串接起來。

  • 白話文：這是一間「連鎖餐廳的中央廚房」，讓你標準化生產、監控每一份套餐的品質（不會亂講話、沒有幻覺）。

決策時刻：Buy vs Build 矩陣

了解了層級之後，實務上面臨的第一個痛點就是：「我該用現成的 API，還是自己訓練模型？」

其實，這是一個**「控制力」與「開發速度」**的取捨。我整理了一張實戰決策矩陣圖：

Buy vs Build 決策矩陣圖，顯示客製化程度與開發速度的取捨

1. 開箱即用區 (Top Left - 買現成的)

  • 情境：需要寫文案、翻譯、基礎語音轉文字、辨識一般發票。
  • 選擇：Azure OpenAI, Prebuilt API。
  • 實戰心法：不要猶豫，直接刷卡。 現在基礎大模型的通用能力太強，你自己花三個月標註資料訓練的分類模型，可能還不如 GPT-4 下段好 Prompt 的精準度高。這是 ROI（投資報酬率）最高的區域。

2. 微調客製區 (Top Right - 改裝現成的)

  • 情境：需要辨識公司內部特有的「手寫出貨單」、或是希望客服機器人只用企業內部 SOP 來回答問題（RAG）。
  • 選擇：Azure Document Intelligence (Custom Template), Azure AI Search + OpenAI。
  • 實戰心法：微軟允許你拿少量的樣本（例如 5 張手寫出貨單）去微調（Fine-tune）它們的預訓練模型。保有極快開發速度的同時，具備高度的領域特化能力。

3. 完全自建區 (Bottom Right - 從頭來過)

  • 情境：專利演算法、極端 edge case（分析晶片瑕疵 X 光圖）、或是模型必須開源離線部署。
  • 選擇：Azure Machine Learning 自己刻。
  • 實戰心法：不到最後關頭，別走這條路。維護一個模型的成本，往往是開發成本的十倍以上（包含資料飄移、版本迭代）。

💡 實戰落地建議

在 2026 年的敏捷開發思維中，請遵循 「由左上往右下」 的探索路徑：先用最笨、最通用的 Azure OpenAI 加上強大的 Prompt 驗證商業邏輯。如果效果真的卡在領域知識，再去升級 Document Intelligence 客製化模型。千萬不要一開始就跳進去自己架 GPU 叢集練模型！

小結與下一步

這篇文章我們梳理了 Azure AI 的技術堆疊。重點只有一個：釐清名詞的顆粒度，找出最適合目前開發資源的層級。

一旦我們決定要站在巨人的肩膀上（使用預訓練模型 API），隨之而來的下一個問題就是：「當 Prompt 越來越複雜、API 呼叫越來越多層，我要怎麼管理這個混亂的專案？」

這正是微軟將 Azure AI Studio 全面升級為 Azure AI Foundry 的原因。在下一篇文章中，我們將實際走進 Foundry 兵工廠，看看 2026 年的 Agentic Application 到底是如何在這裡被流水線般組裝、測試與監控出來的。

敬請期待！

留言討論