大規模應用 AI：為何真正的挑戰在於管理價值，而非削減成本

AI 改變了科技的經濟學

傳統企業科技通常透過相對可預測的安排來採購：授權、訂閱、基礎設施承諾以及實施計畫。成本通常可以根據員工人數、系統容量或議定的工作範圍來估算。

AI 並不那麼適合這種模式。

它的成本取決於實際使用量，會隨著所使用的模型、處理的資訊量、回應的長度、工作流程的設計，以及自動化代理呼叫其他系統或模型的次數而變動。

因此，兩個表面上看似相似的任務，成本可能大相逕庭。

當 AI 嵌入業務流程時，這一點尤其重要。一次互動可能會啟動一連串的搜尋、模型呼叫、驗證與重試。一個看似簡單的使用者請求，在幕後可能成為資源消耗量驚人的工作流程。

與此同時，AI 的存取不再僅由技術部門掌控。員工只需相對較少的技術知識，就能訂閱新工具、建立自己的助理，並建立自動化流程。這種易用性是強大的創新來源，但也可能造成採購零散、功能重複，以及沒有人能全盤掌握的使用量。

這就是為什麼傳統的年度預算編列並不足夠。AI 需要主動的需求管理。

從讓使用量清晰可見開始

如果不知道 AI 在哪些地方被使用，組織就無法有效管理 AI。

首要之務，是建立一個橫跨各部門、應用程式、供應商與雲端平台的 AI 使用量整合視圖。這個視圖不能僅止於發票。領導者應該能夠看出哪個業務流程正在使用 AI、由誰負責、成本為何，以及產生了什麼成果。

模型呼叫次數或處理量等技術指標對工程師而言很有用，但對業務決策來說並不足夠。更有意義的指標可能是：

• 每解決一件客戶查詢的成本
• 每審閱一份文件的成本
• 每確認一個銷售機會的成本
• 每次軟體發佈的成本
• 每處理一件理賠、案件或交易的成本
• AI 驅動工作流程所創造的營收、產能或風險降低

這改變了對話的焦點。領導者不必再問組織是否使用了太多 AI，而是可以問：某項 AI 的應用是否創造了足夠的價值。

能見度也建立了問責機制。當使用量能夠對應到可識別的產品、流程或業務單位時，AI 就不再是一筆無從解釋的中央技術支出，而成為一項有負責人、有預期回報的業務投資。

為任務選用適當層級的智慧

組織不會讓資格最高的人員執行每一項工作，同樣地，也不應該用最強大——通常也最昂貴——的 AI 模型來處理每一個請求。

許多例行任務，包括分類、擷取、基本摘要與結構化草擬，都可以由較小或較低成本的模型有效處理。更強大的模型則可保留給真正需要深度推理、更高準確度或專業表現的工作。

目標不是在每種情況下都選擇最便宜的模型，而是選擇能穩定達到所需標準、最具經濟效益的選項。

這項決策不應只考慮價格。品質、速度、隱私、韌性與風險都很重要。在某些情況下，使用高階模型完全有其正當性；在其他情況下，較小的託管模型、內部運作的模型，甚至在裝置上本機運行的模型，可能更為合適。

關鍵能力在於彈性：能夠將不同的工作負載導向不同的模型，並隨著技術、價格與需求的演變調整這些決策。

先改善工作流程，再最佳化模型

模型的選擇受到高度關注，但效率不彰的工作流程設計，可能是更大的浪費來源。

AI 系統可能會重複處理不需要的資訊、保留不必要冗長的對話歷史，或產生遠比任務所需更詳細的回應。自動化代理可能陷入沒有產出的循環、重複失敗的動作，或在簡單規則即已足夠的情況下呼叫昂貴的服務。

這些問題很少能單靠採購解決，而是需要審慎的工程與流程設計。

組織應檢視自身是否能夠：

• 只傳送與任務相關的資訊
• 重複使用已產生的結果
• 定義明確的回應格式與適當的長度限制
• 為自動重試與工具使用設定邊界
• 將簡單直接的請求導向較簡單的模型
• 僅將真正複雜的案件升級處理
• 在加入 AI 之前，先重新設計不良的流程

最後一點至關重要。將效率不彰的流程自動化，未必能讓它變得有效率，可能只是讓這種無效率以更快的速度、更大的規模運作。

將治理融入使用體驗之中

政策與訓練依然重要，但無法獨力承擔管理企業 AI 的全部重擔。

我們不能合理地期望大多數員工了解每個模型、提示或自動化工作流程的經濟學。他們也不應該在每次使用 AI 服務時，都得查閱政策文件。

因此，良好的治理應該內建於技術本身。

組織的 AI 環境應能夠套用經核准的存取規則、識別異常的使用量、執行合理的限制，並將請求導向最適當的服務。當額外的成本或風險有其正當理由時，應有明確的核准或升級管道。

這讓負責任的使用成為使用者的自然路徑，也讓治理能夠在活動發生的當下進行——此時仍能影響結果——而不是在數週後發票送達時才進行。

同樣的原則也適用於指導。在使用者建立 AI 工作流程時提供的情境化建議，可能比數月前完成的一次性訓練課程更有用。

將 AI 經濟學視為一項長期能力

管理 AI 需求不應淪為僅由技術團隊主導的臨時成本削減行動。

這需要技術、財務、採購、風險與業務領導層之間持續合作。這些職能需要共同預測需求、監控使用量、評估供應商，並將支出與可衡量的結果連結起來。

這項能力也必須體認到，市場會不斷變化。今天表現最佳的模型，明天未必提供最佳價值。新的供應商、商業結構與部署選項將持續出現。

因此，長期依賴單一模型或供應商，可能同時帶來財務與營運風險。組織應保留轉移工作負載、重新評估採購決策，以及結合外購、內部開發與託管能力的能力。

「外購還是自建」這個老問題，已變得太過狹隘。更好的問題是：如何為每個工作負載組合——並持續調整——最適當的服務、模型與營運方式。

成本控制應為雄心壯志提供後盾

有一個危險是：正當 AI 開始產生有意義的成果之際，不斷上升的 AI 支出卻可能讓組織變得過於謹慎。

那將是一個錯誤。

穩健的財務管理並不是創新的敵人，反而是讓持續創新得以實現的基礎。當組織能夠識別浪費，就能將資源重新導向潛力最大的工作流程；當組織了解某項成果的成本，就能在決定擴大規模時做出明智的選擇；當治理融入環境之中，員工就能在明確而務實的界限內創新。

在 AI 領域成功的組織，未必是花費最多的，也不一定是削減最力的，而是那些了解 AI 在何處創造獨特價值，並能據此調整其使用量的組織。

因此，企業 AI 的下一階段，將較少取決於能否取得模型，而更多取決於管理的紀律。

問題不再只是「我們使用了多少 AI？」而是「我們用它達成了什麼——而這個成果是否值得這項投資？」