影片分享多種熱門AI模型與工具的搭配運用，實際示範從圖片、影片生成到AI Agent的應用工作流：
https://youtu.be/Py0okfkwDLI
隨著AI浪潮席捲科技界，以往鮮少在一般消費級市場較低能見度的工作站相關名詞討論也有明顯提升；先前測試分享過Intel X299與AMD TR4這類HEDT平台，介於家用電腦與伺服器之間的平台已經是2020年前的往事。
本篇主要分享的是工作站平台，使用來自Intel Arc Pro B70 32GB顯示卡，搭載Xeon 658X與ASUS Pro WS W890E-SAGE SE。
首先看到是先前分享過AI AGENT使用心得的Arc Pro B70 32GB：
內建32個Xe-core，基礎時脈2280MHz、動態時脈最高可達2800MHz；記憶體32GB 256Bit GDDR6、頻寬達608 GB/s、TBP功耗為230W。
支援SR-IOV、Intel XeSS 3與Intel Extension for PyTorch技術，右側為渦輪鼓風扇與8Pin電源輸入。
背面藍色金屬材質為品牌代表色調，標示intel ARC PRO B70，右側設計有散熱透氣孔。
較讓人訝異的是正面黑色外殼也是金屬材質，這跟絕大多數顯示卡正面用塑料材質有蠻大的差異，也讓整體的質感提升不少。
Arc Pro驅動程式通過ISV認證，強調能確保一般AI、設計、工程、建築和製造軟體的效能可靠而精確。
Intel Xeon 658X屬於較入門工作站等級，腳位FCLGA4710、24核48執行緒、最高達4.9G、總快取記憶體192MB、其中L3達144MB、TDP 250W；DDR5支援最大4TB與8通道。
這系列更高階的有48核678X、64核696X、86核698X，製程採用Intel 3。
ASUS Pro WS W890E-SAGE SE工作站主機板：
主要特色在於供電16+2+2+1+2功率級設計、8條DDR5 ECC R-DIMM插槽，支援CPU與記憶體超頻。
並支援多GPU配置提供最多7組PCIe 5.0 x16插槽、4組PCIe 5.0 M.2插槽、雙10 Gb網路埠、SlimSAS與MCIO。
Noctua NH-U14S DX-4677貓頭鷹單塔風扇安裝完成。
接著裝入InWin專為AI與HPC應用設計的COVALENT機殼，支援EEB (12″ x 13″) 工作站級主機板；內部空間可容納多張大型顯示卡、擴充儲存、進階散熱系統。
強化8槽PCIe擴充結構，穩固支撐多GPU顯示卡配置環境下能夠穩定運作。
支援雙420mm AIO水冷排，或最多13顆風扇，搭配風道設計，強調高負載下仍然保持良好散熱表現。
後方魔鬼氈束線帶、後面板理線孔等安裝設計。
電源供應器同樣使用InWin的PII系列P130II 1300W，主要符合ATX3.1規範與提供PCI-E 5.0 12VHPWR；因應AI世代可擴充高效能的多張顯示卡，最高提供2500W高瓦數選擇。
通過80PLUS白金牌認證，轉換功率可達92%，100%全日系電容；並具備多重電路保護設計、5V與3.3V DC-DC設計、高可靠度105°C全日系電解電容。
內建135mm液態軸承(FDB)風扇，擁有智慧溫控轉設計，負載20%以下為零轉速風扇模式，超過20%會自動運作維持良好的散熱模式。
模組化設計搭配扁平線材，支援2個PCI-E 5.0 12VHPWR接頭，每個最高可提供600W，此外提供10年原廠保固。
工作站測試平台：
CPU: Intel Xeon 658X
MB: ASUS Pro WS W890E-SAGE SE
DRAM: Kingston DDR5 5600 768GB (96GBX8) ECC Registered DIMM
VGA: Intel Arc Pro B70 32GB
SSD: Micron 3400 SSD 2TB
POWER: InWin PII SERIES P130II
Cooler: Noctua NH-U14S DX-4677
Case：InWin COVALENT
OS: Windows 11 2025H2 26200 / 電源模式平衡
* 效能分數表現會因使用情境、配置及其他因素而異，僅供參考。
在導入AI應用時，企業往往面臨雲端前沿模型與自建本地端主權AI系統的兩難抉擇。然而，基於資訊安全與算力自由運作的前提下，本地端AI已逐漸成為主流趨勢。導入AI能帶來多少生產力效益，關鍵在於能否突破目前最痛的業務瓶頸，無論是工業設計部門對造型創意的口語化發想、軟體開發部門的程式碼建構，還是業務與客服部門需要快速回應產品規格的多部門共同深層知識庫。
為了驗證本地端AI的實務潛力，我們將以B70結合工作站平台為基礎，模擬小企業或個人導入AI後的各部門應用情境。本次應用涵蓋從文生圖、腳本生成到進階影片製作，以及結合RAG、LM Studio Bionic與Hermes Desktop等AI Agent的多模型協作應用。過程中使用的提示詞複雜度與長短、參數配置，都會影響到生成的速度，為求真實呈現，我們不做刻意優化。
具體實作上，我們設定一個假設情境：開發一款簽署了NDA保密協議不可對外曝光的全新產品—雙功能AI PC掌機「WWM Duo AI+」，由於涉及高度機密，所有開發工作必須完全留在本地端進行。接下來，我們將針對不同部門的需求，運用多款專業開源軟體，完整呈現一套高效的AI工作流。
多部門對話入口 — Open WebUI：
具備雲端前沿模型相似的介面，大幅降低學習曲線，只需要開啟瀏覽器，不須逐台電腦安裝，作為對話問答平台使用入口，結合多部門用戶權限控管，搭配RAG達成可信賴生成式文字對話，不只憑模型能力回答，精確查詢公司內部資料，控管知識庫權限與資訊可靠度。
工業設計部門的文生圖應用 — ComfyUI：
設計師將創意內容使用ComfyUI搭配Z-Image-Turbo模型進行文生圖，產生高解析度的圖片，依照提示詞複雜度、生成的解析度範圍1024~1280左右，僅耗時約10~50秒左右。由於生成速度極快，設計師能迅速產出多組視覺方案進行比對，並快速進行提示詞或者設計構思的迭代優化，有效節省時間成本、提高生產力，而不用坐在電腦前苦苦等待。
社群行銷部門 — 結合文字、圖片、影片三者共同應用：
透過Open WebUI與Qwen 3.8 27B多模態模型互動，讓視覺模型精確看到全新設計的WWM Duo AI+產品樣貌，分析出產品特色，並可依銷售地區偏好、企業識別或記憶錨點，進一步與模型互動確認方向，做為下一步廣告影片生成或專業拍攝團隊的溝通基礎，快速流程推進。
具備思考的多模態模型，進一步構思用戶語意，將簡單的廣告影片拍攝想法擴充，也能結合RAG將模型專屬的控制指令加入，更加精確生成圖生影片的文字提示詞，省去逐步從零開始手刻提示詞的時間，只需簡單複製貼上ComfyUI，就能快速迭代修改不滿意的地方，進行下一步產出影片或者加快與專業團隊討論的方向。
社群行銷部門或外部專業影像團隊，則可透過ComfyUI搭配目前開源模型中最接近付費第一梯隊的影片模型MiniMax H3，產出高品質廣告影片。
順帶一提，寫文的同時模型才剛發布，全球包含Intel在內許多業者於Day 0提供支援，更有許多加快生成速度的LoRA與將畫質放大成清晰影片的Upscale方案在不斷的成長當中。
經過我們測試各有優缺點，這邊我們採用原始工作流來做基礎骨架，以便於後續加速方案時能快速有所參照基準。
實際測試，提示詞的複雜度對生成時間影響相當大，實際使用當前提示詞產出1024×1024影片約需20分鐘。有看到一些最新優化技術可縮短至小於影片播放時長，達成即時生成的效率。
在大模型的載入與切換下32G VRAM的優勢在此呈現出來，不同節點的模型可完整載入VRAM，省去無法完整載入使得同節點運算，卻需要頻繁與主記憶體切換的通訊開銷，並且受益於工作站八通道頻寬優勢與龐大的主記憶體空間，增進節點模型切換的效能。
客服與業務部門的RAG知識庫應用：
隨著產品銷售，第一線面對客戶端各式各樣的提問，如何精確快速的在眾多產品當中獲取關鍵資訊，或者快速答覆客戶不同機型的差異性，RAG技術是相當重要的解法之一。尤其是對於全新產品線，還有公司專有知識是模型從未學習過的內容，RAG此時更顯關鍵。
除了虛構WWM Duo AI+，更創造了一個全新的虛擬顯示卡B490做示範，圖中左側為模型思考過程與右側為RAG知識庫的內容，由這些知識當中精確找出來回應。
從圖中的左右對比視窗可以看到，右側未掛載附加知識庫時完全無法查詢到正確答案。左側視窗結合Open WebUI與NVIDIA推出的AI Agent模型Nemotron-3.5-Lightning-30B-A3B，目前使用Open WebUI內建的嵌入模型運行，受益於32G VRAM也能夠將更強大參數的嵌入模型共同與主模型完整載入，以遠高於人眼閱讀速度的破百tokens/s生成速度，精準並快速回應客戶提問。
行政部門作業資料分類歸檔AI Agent應用 — LM Studio Bionic：
企業中或個人使用時常會有各式單據、圖片、資料需要進行分類與歸檔，這種機械化重複流程，使用人工作業相當費時費力，在有大量需要存取電腦上的資料，且不需要精細權限控管的情境下，可使用對新手較友善的輕量級Bionic，同時具備模型管理、AI Agent且擁有Code專案與Work專案管理能力的桌面應用程式。Work專案可以處理文件、PDF、簡報、試算表及其他工作檔案；Code專案對於不熟程式碼的人員，也可簡單寫個小程式工具，快速解決個人化特殊需求，讓分類與歸檔更有效率。這邊使用Qwen 3.8 27B低思考與Tool Call，在評測圖片中使用視覺檢索出我們需要的圖片，可解決省去人工逐張圖片確認的工時。
Hermes多AI Agent應用與混合架構相容性：
前面提到的Bionic屬於較輕量級的AI Agent，當企業有更複雜的任務需求，例如當消費者要確認商品訂單狀態，透過串聯通訊平台將客服系統導入自動化回應、自動化排程，可使用熱門的Hermes Desktop，處理被動問答到主動執行任務等技能。當多任務同時進行時，高負載狀態下的平衡分流，可以使用NVIDIA在9月份最新發布的Personal AI Router (PAIR)支援混合多架構部署，實現Intel ARC、NVIDIA、Mac算力的統籌調度，雖然這樣的Router對於硬體架構影響較小，但也驗證軟體層面下ARC GPU的相容性，讓算力資源最大化。使得Hermes Desktop面對重量級的MoA混合代理，或多個子代理併發情境，藉由多運算節點將B70做為主要算力或子算力的節點都是相當不錯的選擇。
(此圖使用主記憶體384GB降規測試)
IT部門的概念驗證：
當公司對AI的應用逐漸提升，或者商業領域的拓展，對於本地端模型的能力逐漸要求，但購置設備的到貨與撥款都需要時間，透過XEON平台八通道頻寬與總主記憶體容量，使用GPU Offload技術將部分模型權重與KV搬到主記憶體與MoE模型的特性，讓DeepSeek V4-Flash 284B-A13B與Kimi K2.6-1T-A32B這類型超大參數模型在本地運行驗證測試成為可能。
接著進入到此工作站平台效能表現：
CPU-Z
658X 24核48執行緒 => Single Thread 734.9、Multi Thread 21489、Multi Thread Ratio 29.24；
AIDA64 Memory Read – 267.96 GB/s、Write – 259.28GB/s；
8通道架構是此工作站平台優勢，這裡使用DDR5 5600單條96GB x 8共768GB，全預設值的時脈與參數已讓頻寬表現已經不是消費級水準。
順道一提，網路上看到網友分享手上更高階678X 48核能超頻全核至5G，並貼出超頻後CPU-Z單核達840、全核超過49000以上、CINEBENCH R23全核破十萬；並用8800跑出Read 531.23 GB/s、Lantency 83.4ns與8000 Read 471.84 GB/s、Lantency 97.1ns。
此外也有網友測試678X搭配D5超頻6000獲得Read 347.26 GB/s。難怪ASUS這款工作站主機板標榜超頻功能，由網路分享看起來超頻後效能增幅相當大。
Geekbench 7：
658X => Single-Core Score => 1994、Multi-Core Score => 29173；
B70 => OpenCL Score 151176、Vulkan Score 151759
Geekbench AI Score：
B70 OpenVINO => Single Precision 33352 / Half Precision 68805 / Quantized 72060；
SPECviewperf 15.0.1專業圖形效能基準測試軟體，專門用來評估電腦硬體，特別是工作站顯示卡，包含專業3D繪圖、CAD/CAM工程設計、科學視覺化以及影音動態處理時的真實效能。
SPECworkstation是一款專為工作站設計的測試軟體。
4.0版加入AI/ML測試項目，基準測試包含23個工作負載，共80幾個子測試，針對CPU、GPU、加速器、磁碟等項目進行模擬多種產業的實際使用情境。
溫度28.7度與濕度50%，機殼內運行AIDA64 Stress CPU與FPU、FurMark GPU雙烤全速燒機：
雙烤燒機狀態時，使用紅外線熱顯像儀，呈現機殼內多角度溫度：
雖然B70定位於專業工作站與AI加速領域，不是為遊戲而設計，不過如果像個人的電腦主要工作結合偶爾娛樂合一的主機，難免會好奇在遊戲效能的表現。
這裡改用270K消費級平台，實測B70在幾款遊戲2K、4K的FPS表現。
FINAL FANTASY XIV：Dawntrail 預設畫質HIGH開啟FSR：
2K => 23217、4K => 15344；
Counter-Strike 2 絕對武力2，影像預設值最高：
FPS：Avg 2K => 219.2、4K => 113.4
Call of Duty 決勝時刻：
現代戰爭II 2022，畫質設定極端、XeSS效能：
平均幀數 2K => 140；4K => 94；
Black Myth: Wukong黑神話：悟空
悟空，設定為畫質中與光線追蹤中、開啟TSR與幀數產生器：
平均幀率 2K => 129、4K => 103；
Cyberpunk 2077 電馭叛客2077，支援DLSS 4.5技術的遊戲，畫質High、XeSS Ultra Performance、Multi Frame Generation 4X：
Average FPS 2K => 283.16、4K => 173.53；
F1 24，Detail Preset設定Ultra High並開啟XeSS Ultra Performance與XeSS FG on：
Average FPS 2K => 224、4K => 154
Diablo IV 暗黑破壞神IV，品質設定光線追蹤：超高
XeSS超高效能、4X畫格生成 2K => 311 FPS；4K => 201 FPS；
先前看過有篇B70媒體測試中，同遊戲設定對上2K定位的5060Ti 16GB互有高下，甚至開光追在2077、F1 25與毀滅戰士：黑暗時代還勝過5060Ti。
以上幾款遊戲實測，4K若開最高畫質大多數遊戲FPS皆有90~100以上，僅有負載較高的黑神話：悟空FPS較低；此外若有支援XeSS 3，例如暗黑破壞神品質開啟光線追蹤：最高，搭配4x MFG多幀生成也能有200 FPS的水準。
B70用2K玩遊戲會更游刃有餘，以上測試2K皆有相當不錯的FPS效能，還是期待Intel後續能在遊戲市場推出搭載16GB的顯示卡。
室溫約27.3度，裸機運行FurMark GPU燒機時，4K解析度顯示GPU溫度76度。
同環境下裸機紅外線最高溫度出現在左方出風孔約55.3度。
B70全速時風扇近2000轉，風扇轉數不算太高、噪音值最高達50dB、音頻不至於過於尖銳或不舒服，不同於一般對於鼓風扇會產生較大噪音的印象。
本篇採用Intel工作站Xeon 658X搭配W890工作站平台，配置768GB記憶體；這系列平台最高支援86核心CPU、4TB記憶體與8通道架構，加上多GPU與儲存擴充能力，對於工作上有需求且有預算的使用者，提供更充裕的硬體資源與後續升級空間。
透過Arc Pro B70工作站平台的實際應用場景，本文深入探討了企業導入本地端AI系統的多樣化可能性。從工業設計部門的創意視覺產生，到社群行銷部門的多模態內容創作，再到客服業務的知識管理應用，展示了本地端部署在資安自由與算力掌控上的優勢。透過Open WebUI、ComfyUI、Hermes Desktop及LM Studio Bionic等工具的實際測試，我們驗證了在32GB VRAM與8通道記憶體頻寬的支援下，本地端AI工作流不僅能維持高效能，更能靈活整合不同模型與任務需求。本地端架構的穩定性與資源排程能力展現出明顯優勢。
本文所呈現的應用情境，僅為AI在企業環境中可能發揮作用的冰山一角。隨著技術的持續演化，將有更多創新應用的空間。對於正在考慮自建AI基礎設施的企業而言，內文提供了一個具備實務參考價值的架構示範與效能依據。AI的真正威力不在於單一模型的強弱，而在於如何將不同的工具與場景「編織」成一套高效的工作流。
對於有本地端AI需求的創作者或企業，B70 32GB搭配工作站平台提供了一種可行的配置方向，實際仍需依模型大小、執行速度與預算，評估是否符合自己的工作需求。
想了解或交流更多自建AI基礎設施的實務挑戰或應用，歡迎留言一同討論。