高通與IBM擴大合作，實現(xiàn)企業(yè)級生成式AI規(guī)?；?/h1>

作者： 時間：2025-03-05 來源：科技新報

• 加入技術交流群
  • 
    掃碼加入
    和技術大咖面對面交流
    海量資料庫查詢

收藏

在2025年巴塞羅那世界移動通信大會（MWC）揭開序幕前，高通與IBM宣布擴大合作，推動企業(yè)級生成式AI解決方案實現(xiàn)于邊緣與云端裝置，旨在提供更高的即時性、隱私性、可靠性、更個人化的體驗，同時降低成本和功耗。

雙方計劃將 watsonx.governance 整合至搭載高通平臺的生成式 AI 解決方案，通過高通 AI 推論套組（Qualcomm AI Inference Suite）和 Qualcomm AI Hub 支持 IBM 的 Granite 模型。

高通高級副總裁暨技術規(guī)劃與邊緣解決方案總經(jīng)理Durga Malladi表示，很高興與IBM合作，為邊緣與云端裝置提供尖端的企業(yè)級生成式AI解決方案。 這項合作讓企業(yè)能夠部署快速且個性化的 AI 解決方案，還具備強大的治理、監(jiān)控與決策能力，能進一步提升從邊緣到云端的 AI 整體可靠性。

IBM 數(shù)據(jù)與 AI 部門總經(jīng)理Ritika Gunnar指出，通過將IBM的 watsonx.governance及 Granite 模型進行優(yōu)化，以適用于 Snapdragon 和 Qualcomm Dragonwing平臺，使企業(yè)無論數(shù)據(jù)位于何處都能充分發(fā)揮AI的顛覆性力量。

目前高通與IBM計劃在Snapdragon 8 Elite參考設計、以及配備高通AI推論套組的Qualcomm Dragonwing AI本地設備解決方案（On-Prem Appliance Solution）上運行 watsonx.governance、Granite Guardian 8B 和 Granite 3.1 8B 模型。 這些模型協(xié)同運作，為邊緣端提供端到端的生成式 AI 解決方案，其中包含支持模型部署與運行、監(jiān)控、強化決策能力的防護機制。

透過這項合作，高通技術公司和IBM將裝置上推理、低功耗和隱私保護特性，與 watsonx 的強大效能進行結合，以協(xié)助企業(yè)因應 AI 解決方案在安全性、效率、可靠性及治理方面的問題。

高通已針對 Qualcomm AI Hub 優(yōu)化 IBM Granite 3.1，幫助開發(fā)人員和企業(yè)在邊緣端充分利用AI 的潛力。 雙方將擴展 Qualcomm AI Hub 與 IBM watsonx 的合作，透過 watsonx.governance 功能，為設備上模型提供治理與負責任的防護機制。 此外，高通云端 AI 加速器系列已獲得 Red Hat OpenShift認證，實現(xiàn)真正的混合云部署。