2024-01-05
AI PC元年降臨!Intel、AMD搶推NPU處理器,高通轉攻電腦晶片市場,重塑全球科技版圖?
若說2023年是「生成式AI元年」,2024年將會是「AI PC元年」!科技業界看好具備生成式AI運算能力的個人電腦,將會帶領PC產業走出低谷。電腦晶片兩大霸主Intel、AMD爭相推出內建NPU的AI處理器,甚至手機晶片大廠高通也跨入此領域。即將舉行的全球最大消費電子展CES 2024,展場焦點也會從電動車轉移至AI PC。究竟這類電腦會否真的成為未來爆紅產品?
AI PC降低AI反應延遲時間
當下大家所用的生成式AI均是架設在雲端伺服器上,例如最多人用的ChatGPT,是安放在微軟(Microsoft)旗下的Azure雲端數據中心。電腦用戶必需透過互聯網,連線至Azure雲端平台,才可以使用ChatGPT,但如此一來一回,顯然會產生時間延遲。
科技界認為,更理想的方案是在用戶端的電腦上直接運行AI工具,不用再遠距存取雲端平台,這樣既可以降低AI反應延遲時間,又可以保障用戶私隱或公司機密。惟問題是一般個人電腦難以容納生成式AI所需的大型語言模型(Large Language Model);就算勉強安裝和執行,運算速度亦未必理想。因此,具備可以執行生成式AI能力的AI PC就應運而生。
NPU將成未來電腦重要規格
一部電腦需要獨立執行規模多大的語言模型,方可被定義為AI PC,目前並沒有統一標準。現今AI PC一般可執行70億個參數的語言模型,這比起ChatGPT所用的1,750億個參數當然是相距甚遠,但如此規模的語言模型已可滿足大部分人的日常需求。
業界暫時的共識是,電腦起碼要內置「神經網絡處理器」(Neural-network Processing Unit,NPU),才可算是AI PC。目前消費者選購電腦時,主要看重CPU中央處理器的時脈速度、以及GPU圖像處理器的顯示效能。
但來到生成式 AI年代,NPU將會變得更加重要,因為它可以讓PC實現更強大的生成式AI運算能力。為求搶佔AI PC市場,英特爾(Intel)、超微(AMD)兩大電腦晶片商均爭相把NPU整合至旗下處理器;教人意想不到的是,手機晶片商高通(Qualcomm)忽然加入戰團,發表內建NPU的PC處理器。
AMD Ryzen讓PC脫離雲端
2023年5月,AMD搶先發布可強化AI運算與顯示效能的Ryzen PRO 7040系列處理器,首度加入獨立的NPU核心引擎「Ryzen AI」,可讓PC脫離互聯網與雲端平台,僅在電腦上執行AI運算。此外,用戶又可選擇把AI運算任務分派到電腦與雲端伺服器之間,達到協同加速的效果。
AMD Ryzen PRO 7040處理器是全球首顆在x86處理器內建NPU核心,可讓用戶享有更強大的AI運算能力。(圖片來源:AMD官網)
支援Ryzen AI的合作夥伴包括Adobe、Microsoft、Zoom、Cyberlink 、Avid、Luminar等。Ryzen AI的加速功能項目現已逾100個,例如可以幫助《Adobe Photoshop》、《Premiere Pro》、《After Effect》、《Lightroom》等設計軟件推升效能。
Intel AI筆電大軍整裝待發
2023年9月,Intel發表筆電處理器Core Ultra,除內置CPU與GPU外,更加入可用於AI推論(Inference)加速的NPU,成為英特爾旗下首款整合NPU的晶片產品。它藉由NPU核心,統合CPU與GPU的運算力,大幅提升筆電的AI運算效能,電池續航力也可增加2.5倍。
Intel Core Ultra處理器內建2顆NPU核心AI Boost,能夠推升AI運算能力,並實現高效能低功耗的處理方式。(圖片來源:Intel官網)
在Intel振臂一呼下,Acer、Asus、Dell、Gigabyte、Lenovo、LG、MSI等電腦廠商,已紛紛發表內置Core Ultra處理器的AI筆電,合計有230款產品,預計這種新型筆電將會是CES 2024會場上的焦點。英特爾預估,2028年AI PC可望佔據全球個人電腦市場的8成份額。
ASUS推出AI筆電Zenbook 14 OLED,採用Intel Core Ultra中央處理器,內建Arc圖像處理器與AI Boost神經網絡處理器,並配備1TB SSD硬碟、32GB記憶體與WiFi 6E技術。(圖片來源:ASUS官網)
高通自家研發首枚PC處理器
2023年10月,高通發表專為 AI PC而設Snapdragon X Elite處理器,匯集了自家研發的Oryon CPU、Adrendo GPU、以及Hexagon NPU。CPU採用12核心設計,最高時脈速度為3.8 GHz;GPU支援 4K 60p 10bit的H.264/HEVC(H.265)/AV1 影像編碼;NPU部分可以執行逾130億個參數的大型語言模型。
高通宣稱,Snapdragon X Elite的CPU效能是Intel處理器的兩倍,耗電量則為同級對手的三分之一,AI運算能力更是對手的4.5倍。該公司表示,採用這款處理器的筆電將於2024年中上市,首發廠商包括Microsoft、Dell、Lenovo、以及HP。
高通Snapdragon X Elite是一款包含Oryon CPU、Adreno GPU、Hexagon NPU、記憶體、WiFi、以及藍牙通訊模組的單晶片AI處理器。(圖片來源:Qualcomm官網)
AI PC真正爆發還看2025年
若要吸引消費者換機,單靠硬件升級當然不行,必需有殺手級軟件搭配使用,尤其是《Windows》內的AI應用,始有足夠叫座力。譬如AMD Ryzen AI支援《Windows 11》內的《Windows Studio Effects》,能夠加速其自動取景、背景模糊等,但這算不上是很有吸引力的AI功能。
至於較多人使用的微軟AI工具《Copilot》,背後運算全靠OpenAI 的GPT-4大型語言模型,必需連上Azure雲端使用,故此電腦內是否有NPU毫不重要。除非微軟能夠推出一款讓用戶覺得非用不可、又要用到NPU加速的殺手級AI應用,否則AI PC可能會無法爆紅起來。
AMD財務長胡錦(Jean Hu)指出,長遠來說雲端無法處理所有AI運算,始終有很多AI工作需要在用戶端執行,但認為AI PC真正成熟的時間點應該不是2024年,而是2025年,屆時肯定會迎來巨大成長動能(Tremendous Momentum)。高通執行長克里斯蒂亞諾·阿蒙(Cristiano Amon)也認同,2025年很可能就會是AI PC的關鍵時刻。有消息指,AI晶片龍頭輝達(Nvidia)現正基於ARM架構研發PC處理器,預計最快在2025年面世,看來該公司同樣視2025年為AI PC的真正爆發年喔!
「延伸閱讀」:
【半導體版圖大洗牌】Intel霸權衰落,AMD、Apple背靠台積電強勢崛起!
AI晶片三強激鬥!AMD推出AI加速器、Intel轉向純GPU架構,劍指NVIDIA龍頭地位?
《經濟通》所刊的署名及/或不署名文章,相關內容屬作者個人意見,並不代表《經濟通》立場,《經濟通》所扮演的角色是提供一個自由言論平台。
【你點睇】當局擬放寬九龍東商業區土地用途,有議員認為應推廣至全港都開放些少,你是否認同?► 立即投票