AI 普及化全面席捲!看全球科技大廠都在推哪些 AI 技術賣點

2021 年 COMPUTEX Forum 針對多個重點科技領域舉辦線上講座,邀請到全球最具影響力的廠商前來暢談未來十年的科技趨勢,內容涵蓋物聯網、電動車、智慧工廠、5G 通訊等等最具熱度的應用領域,但其中最令我印象深刻肯定還是「AI 應用」。

為什麼呢?AI 應用是更貼近我們生活的主題,不論是人臉辨識、影像處理、語音助理以及每天都會碰到的商品或影片推薦演算法,這些背後都是由 AI 運算所驅動的商業應用,早為科技產業創造了巨大的價值。

如果看得更遠,「自動駕駛」與「自動控制」將是下一個 AI 革新全球產業的題材,對此我非常好奇 AI 應用目前的發展階段,像是廠商都在推那些最先進解決方案?AI 應用現在商用化到哪種程度?明年科技產品會怎麼樣改變我們的生活?

COMPUTEX Forum「智慧物聯全面升級 AIoT Evolution」與「AI 賦能場域延伸 AI Empowerment」邀請到美光、Intel、Supermicro、NVIDIA、恩智浦半導體(NXP)、Arm、台達電子 以及 Check Point Software 為聽眾解讀 AI 趨勢,內容非常精彩,全球科技已經進入下一個階段:「AI 普及化」。

人工智慧已經不再稀奇,要思考的是「如何讓 AI 應用以低成本、高效率同時安全方式應用在消費者與企業日常營運之中」。

回想 COMPUTEX 2019 時,參展企業大多都以「AI 人工智慧應用」為題材,展出許多充滿想像力的未來應用,可以看出人們正在描繪 AI 應用的藍圖,探索以深度學習為基礎的圖像辨識、語言處理與推薦系統的潛在應用,對於當時的大多數人來說, AI 還是一項艱深難懂的新興技術。

當時間來到 COMPUTEX 2021,企業已經不再花費太多力氣談論如何應用 AI,而是深入討論自動駕駛、AIoT、工業 4.0 或是再生能源管理技術等等的實際應用領域,持續透過軟硬體創新來改進 AI 現有應用,短短兩年之間 AI 已經從科幻世界的技術發展成「常態應用」。

 

AI 普及化挑戰:效能與記憶體瓶頸

智慧裝置的數量正在快速成長,從智慧家居、行動裝置、智慧穿戴以及智慧城市感測網這兩年來需求大漲,使得搭載聯網功能的智慧裝置也越來越多,恩智浦半導體總裁暨執行長 Kurt Sievers 點出全球到 2025 年時,總計會有 500 億個智慧聯網裝置;Arm IP 產品事業群總裁 Rene Haas 認為聯網裝置不久後將超越全球人口數。

可以想像的是這些聯網裝置會持續產生龐大到難以想像的數據量供人類分析以及運用— 未來企業與個人的 AI 運算需求將會無處不在。Arm IP 產品事業群總裁 Rene Haas 引述 KPMG 調查指出超過一半的企業主都預計在營運中採用 AI 應用,但隨著 AI 應用普及與複雜化,效能問題便會逐漸浮現出來,過去通用運算(General Processing)的效能提供速度已經無法應付 AI 高吞吐量的複雜運算需求。

隨著商業問題複雜化,人們的聲音、動作、圖片以及任何的環境資訊都能被轉化成數據,系統會將這些數據送進運算裝置執行分析與預測,過程產生的數據量非常龐大,不可能隨時回傳資料中心處理,這時雲端會成為解以解決的效能瓶頸,實務上大多數的 AI 運算必須在終端裝置上完成。

換句話說,企業必須運用特殊運算晶片(Specialized Processing)在終端裝置處理更大規模的  AI 運算任務,對此 Arm 今年推出 Armv9 架構,將包含高擴展性的 SVE2 指令集,為人工智慧應用提供更強的運算能力,也針像是電動車、物聯網等多元應用場景提供全面運算(Ubiquitous Processing)功能,未來企業將能利用 Armv9 架構提供更全面的運算產品。

為了協助企業更快佈署 AI 應用,Arm 透過 Arm Flexible Access 專案協助夥伴以最低商業風險的方式取得 Arm 的 IP 產品組合,允許夥伴快速打造以 Arm 處理器為基礎的運算裝置。

接著讓我們把焦點移到 x86 架構,Intel 業務行銷暨公關事業群副總裁、人工智慧、高效能運算與資料中心加速器解決方案與業務總經理 Nash Palaniswamy 指出,Intel 針對雲端及 AI 運算推出第三代 Xeon 處理器產品線,除了強調 Intel 獨有的 AVX-512 向量指令集、改進效能與能耗,Intel Xeon 處理器也對主流 AI 算法進行優化,綜合下來能為 Scikit-Learn 、Tensorflow 、OpenVINO 等 AI 演算法平台提供數倍、甚至數十倍的加速表現。

當美光資深副總裁暨運算和網路事業部總經理Raj Hazra 談到 AI 演算法原理是透過輸入數據、以數據訓練模型並運用模型預測結果,最終目的則是要真的能解決問題,他表示越來越多企業懂得運用 AI 來解決商業問題,到 2025 年時 90% 企業服務都會應用 AI 演算法,AI 應用正以驚人的速度在各領域迅速普及。

隨著 AI 應用普及,挑戰隨之而來,現在不是「只有 AI 應用」就足夠了, AI 還要達到令人滿意的效能,模型才能以更精準有效地解決問題,但越高的效能意味著更複雜的 AI 模型,所需的資料量也會跟著變大,背後所需的運算能力已經不是單純的線性成長,而是以「指數」成長,對此裝置吞吐數據的頻寬與儲存空間必須滿足「飢餓」的運算需求,其中的關鍵就在於「記憶體」。

Raj 強調記憶體是 AI 創新的重要核心,人工智慧遇到的最大挑戰是記憶體頻寬瓶頸,美光希望透過高效能與低功耗的 DRAM 與儲存產品,協助客戶擴展 AI 應用方案,他強調不只是 Scale up,還要可以 Scale out ,AI 運算不是只有在資料中心進行,必須部署這些 AI 應用到數十億個終端裝置,利用邊緣運算來解決現實問題。

更進一步思考,大多數的商業問題不會只是單一問題,而是由數十、數百個問題所組成,資料中心必須擁有分散式運算的能力,當處理規模龐大的演算法問題時,硬體架構要能平行處理多個任務,依照不同的運算問題分配對應的硬體資源,對此美光以高性能與高擴展性的多元記憶體與儲存方案來解決,能對應不同的運算場景替企業解決運算擴容問題。

 

邊緣運算與工業 4.0

伺服器系統大廠 Supermicro 則聚焦「5G 基礎建設趨勢」,他們強調 5G 通訊將帶來快的傳輸速度、網路延遲與頻段效率,將大大改變我們的生活方式,但由於 5G 採用更高的波段頻率,將使得基地台的覆蓋範圍縮小,電信公司必須為此佈署更多的基地台,同時意味著更龐大的硬體成本。

為了提高硬體使用效率,電信商選擇利用虛擬化與容器技術來為終端用戶提供數位服務,5G 邊緣運算將會成為擴展通訊服務的關鍵架構,這次美超微專為電信商推出 OpenRUN 伺服器產品,提供了更多 PCIe 擴充空間,客戶可以透過加速卡擴充讓伺服器具備即時 AI 推理運算、定時與資料監控等功能,更可以支援到第三代 Intel Xeon 處理器與 FPGA 加速器,可讓伺服器具備邊緣運算能力,為終端用戶供應應用程式即時運算需求。

另一方面,蒐集資訊也是 AI 應用非常重要的一環,關鍵在於把實際問題的重要環境資訊捕捉到 AI 模型當中,如果要解決更複雜的現實問題,系統必須更即時且精準捕捉外部環境資訊,「精準感測(Precision Sensing)」於是成為物聯網廠商的重點研發方向。

這次恩智浦半導體(NXP)推出超頻寬(Ultra-Wide Bandwidth)SoC 解決方案,可以讓智慧邊緣裝置具備「空間感知能力」,更提供安全的高品質通訊功能,讓消費者的智慧裝置精確且安全地與終端物聯網裝置溝通,今年上市的三星 S21+ 與 SmartTag+ 便應用了恩智浦的 UWB 晶片,目前也正與車廠合作把 UWB 技術帶進汽車。未來用戶可以安全快速地使用手機 UWB 功能解鎖車門,智慧物聯網(AIOT)技術正讓人類的生活變得更方便。

談完物聯網,2021 年的重點絕對脫離不了電動車,「電動車是最複雜的邊緣運算裝置」,車用晶片大廠恩智浦如此強調,除了車上配置的多項感測器,自動或是輔助駕駛必須處理現實中極度複雜多變的駕駛環境,過程中自然會產生龐大的數據量,車用處理器需要應付高吞吐量的運算需求— 恩智浦的 S32G 系列 SoC 採用台積電 16nm 製程,能夠整合電子控制裝置與聯網功能,同時符合車用晶片的高安全需求,協助新一代聯網汽車提高效能與通訊安全。

除了車用與感測技術外,工業 4.0 也是 AI 邊緣應用的重要場景,台達電子台達研究院陳鴻欣博士就向觀眾演示自動缺陷分類(ADC)解決方案的工作流程,系統會先蒐集瑕疵品的圖像資料,輸入進圖像辨識演算法進行深度學習訓練,進而使系統自動辨識與偵測產品瑕疵,藉此提升不良品的辨識率,同時降低誤判率。

預測性維護(PdM)是台達電 AI 應用方案之一,該軟體能連線 PC-based 控制系統隨時診斷機台運作情形,協助企業在產線出現錯誤前提早發現異常,最後台達電更推出數位雙生( Digital Twin )解決方案,可透過設備聯網蒐集到的製程數據,建立出虛擬的製程模型,等於是將實體工廠的設備控制系統複製出另一個虛擬工廠,工程師可以利用該虛擬工廠進行模擬操作與測試生產,藉此最佳化產線的良率與產能。

NVIDIA 製造與工業全球業務開發負責人 Jerry Chen 也在 AIoT 論壇暢談注入 AI 的工業系統如何面對數位轉型挑戰,他將 AI 比喻成人類另一波的工業革命,未來企業在製造端將導入更多的 AI 應用以提升產能與良率,像是 NVIDIA 運用 AI 模型設計主機板的散熱器,類神經網路模型一旦訓練完成,可以數秒內產生 2.5 萬種參數組合,協助企業在有限的空間從中找出最佳化設計。

例如 NVIDIA 與 BMW 車廠合作在汽車組裝上導入 NVIDIA Issac 平台,嘗試在產線部屬工程機器人,利用人工智慧模型讓機器人具備流程規劃、物件偵測與姿態估計功能

最值得注意的是機器人電腦中的 AI 模型是在 NVIDIA Omniverse 虛擬環境進行訓練,該學習平台預先載入了工廠內所有的環境物理參數,允許企業在安全無風險的環境下持續訓練並改進 AI 效能,他更提到最終目標是將整個 BMW 工廠虛擬化成一個數位模型,企業隨時可以在模型上調整參數、模擬產出結果,最終佈署到實際的生產線當中。

 

資安結合 AI 演算法偵測惡意行為

最後則是由 Check Point Software 北亞區技術總監侯嘉俊(Kev Hau)分享他們如何運用 AI 來對付日益複雜的駭客攻擊問題,他指出自從 2020 年疫情爆發起來,全球 87% 員工改為遠距工作,企業在遠距辦公應用的新挑戰在於如何確保員工的資訊安全,主要問題是企業無法完全控制員工的終端裝置與雲端服務工具。

過去企業網路只需要以內部防火牆搭配 VPN 讓與戶遠端連線進伺服器即可,但為了遠距辦公,企業會採用多種雲端 SaaS 方案來維持生產力,這時企業的終端裝置因此陷入險境,缺少了本地防火牆的保護,員工的終端裝置必須使用多組帳號獲取多個雲端服務的內容,使得帳號安全暴露在釣魚信件與駭客攻擊的風險之中。

對此資安專家認為疫情期間網路攻擊增加了 70%,每天約有 2 萬件攻擊發生,Kev 強調 Check Point 旗下的 Harmony 資安服務以「Secure Access Service Edge (SASE)」架構出發,以零信任(Zero Trust)架構保護遠端連線用戶的資訊安全。

Harmony 整合多項網路資安防護功能,並且結合 AI 資安演算法偵測網路威脅,他們的演算法可以分析數百萬個威脅指標(IOC),再以這些指標為學習基礎,從網路中偵測類似的威脅指標:AI 算法也可用於偵測駭客的惡意行動,幸好駭客鮮少從頭撰寫全新的惡意程式,大多是用現成的惡意軟體進行攻擊,因此具備特定的行為模式:

他們利用這些數以百計的特徵數據訓練 AI 模型,讓演算法為這些特徵進行自動分類,從中歸納出潛在的惡意行為。

平均而言,系統一週會分析高達 5,900 萬筆威脅,偵測到 3,000 個惡意行為針對 40 項數位資產,其中 11 項資產確實被病毒感染,上述分析需要大量的運算能力,而 AI 演算法非常有幫助,能提供更快的反應速度與更好的預測能力,解決日益複雜的企業資安問題。

 

雲端服務 + 邊緣運算 + 資安

幾年前 AI 還被許多人戲稱為泡沫,但現在 AI 應用早已大規模滲透到生活當中,我們每天都會用到的臉部辨識、影片濾鏡、語音助理、影音平台的推薦演算法,以及充滿話題性的自動駕駛都是人工智慧所驅動的科技應用,正在快速顛覆全球產業。

但 AI 仍然是大公司才能夠實現昂貴應用,全球 AI 產業正努力讓讓 AI 應用更簡單、成本更低而且更好用,便是這次 COMPUTEX 2021 Virtual 的 AIoT Evolution 及 AI Empowerment 論壇聚焦的主要議題,從上述的分享可以看出來,廠商所提出的解決方案都是以他們自身多元豐富的軟硬體產品組合為基礎,打造出模組化的 AI 開發方案,提供中小企業以低成本的方式取得佈署 AI 應用的管道。

即使企業沒有 AI 研究人才也沒關係,科技公司早已準備好完整的 AI 模板套件供客戶開發使用,只要修改 AI 模板套件就能快速為產品或營運導入 AI 演算法,這是經過許多人的努力與投入,目前基礎的 AI 應用已經不像是幾年前那樣難以導入,例如影像視覺辨識、影像處理或是推薦系統都有許多現成的解決方案可供使用。

你或許會好奇,當 AI 應用的成本有效下降之後,下一步會是什麼?目前仍有許多複雜的現實問題需要 AI 解決,人們仍在探索人工智慧是否能解決這些難題,例如全自動駕駛、自動控制、虛擬工廠、應用自然語言處理、機器視覺、新藥研發、量子電腦等等領域有待我們去逐步探索。

永遠要相信科技一直以超越我們想像的速度進化,創新能量是永遠不會停止,總有人能想出更有創意的應用來解決更複雜的問題,說不定 COMPUTEX 2022 會給我們更具體的方向,還請讀者期待明年的資訊論壇。

 

如果你對 AI 應用論壇的內容有進一步興趣,可以直接用下方連結觀看:
https://pse.is/3fhpsj

目前 #COMPUTEXVirtual線上展還有一個星期左右開放觀展,請好好把握機會,只需要點擊下方連結就能免費註冊觀展,在家也能一窺 2021 年各家企業的最新資通解決方案:
https://pse.is/3gy4ee