科技

NVIDIA AI Enterprise 使 AI 落地節奏明快流暢

Vendor Icon

CIO Taiwan

9月. 29, 2022

▲ NVIDIA 資深資料科學家 Andrew Liu。

Leadership Forum 2022

AI Enterprise 不僅整合各種 AI 框架與工具,也預先與 VMware、OpenShift 等虛擬機器或容器平台,以市場上所有主流的伺服器或公有雲進行最佳化驗證,使企業無需耗時費力進行設定或優化,便可加速建構高效率 AI 系統。

文/明雲青


所皆知,AI 在數位轉型推動過程,一向扮演要角;無論半導體、醫療、金融、零售…等產業,皆需借助 AI 解決產銷人發財各種問題。

NVIDIA 資深資料科學家 Andrew Liu 說,5年前 NVIDIA 必須透過應用實例分享,讓企業理解 AI 用途。但從 2、3年前起,企業已明白 AI 的功用,甚至不少企業已部署 AI,但迄今仍有未解的難題,不知如何加快 AI 模型上線的節拍(Cycle Time)。Andrew Liu 認為,企業欲克服這個挑戰,需要重整 AI 基礎建設。

持平而論,現今 AI 觸角不只延伸到產業或企業,更已縱深到企業內部不同職能。例如人資部門利用 AI 預測離職率;客服部門利用自然語言處理(NLP)技術實現 Chatbot 智能客服;品檢部門利用 AI 結合自動光學檢測(AOI)執行自動化瑕疵檢測;而銀行或券商的風險管理部門也利用 AI 模型進行詐騙偵測。但平均每個 AI 模型上線時間長達 8.6 個月實在太久。

Andrew Liu 說,深究其因,資料科學家的強項是建模,但因需要先在組織內部跨單位建立共識和蒐集資料,接續的系統整合工作亦相當繁瑣,來回的溝通與執行相對拉長了讓模型上線的時間。此外,更由於目前多數企業的AI伺服器規格都是較初階的版本,讓模型開發速度變得緩慢,連帶延宕資料科學家檢視模型績效、修正模型參數的效率。

「當務之急。企業需建構一套高效率的系統,讓資料科學家真正專心建模,」Andrew Liu 說,為此 NVIDIA 根據過往 7、8年與企業互動的心得,打造 AI Enterprise 端到端套件,針對上層的各式框架與工具,中層的 VM 與容器管理機制,以及底層的伺服器或雲端平台,預先做了最佳化驗證與整合,讓企業得以大幅簡化 AI 開發與部署流程,亦無需擔心 GPU Driver、CUDA Driver 與 OS 之間的相依性,快速翻轉過往 AI 系統的低效窘態。

另值得一提,NVIDIA 特別在雲端建立 LaunchPad,不僅備妥雲端託管式的企業級人工智慧訓練平台 (Base Command Platform),還提供各式實際操作實驗室,讓企業利用兩週的時間免費試用,親身感受高效建模的體驗;若對試用結果滿意,可參照雲端架構,將相同 Appliance 直接導入地端環境做使用。


(本文授權非營利轉載,請註明出處:CIO Taiwan)

內容來源

author avatar
CIO Taiwan
IDG集團的媒體品牌CIO於1987年創刊,為國際性最權威的IT管理專業雜誌。擁有全球最頂尖的IT管理專家作者群,因此能寫出最權威的分析評論、最先進的IT管理觀念。
donate plan

充電計畫

喜歡這篇文章嗎?歡迎幫作者充電,好內容值得更多人支持

瞭解詳情