從邊緣到云:英特爾? 技術組合助力人工智能服務交付

2019 年 4 月 2 日

隨著機器學習算法日益廣泛地用于處理全球數據和增強我們的數字服務,全世界范圍內的服務提供商和最終用戶都看到了人工智能 (AI) 帶來的諸多益處。要想利用人工智能來充分把握數據機會,從數據科學工作站到云端,最后再到推理設備,無不需要一整套完備的工作流程,因為這不僅關系到數據處理,也關系到數據的移動和存儲。

推理是最終用戶與人工智能的交互方式

如今,我們正在從訓練模型轉向在現實世界中部署模型。以前,人工智能的大部分工作側重于訓練,即針對您希望提供的應用進行模型細化。但是,人工智能服務的最終用戶不會去體驗訓練過程,他們體驗的是推理,即人工智能服務的呈現。

無論最終用戶是醫療專家、科研人員,還是語音識別服務的消費者,這些服務通常必須迅速呈現對最終用戶有意義的結果。因此,除了對發送到云端的時效性較弱的數據進行推理外,受低延遲、實時推理結果需求的推動,更多的推理會發生在本地服務器和位于邊緣的物聯網 (IoT) 設備上。

挖掘數據的真正價值

在 Data-Centric Innovation Day 大會上,我們重點介紹了幾項迅速提供現實結果以及實現無縫用戶體驗的人工智能部署成果。這得益于最新推出的第二代英特爾? 至強? 可擴展處理器和英特爾? 傲騰? 數據中心級持久內存,這兩大產品為英特爾豐富的芯片產品組合再添濃墨重彩的一筆。

德克薩斯高級計算中心 (TACC) 將使用英特爾? 至強? 鉑金 8200 處理器為自己的 Frontera 系統提供動力,支持國家科學基金會資助開展的多層面先進研究。在Data-Centric Innovation Day 大會上,我們高興地宣布 Frontera 還將整合超過 100TB 的英特爾? 傲騰? 數據中心級持久內存,這是該技術第一次在如此大的規模上得到應用。這種將持久內存置于高性能計算系統附近的做法將能夠實現極其復雜的模擬、人工智能算法和內存分析。Frontera 將有助于展現在高性能計算系統上進行大規模并行人工智能推理的可能性。對于 Frontera 未來的發現,我們翹首以待。

科大訊飛是中國最具創新力的公司之一,為通信、音樂和智能玩具等行業中應用的眾多語音產品提供支持。如果該公司無法便利地處理其每天 60 億件的語音識別事務,客戶就會轉投他處。擴展數據中心容量以滿足日益增長的客戶需求是他們不斷需要面臨的挑戰,總體擁有成本是他們重點關注的問題之一。除了要應對上述挑戰,科大訊飛還在不斷開拓教育和醫療診斷等新業務。
多年來,科大訊飛積極將業務遷移到英特爾? 架構,包括采用英特爾? 深度學習加速 (英特爾? DL Boost)的第二代英特爾? 至強? 可擴展處理器。這家人工智能巨頭對英特爾的倚重,再次表明英特爾? 解決方案經濟高效地向最終用戶提供領先人工智能產品的能力。

全面的人工智能產品組合

Data-Centric Innovation Day 大會期間,我們首次發布了幾項技術,這些技術在融入傳統數據中心和云應用的同時,還將融入運行復雜人工智能工作負載的系統,而這些正是基于英特爾? 至強? 可擴展處理器的系統表現優異之處。

·         納入英特爾? 深度學習加速技術(本質上就是內置到 CPU 中的人工智能推理加速器)后,第二代英特爾? 至強? 可擴展處理器與 2017 年 7 月推出的英特爾? 至強? 可擴展處理器相比,人工智能推理吞吐量提高 14 倍。1

·         英特爾? 傲騰? 數據中心級持久內存從根本上重建了存儲金字塔,讓大量持久內存比以往更接近計算,為當前高內涵圖像分析等人工智能用例提供便利,突破了當前和未來最復雜的深度學習應用在內存方面的瓶頸。

·         英特爾? 傲騰? 固態盤 DC P4800X 系列產品為承受寫入壓力的硬盤提供更小的數據訪問延遲,即使存儲更多原始數據和結果,也能快速進行數據分析,同時還提高了關鍵應用的數據可用性。

·         面向人工智能推理的英特爾? 精選解決方案免去了選擇和部署人工智能硬件時的麻煩,將提供企業級推理系統所需的各種組件匯集在一起。有了搭載英特爾? 深度學習加速、英特爾? 傲騰? 固態盤和英特爾? OpenVINO? 工具包分發版的第二代英特爾? 至強? 可擴展處理器,這些解決方案將極大提高英特爾? 架構支持人工智能推理的能力,所有這些解決方案整合在一個包中,更方便客戶根據自身推理需求選擇適當的系統。

客戶通過多功能、高效率、高性能的英特爾? 架構實現的成果(特別是在處理非常大的工作負載時),一次又一次證明了現實世界的人工智能解決方案需要適當的系統,這個系統必須能夠平衡移動、處理和存儲日益增加的數據的需求。這不僅關乎您是否擁有適當的處理器、加速器和存儲器,還關乎您如何在計算、加速、內存、內存訪問和互連之間平衡整個系統。

以最終用戶需要的速度呈現人工智能結果

歸根結底,人工智能服務提供商的成敗要取決于最終客戶所獲體驗的質量。在類似此處討論的用例中,人工智能推理的速度和呈現結果的準確性將決定產品對最終用戶是否有意義。英特爾在Data-Centric Innovation Day 大會上發布的產品將會促成全套人工智能系統的誕生,這些系統可擴展、可部署,可以按照最終用戶所需的速度提供現實結果。有關英特爾人工智能產品組合的更多信息,請訪問 www.intel.ai2

作者

人工智能開發

英特爾? 技術可以針對您的AI開發需求進行定制,幫助您為每項工作找到最佳技術解決方案。英特爾還為開發人員、數據科學家提供AI理論和精選案例,為用戶提供前沿的AI資訊和豐富的線上線下活動。

了解更多

人工智能應用

深度學習、機器學習以及預測性分析對數據中心、工作站和設備提出了獨特的要求。英特爾? 技術可以幫助您實現從醫學發現到自動駕駛汽車智能的重大突破。

了解更多

產品和性能信息

1采用英特爾? 深度學習加速技術的英特爾? 至強? 鉑金 8280 處理器的推理吞吐量提高 14 倍:基于英特爾截至 2019 年 2 月 20 日進行的測試。雙路英特爾? 至強? 鉑金 8280 處理器,28 核,啟用超線程,啟用睿頻,總內存 384 GB(12 插槽/32GB/2933 MHz),BIOS:SE5C620.86B.0D.01.0271.120720180605 (ucode: 0x200004d),Ubuntu 18.04.1 LTS,內核 4.15.0-45-通用,固態盤 1x sda 英特爾 SSDSC2BA80 SSD 745.2GB,nvme1n1 英特爾 SSDPE2KX040T7 SSD 3.7TB,深度學習框架:面向英特爾? 架構優化的 Caffe 版本:1.1.3 (commit hash: 7010334f159da247db3fe3a9d96a3116ca06b09a),ICC 版本 18.0.1,MKL DNN 版本:v0.17 (commit hash: 830a10059a018cd2634d94195140cf2d8790a75a,型號:https://github.com/intel/caffe/blob/master/models/intel_optimized_models/int8/resnet50_int8_full_conv.prototxtBS=64,合成數據,4 實例/2 插槽,數據類型:INT8 相較于英特爾截至 2017 年 7 月 11 日進行的測試。雙路英特爾? 至強? 鉑金 8180 CPU @ 2.50GHz(28 核),禁用超線程,禁用睿頻,通過 intel_pstate 驅動程序將擴展調節器設置為“performance”,384GB DDR4-2666 ECC RAM。CentOS Linux 版本 7.3.1611 (Core),Linux 內核 3.10.0-514.10.2.el7.x86_64。固態盤:英特爾? 固態盤 DC S3700 系列(800GB,2.5 英寸 SATA 6Gb/秒,25 納米,MLC)。性能測量方式:環境變量:KMP_AFFINITY='granularity=fine,compact’,OMP_NUM_THREADS=56,CPU 頻率設置為 cpupower frequency-set -d 2.5G -u 3.8G -g performance。Caffe: (http://github.com/intel/caffe/),修訂版 f96b759f71b2281835f690af267158b82b150b5c。推理能力的測量基于“caffe time –forward_only”命令,訓練能力的測量基于“caffe time”命令。對于“ConvNet”拓撲,使用合成數據集。對于其他拓撲,數據在本地存儲,并在訓練前緩存到內存中。拓撲規格來自于 https://github.com/intel/caffe/tree/master/models/intel_optimized_models(ResNet-50)。英特爾 C++ 編譯器版本17.0.2 20170213,英特爾? MKL 小型庫版本 2018.0.20170425。使用“numactl -l”運行 Caffe。
2性能測試中使用的軟件和工作負荷可能僅在英特爾微處理器上進行了性能優化。諸如 SYSmark 和 MobileMark 等測試均系基于特定計算機系統、硬件、軟件、操作系統及功能。上述任何要素的變動都有可能導致測試結果的變化。請參考其他信息及性能測試(包括結合其他產品使用時的運行性能)以對目標產品進行全面評估。關于性能和基準測試程序結果的更多信息,請訪問 www.sgtmom.com/benchmarks。性能測試結果基于 2017 年 7 月 11 日至 2019 年 4 月 1 日期間進行的測試,可能未包含所有公開發布的安全更新。請參閱配置披露信息了解詳情。沒有產品是絕對安全的。已經使用英特爾內部分析或架構模擬或建模預測或模擬結果,該等結果僅供您參考。系統硬件、軟件或配置中的任何差異將可能影響您的實際性能。英特爾編譯器針對英特爾微處理器的優化程度可能與針對非英特爾微處理器的優化程度不同。這些優化包括 SSE2、SSE3 和 SSSE3 指令集和其他優化。對于非英特爾微處理器上的任何優化是否存在、其功能或效力,英特爾不做任何保證。本產品中取決于微處理器的優化是針對英特爾微處理器。不具體針對英特爾微架構的特定優化為英特爾微處理器保留。請參考適用的產品用戶與參考指南,獲取有關本聲明中具體指令集的更多信息(聲明版本:20110804)。由于要額外增加測試,以上基準性能測試結果可能需要修改。結果取決于測試中使用的具體平臺配置及工作負載,可能不適用于任何特定用戶的組件、計算機系統或工作負載。結果并不一定能代表其他基準性能測試,其他基準性能測試可能會不同程度地受到消除漏洞措施的影響。英特爾? 高級矢量擴展指令集(英特爾? AVX)*為某些處理器操作提供更高的吞吐量。由于處理器功率特性的變化,使用 AVX 指令可能會導致 a) 某些部件低于額定頻率工作,b)部分采用英特爾? 睿頻加速技術 2.0 的部件無法達到任何或最大睿頻頻率。性能因硬件、軟件和系統配置而異,您可以訪問 http://www.sgtmom.com/content/www/cn/zh/architecture-and-technology/turbo-boost/turbo-boost-technology.html 以了解更多信息。英特爾技術特性和優勢取決于系統配置,并可能需要支持的硬件、軟件或服務得以激活。產品性能會基于系統配置有所變化。沒有計算機系統是絕對安全的。更多信息,請見 intel.cn,或從原始設備制造商或零售商處獲得更多信息。英特爾、英特爾標識、至強、傲騰、OpenVINO 是英特爾公司或其子公司在美國和/或其他國家的商標。*其他的名稱和品牌可能是其他所有者的資產。? 英特爾公司版權所有。
国产女人-国产V女人-女人自拍国产-国产女人ed2k-国产女人bt