AI大模型時代,算力如何“走完最后一公里”?

隨著ChatGPT爆火,AI大模型成為“全球頂流”,其背后的“發(fā)動機(jī)”——算力,也得到了前所未有的關(guān)注。AI時代,算力成為基礎(chǔ)設(shè)施,在千行百業(yè)中智能化應(yīng)用不斷落地的過程中,除了“遠(yuǎn)在天邊”的云計(jì)算,“近在眼前”的邊緣計(jì)算也不可或缺。智慧交通、智慧園區(qū)、智慧工廠……邊緣計(jì)算正在加速各行各業(yè)的智能化轉(zhuǎn)型。
一
自帶五大光環(huán)
不“邊緣”的邊緣計(jì)算
AI時代,數(shù)字化、智能化技術(shù)在各行業(yè)不斷落地,海量本地?cái)?shù)據(jù)需要處理,全部“上云”成本高企且意義不大,因此邊緣計(jì)算應(yīng)運(yùn)而生。通常來講,邊緣計(jì)算可以被看作對云計(jì)算的補(bǔ)充。如果將云計(jì)算中心比喻為大腦,那么邊緣計(jì)算更像是遍布全身的神經(jīng)系統(tǒng),聯(lián)結(jié)到各個智能終端。由于更靠近設(shè)備端與用戶,邊緣計(jì)算從誕生之日起就自帶“光環(huán)”:
降低帶寬依賴:邊緣計(jì)算對價(jià)值密度小的海量原始數(shù)據(jù)進(jìn)行預(yù)處理和分析挖掘,將產(chǎn)生的高價(jià)值洞察傳送到云端,極大程度上降低了對帶寬的依賴;
低時延:一方面,邊緣計(jì)算通過在網(wǎng)絡(luò)邊緣進(jìn)行數(shù)據(jù)處理,降低了因數(shù)據(jù)在終端和云端之間多跳傳輸產(chǎn)生的時延。另一方面,利用優(yōu)化的邊緣算力進(jìn)行數(shù)據(jù)處理,也比利用有限的終端算力進(jìn)行數(shù)據(jù)處理所產(chǎn)生的計(jì)算時延更低;
更經(jīng)濟(jì)的智能:邊緣計(jì)算將AI模型推理卸載到邊緣節(jié)點(diǎn),并在邊緣節(jié)點(diǎn)上通過GPU、加速硬件虛擬化等機(jī)制提高模型推理的并發(fā)能力,以一種經(jīng)濟(jì)有效的方式實(shí)現(xiàn)應(yīng)用智能;
高可靠:針對嚴(yán)苛物理環(huán)境設(shè)計(jì)的邊緣計(jì)算硬件,配合離網(wǎng)自治、云邊協(xié)同的高可用邊緣計(jì)算軟件平臺,為應(yīng)用在邊緣環(huán)境下持續(xù)穩(wěn)定運(yùn)行保駕護(hù)航;
數(shù)據(jù)可控:邊緣計(jì)算能實(shí)現(xiàn)敏感數(shù)據(jù)不出本地,避免了數(shù)據(jù)傳輸過程中可能的泄露、遺失、篡改等風(fēng)險(xiǎn)。此外,還可以實(shí)現(xiàn)更可控的本地?cái)?shù)據(jù)存儲和管理,降低數(shù)據(jù)風(fēng)險(xiǎn)。
五大光環(huán)構(gòu)筑了邊緣計(jì)算的獨(dú)特優(yōu)勢,“邊”也已經(jīng)成為聯(lián)想“新IT”架構(gòu)“端-邊-云-網(wǎng)-智”中的重要組成部分。當(dāng)今全球智能化轉(zhuǎn)型不斷深化,而邊緣計(jì)算作為智能化的基礎(chǔ)設(shè)施,更是引領(lǐng)了各行各業(yè)智能化轉(zhuǎn)型的浪潮。
二
邊緣硬件+邊緣云+邊緣智能+應(yīng)用
聯(lián)想打造領(lǐng)先邊緣生態(tài)
作為千行百業(yè)智能化轉(zhuǎn)型的賦能者,聯(lián)想以“邊緣計(jì)算”為新IT架構(gòu)中的核心抓手,促進(jìn)端邊云網(wǎng)一體化協(xié)同,構(gòu)建行業(yè)專屬的新型智能解決方案。聯(lián)想從邊緣計(jì)算硬件、邊緣云、邊緣智能、邊緣應(yīng)用方面,打造行業(yè)領(lǐng)先的邊緣計(jì)算生態(tài)。
邊緣計(jì)算硬件:包括豐富的支持x86及ARM架構(gòu)的云終端、智能網(wǎng)關(guān)、工控機(jī)及邊緣服務(wù)器。云終端是智能化集中管理的計(jì)算設(shè)備,可以搭配云桌面軟件和云桌面主機(jī)為客戶提供整體解決方案;智能網(wǎng)關(guān)兼容主流工業(yè)協(xié)議,覆蓋Intel、NVIDIA Jetson和ARM架構(gòu),廣泛應(yīng)用于物聯(lián)網(wǎng)和AI視覺場景;工控機(jī)形態(tài)多樣,靈活的擴(kuò)展性、高穩(wěn)定性、長生命周期供應(yīng)和服務(wù)支持能力,可應(yīng)用于工業(yè)控制、設(shè)備配套、機(jī)器視覺等多種場景為客戶提供高性價(jià)比的場景化部署;邊緣服務(wù)器在性能、擴(kuò)展能力、易用性等方面都具有突出表現(xiàn) ,是為遠(yuǎn)程站點(diǎn)部署、邊緣云、邊緣人工智能和OTII等邊緣計(jì)算場景量身定制的邊緣系統(tǒng),為企業(yè)智能化轉(zhuǎn)型過程中所產(chǎn)生的龐大數(shù)據(jù)提供高性能、高可靠的算力支撐。
這些邊緣設(shè)備既發(fā)揮了聯(lián)想硬件的傳統(tǒng)優(yōu)勢,也能量身定制,解決了多場景、碎片化的難題。比如防塵、產(chǎn)品小巧、安全堅(jiān)固、易拆卸等都是針對行業(yè)特有場景定制而成。
聯(lián)想邊緣計(jì)算硬件
邊緣云:聯(lián)想邊緣云是以邊為核心、支撐“新 IT” 技術(shù)架構(gòu)的邊緣計(jì)算軟件平臺,提供軟件定義的經(jīng)濟(jì)高效、可靠安全、云邊協(xié)同、可遠(yuǎn)程管理的邊緣計(jì)算基礎(chǔ)設(shè)施,對底層異構(gòu)的邊緣硬件進(jìn)行抽象,以容器和虛機(jī)的統(tǒng)一形式支持邊緣業(yè)務(wù)應(yīng)用的多樣性算力、存儲和網(wǎng)絡(luò)需求,并為應(yīng)用提供從部署監(jiān)控到更新升級的全生命周期管理。它針對物理防護(hù)缺失的邊緣環(huán)境提供從平臺到應(yīng)用的全棧安全保障。聯(lián)想邊緣云還支持遠(yuǎn)程全棧智能運(yùn)維,實(shí)現(xiàn)偏遠(yuǎn)現(xiàn)場邊緣無人值守,顯著降低運(yùn)維管理成本。
聯(lián)想邊緣云架構(gòu)
邊緣人工智能平臺:聯(lián)想邊緣人工智能平臺,通過專業(yè)領(lǐng)先的Edge AI領(lǐng)域自適應(yīng)小樣本終身學(xué)習(xí)技術(shù),云-邊-端全場景模型管理系統(tǒng),可實(shí)現(xiàn)AI方案的模型導(dǎo)入、部署、監(jiān)控、運(yùn)維的全生命周期管理。聯(lián)想向行業(yè)客戶提供深度優(yōu)化的邊緣訓(xùn)練AI一體機(jī),可基于少量樣本訓(xùn)練模型,實(shí)現(xiàn)領(lǐng)域自學(xué)習(xí)和本地更新,提供邊緣推理AI一體機(jī),內(nèi)置聯(lián)想自研模型,實(shí)現(xiàn)高性能異構(gòu)芯片上的推理加速。
聯(lián)想邊緣人工智能平臺
邊緣計(jì)算應(yīng)用:聯(lián)想邊緣計(jì)算應(yīng)用一方面助力電信運(yùn)營商利用5G MEC賦能行業(yè)客戶,另一方面直接為客戶提供垂直場景的智能化轉(zhuǎn)型方案。通過支撐三大運(yùn)營商5G商業(yè)化與直接賦能客戶,聯(lián)想雙管齊下,積極探索制造、教育、醫(yī)療、健康、環(huán)保等行業(yè)的多元場景,為客戶的智能化轉(zhuǎn)型提供豐富的應(yīng)用支持。
三
聯(lián)想創(chuàng)新“邊緣”方案
探索多元應(yīng)用場景
目前,聯(lián)想邊緣計(jì)算已經(jīng)在智能制造、智慧園區(qū)、智慧城市等多個場景下進(jìn)行應(yīng)用,以領(lǐng)先的邊緣生態(tài),便捷、高效、安全、可靠地支撐各行業(yè)的邊緣應(yīng)用,賦能各行各業(yè)智能化轉(zhuǎn)型。
1 智能化生產(chǎn)線應(yīng)用及管理優(yōu)化
隨著工業(yè)互聯(lián)網(wǎng)的發(fā)展,很多企業(yè)都在產(chǎn)線上部署了各種各樣的智能應(yīng)用。以機(jī)器視覺的產(chǎn)品質(zhì)檢為例,傳統(tǒng)質(zhì)檢方案準(zhǔn)確率低,質(zhì)量缺陷種類繁多、復(fù)雜、細(xì)微、不易捕捉,且產(chǎn)品型號更迭頻繁,參數(shù)變換多樣,多條產(chǎn)線難以協(xié)同管理。聯(lián)想工廠中部署了多個不同場景的產(chǎn)線智能應(yīng)用,例如前拍后檢應(yīng)用,螺絲鎖付檢測、內(nèi)觀檢測、屏幕質(zhì)量檢測等,大大提高了產(chǎn)線的智能化及生產(chǎn)效率。
聯(lián)想邊緣云支撐了這些智能化應(yīng)用統(tǒng)一部署,全面整合硬件資源,對智能應(yīng)用進(jìn)行全生命周期管理,實(shí)現(xiàn)透明的彈性伸縮和智能的故障發(fā)現(xiàn)及修復(fù),既避免了資源浪費(fèi),又降低了管理難度與成本。
同時聯(lián)想打造的智能方案和應(yīng)用也正在助力行業(yè)智能化變革,例如,在冠捷科技LCD屏幕產(chǎn)線上部署聯(lián)想樂眼智能檢測方案后,企業(yè)降低約50%的人力成本、檢測效率提高30%、準(zhǔn)確率提高30%。避免了人眼質(zhì)檢的諸多弊端,統(tǒng)一了作業(yè)標(biāo)準(zhǔn)、提升了整體產(chǎn)能,幫助冠捷實(shí)現(xiàn)智能化工廠轉(zhuǎn)型。
智能化生產(chǎn)線應(yīng)用管理優(yōu)化方案
2 邊緣海量視頻存算一體支撐下的智慧城市
隨著物聯(lián)網(wǎng)、5G等技術(shù)的普及,以及人工智能應(yīng)用場景的不斷擴(kuò)大,在智慧城市、智慧能源、智能安防、智慧零售等多個領(lǐng)域,內(nèi)對視頻攝像頭產(chǎn)生的海量數(shù)據(jù)進(jìn)行高效處理成為迫切需求。傳統(tǒng)方式將視頻數(shù)據(jù)傳輸?shù)皆浦行奶幚聿⒋鎯γ媾R帶寬需求極大、時延難以滿足要求等挑戰(zhàn)。聯(lián)想以邊緣云存算一體化技術(shù)對海量視頻進(jìn)行邊緣側(cè)存儲、管理、智能化分析。云-邊-端智能協(xié)同實(shí)現(xiàn)算法的按需在線部署和統(tǒng)一管理,支持跨域資源協(xié)同和數(shù)據(jù)訂閱共享。
目前方案已經(jīng)成功應(yīng)用到某智慧城市項(xiàng)目,同時支持橫向與縱向擴(kuò)展性,滿足10萬路以上攝像頭存儲、分析的需求;云邊結(jié)合實(shí)現(xiàn)了1主中心+N分中心的全域跨網(wǎng)協(xié)同管理能力;降低客戶硬件投入30%、減少運(yùn)維成本50%。
邊緣海量視頻存算一體方案
3 基于5G+邊緣計(jì)算的智慧園區(qū)
聯(lián)想以微型ICT數(shù)據(jù)中心下沉到園區(qū)機(jī)房,解決客戶數(shù)據(jù)實(shí)時性傳輸和處理、數(shù)據(jù)安全性和保密性的痛點(diǎn)?;?G邊緣計(jì)算的云協(xié)同辦公和云存儲,保證數(shù)據(jù)的安全和保密性;基于邊緣計(jì)算的智能安防巡檢機(jī)器人,解決視頻實(shí)時性傳輸時延和帶寬的難點(diǎn),實(shí)現(xiàn)實(shí)時位置信息自動巡航、人臉識別等;5G邊緣計(jì)算還解決了傳統(tǒng)視頻會議卡頓的問題,提供低時延、高帶寬的超高清視頻會議體驗(yàn)。
目前該方案已經(jīng)部署到京東亦莊園區(qū)成功試點(diǎn),聯(lián)想為園區(qū)提供低時延、高帶寬、高可靠、數(shù)據(jù)不出園區(qū)的綜合管理,助力打造智慧園區(qū)樣板間。
基于 5G+邊緣計(jì)算的智慧園區(qū)方案
4 邊緣遠(yuǎn)程智能運(yùn)維
隨著邊緣計(jì)算在各行各業(yè)應(yīng)用的不斷普及,邊緣站點(diǎn)及設(shè)備的數(shù)量越來越多且分散在不同的地理位置,特別是在新能源、通訊等行業(yè),邊緣站點(diǎn)常常處于偏遠(yuǎn)地區(qū),傳統(tǒng)的運(yùn)維管理方式已經(jīng)無法滿足需求。聯(lián)想邊緣云可以對邊緣側(cè)環(huán)境、網(wǎng)絡(luò)、硬件、平臺、應(yīng)用進(jìn)行遠(yuǎn)程全棧監(jiān)控,實(shí)時采集各種數(shù)據(jù)和日志,并通過智能分析技術(shù)對數(shù)據(jù)進(jìn)行處理和分析,從而及時發(fā)現(xiàn)問題和故障,并進(jìn)行預(yù)警、根因分析和自動修復(fù)。這些功能實(shí)現(xiàn)了邊緣站點(diǎn)的可視、可管、可控,以合理的運(yùn)維成本提高了邊緣站點(diǎn)的可用性和穩(wěn)定性,為邊緣計(jì)算技術(shù)的廣泛應(yīng)用提供了有力的保障。
聯(lián)想邊緣云賦能的邊緣遠(yuǎn)程智能運(yùn)維
智慧交通也是邊緣計(jì)算的重要應(yīng)用場景。以自動駕駛為例,面對危險(xiǎn),邊緣計(jì)算可以實(shí)現(xiàn)快速反應(yīng),大幅提升駕駛安全。近日,聯(lián)想官宣與英偉達(dá)共同打造智能汽車的“超級大腦”。在其有力支持下,聯(lián)想車計(jì)算將在高端智能駕駛領(lǐng)域不斷強(qiáng)化系統(tǒng)自研能力,賦能智慧交通不斷前行。
AI時代,各產(chǎn)業(yè)智能化轉(zhuǎn)型正在不斷深化,聯(lián)想將持續(xù)優(yōu)化自身邊緣計(jì)算生態(tài),以更優(yōu)質(zhì)的產(chǎn)品與服務(wù),賦能千行百業(yè)高質(zhì)量智能化轉(zhuǎn)型。