2025年伊始，一款來自中國初創(chuàng)公司“深度求索”的AI大模型DeepSeek橫空出世，驚艷全球。DeepSeek厲害之處在于，在中國被外國芯片封鎖的背景下，在性能上接近美國頂尖AI模型，但研發(fā)成本極低，R1模型的訓(xùn)練成本僅為560萬美元，遠(yuǎn)低于美國科技巨頭數(shù)億美元乃至數(shù)十億美元的投入。這一顛覆式創(chuàng)新打破了“更強(qiáng)大的硬件、更高的算力才是推動人工智能發(fā)展的關(guān)鍵”的固有規(guī)則。

DeepSeek還開源免費(fèi)讓全球開發(fā)者自由下載和使用，這不僅加速了AI技術(shù)的普及，也削弱了美國在AI技術(shù)上的壟斷地位?！逗谏裨挘何蚩铡分谱魅笋T驥總結(jié)了DeepSeek做到的六大突破：強(qiáng)大、便宜、開源、免費(fèi)、聯(lián)網(wǎng)、本土。

DeepSeek 通過創(chuàng)新性的算法優(yōu)化，巧妙地突破了這一困境，極大程度降低了對硬件的嚴(yán)苛要求，成功實(shí)現(xiàn)了在有限算力條件下的高效穩(wěn)定運(yùn)行。

那么，AI硬件接入DeepSeek需要具備什么條件？例如邊緣計算服務(wù)器

SoC/AI 芯片上一般支持高效推理的專用硬件，例如高通 QCS8550 平臺（實(shí)測支持 DeepSeek-R1 模型生成速度超 40 Tokens / 秒），或國產(chǎn)昇騰系列（如昇騰 910B）、NVIDIA L40S 等低功耗 GPU/NPU。

內(nèi)存：根據(jù)模型大小調(diào)整，例如1.5B 模型的最低內(nèi)存要求是8GB 內(nèi)存；70B 模型需 24GB 顯存或通過內(nèi)存優(yōu)化技術(shù)（如 DeepSeek-R1-Zero 實(shí)驗(yàn)版本）降低需求。

場景化建議

輕量級任務(wù)（如語音交互）：選擇 1.5B-7B 模型，配置 8GB 內(nèi)存 + 中端 GPU（如 RTX 3070）。

復(fù)雜推理（如多模態(tài)分析）：采用 24GB 顯存 GPU（如 A100 40GB）或昇騰 910B，結(jié)合分布式推理框架。

極低功耗場景（如可穿戴設(shè)備）：依賴專用 AI 芯片（如高通 Hexagon 處理器）及模型量化技術(shù)。

另外，接入DeepSeek的邊緣計算服務(wù)器需要良好的散熱系統(tǒng)和電磁屏蔽措施，以確保設(shè)備在長時間運(yùn)行中的穩(wěn)定性和可靠性

截至目前，已有超過50家信創(chuàng)相關(guān)廠商適配DeepSeek，華為昇騰、海光信息、龍芯中科、天數(shù)智芯、摩爾線程、中星微、云天勵飛等十幾家本土AI芯片廠商均宣布在云端或是端側(cè)適配Deepseek模型，移遠(yuǎn)通信的邊緣計算模組 也成功實(shí)現(xiàn)了 DeepSeek-R1 蒸餾小模型的穩(wěn)定運(yùn)行，以提升智能終端設(shè)備的 AI 能力。

通過Deepseek蒸餾和量化出來的端側(cè)模型已經(jīng)做到了和硬件無關(guān)的輕量化，支持從超大規(guī)模模型到端側(cè)設(shè)備的無縫擴(kuò)展，解決了一部分端側(cè)場景多層次硬件需求，讓終端硬件變成AI硬件。

AI邊緣計算服務(wù)器具備32Tops超強(qiáng)算力，采用8核 ARM*A53 CPU，支持H.264和H.265視頻解碼，支持32路1080P@25視頻接入，可實(shí)現(xiàn)AI視頻實(shí)時分析。預(yù)裝Ubuntu操作系統(tǒng)，方便開發(fā)和部署各種應(yīng)用。另外還采用主動式渦輪風(fēng)扇散熱設(shè)計，散熱性能優(yōu)越，延長設(shè)備使用壽命。具備雙RJ45和RS485等多功能接口，支持連接IP攝像機(jī)和USB攝像機(jī)；具備IP40防護(hù)等級和硬件看門狗功能，確保系統(tǒng)在異常情況下能夠自動恢復(fù)。