Meta發(fā)布Llama 3.2量化版模型
近日，Meta在開源Llama 3.2的1B與3B模型后，再次為人工智能領(lǐng)域帶來了新進(jìn)展。10月24日，Meta正式推出了這兩個模型的量化版本，旨在進(jìn)一步優(yōu)化模型性能，拓寬其應(yīng)用場景。
據(jù)Meta介紹，量化后的Llama 3.2模型在大小上平均減少了56%，RAM使用量也平均降低了41%。這一顯著的優(yōu)化使得模型在運(yùn)行過程中能夠占用更少的資源，同時速度提高了2至4倍。此外，量化后的模型還降低了功耗，這對于將其部署到移動設(shè)備上具有重要意義。
此次Meta推出的量化版Llama 3.2模型，不僅展示了其在人工智能領(lǐng)域的持續(xù)創(chuàng)新能力，也為更多開發(fā)者提供了高效、便捷的工具。隨著這些模型在移動設(shè)備上的廣泛應(yīng)用，人工智能將更深入地融入人們的日常生活，為社會帶來更多的便利和可能性。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報(bào)投訴
-
人工智能
+關(guān)注
關(guān)注
1813文章
49536瀏覽量
259359 -
開源
+關(guān)注
關(guān)注
3文章
3892瀏覽量
45356 -
Meta
+關(guān)注
關(guān)注
0文章
314瀏覽量
12187
發(fā)布評論請先 登錄
相關(guān)推薦
熱點(diǎn)推薦
使用 NPU 插件對量化的 Llama 3.1 8b 模型進(jìn)行推理時出現(xiàn)“從 __Int64 轉(zhuǎn)換為無符號 int 的錯誤”，怎么解決？
安裝了 OpenVINO? GenAI 2024.4。
使用以下命令量化 Llama 3.1 8B 模型：
optimum-cli export openvino -m meta-llama
發(fā)表于 06-25 07:20
瑞芯微模型量化文件構(gòu)建
模型是一張圖片輸入時，量化文件如上圖所示。但是我現(xiàn)在想量化deepprivacy人臉匿名模型，他的輸入是四個輸入。該模型訓(xùn)練時數(shù)據(jù)集只標(biāo)注
發(fā)表于 06-13 09:07
今日看點(diǎn)丨臺積電、Intel合資運(yùn)營代工業(yè)務(wù)；韓國計(jì)劃向當(dāng)?shù)仄囆袠I(yè)注入3萬億韓元援助
1. Meta 發(fā)布人工智能新模型系列 Llama 4 ，首次采用“混合專家”架構(gòu) ? 當(dāng)?shù)貢r間周六(4月5日)，美國科技巨頭Meta推出了
發(fā)表于 04-07 11:26
?565次閱讀
IBM發(fā)布全新Granite 3.2 AI模型
Granite 3.2 是小型的 AI 模型，通過對開發(fā)人員友好的授權(quán)條款，提供推理、視覺和護(hù)欄功能。
無法在OVMS上運(yùn)行來自Meta的大型語言模型 （LLM），為什么?
無法在 OVMS 上運(yùn)行來自 Meta 的大型語言模型 （LLM），例如 LLaMa2。
從 OVMS GitHub* 存儲庫運(yùn)行 llama_chat Python* Demo 時
發(fā)表于 03-05 08:07
普渡機(jī)器人接入DeepSeek滿血版模型
自2月20日起，普渡機(jī)器人正式接入DeepSeek滿血版模型，機(jī)器人智能語音交互能力迎來智能化升級里程碑！此次升級中，首批搭載該模型的貝拉Pro機(jī)器人已在部分商超落地測試，后續(xù)將逐步推廣至其他機(jī)型及場景。
Meta組建四大專研小組，深入探索DeepSeek模型
近日，據(jù)報(bào)道，臉書母公司Meta為了提升其大模型Llama的性能，專門成立了四個研究小組，深入探索量化巨頭幻方量化旗下的國產(chǎn)大
在算力魔方上本地部署Phi-4模型
?作者：算力魔方創(chuàng)始人/英特爾邊緣計(jì)算創(chuàng)新大使 劉力 前面我們分享了《Meta重磅發(fā)布Llama 3.3 70B：開源AI模型的新里程碑》，Llam
Meta重磅發(fā)布Llama 3.3 70B：開源AI模型的新里程碑
?在人工智能領(lǐng)域，Meta的最新動作再次引起了全球的關(guān)注。今天，我們見證了Meta發(fā)布的 Llama 3.3 70B 模型，這是一個開源的人
Meta發(fā)布新AI模型Meta Motivo，旨在提升元宇宙體驗(yàn)
Meta公司近日宣布，將推出一款名為Meta Motivo的全新人工智能模型。該模型具備控制類似人類的數(shù)字代理動作的能力，有望為元宇宙的用戶體驗(yàn)帶來顯著提升。
Meta推出Llama 3.3 70B，AI大模型競爭白熱化
在今年的AI領(lǐng)域，Meta也不甘落后，推出了其壓軸之作——Llama 3.3 70B大模型。與此同時，馬斯克的xAI也宣布其Grok模型從今天起全球免費(fèi)開放(但存在一定的使用限制)。
用Ollama輕松搞定Llama 3.2 Vision模型本地部署
Ollama的安裝。 一，Llama3.2 Vision簡介 Llama 3.2 Vision是一個多模態(tài)大型語言模型（LLMs）的集合，它包括預(yù)訓(xùn)練和指令調(diào)整的圖像推理生成
Llama 3 語言模型應(yīng)用
在人工智能領(lǐng)域，語言模型的發(fā)展一直是研究的熱點(diǎn)。隨著技術(shù)的不斷進(jìn)步，我們見證了從簡單的關(guān)鍵詞匹配到復(fù)雜的上下文理解的轉(zhuǎn)變。 一、Llama 3 語言模型的核心功能 上下文理解 ：Llama
工商網(wǎng)監(jiān)
評論