国产亚洲综合精品一区二区三区_亚洲永久网址在线观看_亚洲色大成网站www久久九_国产亚洲AV夜间福利香蕉149

DeepSeek 推理型AI盡顯高效訓(xùn)練的小模型之威

2025-02-12 09:56 來源:美通社 作者:電源網(wǎng)

——IBM 院士 Kush Varshney 看來,全球AI競賽中的地緣政治差異,可能沒有人們想象的那么重要,他說:"一旦模型開源,它源自何處在很多方面就不再重要了。"

作者:Aili McConnon,IBM

2025127 日發(fā)表與IBM官網(wǎng)Think頻道,點(diǎn)擊閱讀英文原文

北京2025年2月10日 /美通社/ -- DeepSeek-R1 是中國初創(chuàng)公司 DeepSeek 推出的人工智能模型,不久前,在人工智能開源平臺 Hugging Face 上發(fā)布數(shù)小時,便躍居下載量和活躍度最高模型的榜首;同時因其促使投資者重新考慮英偉達(dá)(NVIDIA)等芯片制造商的估值,以及AI巨頭為擴(kuò)大其AI業(yè)務(wù)規(guī)模而進(jìn)行的巨額投資,從而給金融市場也帶來了震蕩。

DeepSeek 推理型AI盡顯高效訓(xùn)練的小模型之威
DeepSeek 推理型AI盡顯高效訓(xùn)練的小模型之威

為何掀起如此大的波瀾?DeepSeek-R1 是一款所謂 "推理模型 "的數(shù)字助理,在某些數(shù)學(xué)和編碼任務(wù)的人工智能基準(zhǔn)測試中,它的表現(xiàn)與 OpenAI 的 o1 不相上下;而據(jù)該公司稱,訓(xùn)練該系統(tǒng)所使用的芯片數(shù)量卻要少得多,使用成本低約 96%。

IBM AI 硬件部門的一位首席研究科學(xué)家兼經(jīng)理 Kaoutar El Maghraoui 說:"DeepSeek 無疑正在重塑人工智能的格局,它以開源的雄心和最先進(jìn)的創(chuàng)新技術(shù)向巨頭們發(fā)起挑戰(zhàn)。"

與此同時,TikTok 母公司、中國科技巨頭字節(jié)跳動最近發(fā)布了自己的推理型代理(智能體)UI-TARS,并聲稱該智能體在某些基準(zhǔn)測試中優(yōu)于 OpenAI 的 GPT-4o、Anthropic 的 Claude 和谷歌的 Gemini。字節(jié)跳動的智能體可以讀取圖形界面,進(jìn)行推理,并采取自主和一步接一步的行動。

從初創(chuàng)公司到成熟巨頭,中國的人工智能公司似乎正在縮小與美國競爭對手的差距,這在很大程度上要?dú)w功于它們愿意開源或與其他企業(yè)和軟件開發(fā)商共享底層軟件代碼。IBM花崗巖(Granite)模型高級技術(shù)產(chǎn)品經(jīng)理Abraham Daniels說:"DeepSeek已經(jīng)能夠在整個社區(qū)推廣一些相當(dāng)強(qiáng)大的模型。DeepSeek真的有可能加速人工智能的民主化。"DeepSeek-R1在 Hugging Face 上提供,根據(jù)MIT 許可證,允許不受限制地用于商業(yè)用途。

去年夏天,中國公司快手Kuaishou)發(fā)布了一款視頻生成工具,它與 OpenAI 的索拉(Sora)類似,但公眾可以直接使用。Sora 于去年 2 月亮相,但直到 12 月才正式發(fā)布,即便如此,也只有訂閱了 ChatGPT Pro 的用戶才能使用其全部功能。Hugging Face 上的開發(fā)者還搶購了中國科技巨頭騰訊和阿里巴巴的新開源模式。雖然 Meta 已將其 Llama 模型開源,但 OpenAI 和谷歌在模型開發(fā)方面都主要采用閉源方式。

除了開源帶來的好處外,DeepSeek 工程師在訓(xùn)練系統(tǒng)時使用的英偉達(dá)(NVIDIA)高度專業(yè)化芯片也僅為美國競爭對手的一小部分。例如,DeepSeek 工程師在發(fā)布 DeepSeek-V3 模型時發(fā)表的研究論文稱,他們只需要 2000 個 GPU(圖形處理單元)或芯片就能訓(xùn)練出他們的模型。

推理模型

IBM 院士(IBM Fellow Kush Varshney說:"真正令人印象深刻的是DeepSeek模型的推理能力。"推理模型本質(zhì)上是自我驗證或檢查,代表了一種 "元認(rèn)知"或 "關(guān)于思考的思考"。 "我們正開始將智慧融入到這些模型中,這是巨大的進(jìn)步," Varshney 說。

去年 9 月,當(dāng) OpenAI 預(yù)覽其 o1 推理模型時,推理模型成為熱門話題。與以往只給出答案而不解釋推理過程的人工智能模型不同,它通過將復(fù)雜問題分成幾個步驟來解決。推理模型可能需要多花幾秒或幾分鐘來回答問題,因為它們會一步一步或以 "思維鏈"的方式來反思自己的分析。

強(qiáng)化學(xué)習(xí)

DeepSeek-R1將思維鏈推理與強(qiáng)化學(xué)習(xí)相結(jié)合,在強(qiáng)化學(xué)習(xí)中,自主智能體在沒有人類用戶任何指令的情況下,通過反復(fù)試錯學(xué)會執(zhí)行任務(wù)。強(qiáng)化學(xué)習(xí)有別于更常用的學(xué)習(xí)形式,如監(jiān)督學(xué)習(xí)無監(jiān)督學(xué)習(xí),前者使用人工標(biāo)注的數(shù)據(jù)進(jìn)行預(yù)測或分類,后者旨在從無標(biāo)注的數(shù)據(jù)中發(fā)現(xiàn)和學(xué)習(xí)隱藏的模式。

DeepSeek-R1 質(zhì)疑了這樣一種假設(shè),即通過對正確或錯誤行為的標(biāo)記示例進(jìn)行訓(xùn)練,或者從隱藏模式中提取信息,模型的推理能力就會得到提高。密歇根州立大學(xué)博士生張逸驊撰寫了數(shù)十篇機(jī)器學(xué)習(xí)方面的論文,他說:"它的核心假設(shè)很簡約,卻不那么簡單:我們能否只通過獎勵信號來教會模型正確回答,從而讓它自己摸索出最優(yōu)的思考方式?"

張逸驊說,對于他和像他一樣習(xí)慣了傳統(tǒng)監(jiān)督微調(diào)的專家而言,"眼見DeepSeek這樣的大型語言模型僅靠強(qiáng)化學(xué)習(xí)獎勵就能學(xué)會‘更好地思考',著實(shí)令人驚艷",尤其是看到"模型出現(xiàn)真正的‘a(chǎn)ha(頓悟)時刻',它能后退一步,發(fā)現(xiàn)錯誤并自我糾正"。

成本計算

DeepSeek 引發(fā)的熱議部分源于其低廉的價格。根據(jù)該公司發(fā)布的技術(shù)報告,在圣誕節(jié)當(dāng)天發(fā)布的 DeepSeek-V3 的訓(xùn)練成本為 550 萬美元,而對于希望試用它的開發(fā)人員來說,價格要便宜得多。 IBM杰出工程師Chris Hay說:"他們在模型成本方面所做的工作,以及他們訓(xùn)練模型所花費(fèi)的時間,確實(shí)令人印象深刻。"

然而,IBM研究院Granite技術(shù)產(chǎn)品管理總監(jiān)Kate Soule表示,低廉的價格標(biāo)簽可能并不是故事的全部。她說,550 萬美元的成本 "只代表了所需計算量的一小部分"。她說,這還不包括公司即使采用開源模型也要保持專有的成本細(xì)節(jié),比如 "強(qiáng)化學(xué)習(xí)、數(shù)據(jù)消減和超參數(shù)搜索的計算成本"。

無可置疑的是,DeepSeek 通過使用專家混合(MoE)架構(gòu)實(shí)現(xiàn)了更高的成本效益,而這種架構(gòu)大大降低了訓(xùn)練所需的資源。MoE 架構(gòu)將人工智能模型劃分為不同的子網(wǎng)絡(luò)(或 "專家"),每個子網(wǎng)絡(luò)專門處理輸入數(shù)據(jù)的一個子集。模型只激活特定任務(wù)所需的特定專家,而不是激活整個神經(jīng)網(wǎng)絡(luò)。因此,MoE 架構(gòu)大大降低了預(yù)訓(xùn)練期間的計算成本,并在推理期間實(shí)現(xiàn)了更快的性能。在過去一年中,包括法國領(lǐng)先的人工智能公司 Mistral 和 IBM 在內(nèi)的全球多家公司著力推廣了MoE 架構(gòu),并通過將 MoE 與開源相結(jié)合實(shí)現(xiàn)了更高的效率。(例如,IBM在2024年Think大會宣布與紅帽一起推出 InstructLab,一個推動大模型開源創(chuàng)新的革命性大模型對齊方法。)

就 IBM 的一系列開源 Granite 模型(采用 MoE 架構(gòu)開發(fā))而言,企業(yè)能夠以極低的成本實(shí)現(xiàn)前沿模型的性能,因為他們可以針對特定應(yīng)用或用例調(diào)整大型預(yù)訓(xùn)練模型,從而有效創(chuàng)建更小的適用模型。將強(qiáng)大的功能集成到更小的稠密模型上,意味著這些模型可用于智能手機(jī)和其他在邊緣運(yùn)行的移動設(shè)備,如汽車計算機(jī)或工廠車間的智能傳感器。

這種采用較大模型并將其蒸餾成資源密集度較低的較小模型的過程也為 DeepSeek 的成功做出了貢獻(xiàn)。在發(fā)布其標(biāo)志性的 R1 模型的同時,這家中國初創(chuàng)公司還發(fā)布了一系列更小的適合不同用途的模型。有趣的是,他們用實(shí)踐證明,與一開始就對小型模型進(jìn)行強(qiáng)化學(xué)習(xí)相比,將大型模型蒸餾成小型模型的推理效果更好。

全球性的人工智能洗牌?

隨著這些新模型在某些基準(zhǔn)測試中與老一代競爭對手相抗衡或超越它們時,它們將如何影響全球人工智能格局?El Maghraoui 說:"全球人工智能格局不只關(guān)乎基準(zhǔn)測試的原始性能,更關(guān)系到是否能以安全和道德的方式對這些模型進(jìn)行端到端的整合。" 因此,El Maghraoui 表示,現(xiàn)在判斷 DeepSeek-R1 及其他產(chǎn)品是否會 "改變?nèi)祟惢?、技術(shù)和企業(yè)應(yīng)用 ",還為時尚早。

最終,"開發(fā)人員的采用率將決定 DeepSeek 模型的受歡迎程度," Daniels說。他表示期待"看到他們?yōu)槟P桶l(fā)掘出的各種用例"。

IBM 院士 Kush Varshney 看來,全球AI競賽中的地緣政治差異,可能沒有人們想象的那么重要,他說:"一旦模型開源,它源自何處在很多方面就不再重要了。"

即刻開始在 IBM watsonx.ai 上使用 DeepSeek——通過本教程,了解如何使用 watsonx.ai 以安全的方式部署 DeepSeek-R1 的精餾變體進(jìn)行推理。

關(guān)于IBM
IBM 是全球領(lǐng)先的混合云、人工智能及企業(yè)服務(wù)提供商,幫助超過 175 個國家和地區(qū)的客戶,從其擁有的數(shù)據(jù)中獲取商業(yè)洞察,簡化業(yè)務(wù)流程,降低成本,并獲得行業(yè)競爭優(yōu)勢。金融服務(wù)、電信和醫(yī)療健康等關(guān)鍵基礎(chǔ)設(shè)施領(lǐng)域的超過 4000 家政府和企業(yè)實(shí)體依靠 IBM 混合云平臺和紅帽 OpenShift 快速、高效、安全地實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型。IBM 在人工智能、量子計算、行業(yè)云解決方案和企業(yè)服務(wù)方面的突破性創(chuàng)新為我們的客戶提供了開放和靈活的選擇。對企業(yè)誠信、透明治理、社會責(zé)任、包容文化和服務(wù)精神的長期承諾是 IBM 業(yè)務(wù)發(fā)展的基石。了解更多信息,請訪問:https://www.ibm.com/cn-zh 

DeepSeek 推理型AI 小模型

一周熱門

国产亚洲综合精品一区二区三区_亚洲永久网址在线观看_亚洲色大成网站www久久九_国产亚洲AV夜间福利香蕉149

    欧美tk丨vk视频| 国产欧美一区二区精品仙草咪| 亚洲一区二区三区在线| 亚洲综合在线视频| 亚洲成人av一区二区三区| 亚洲福利一二三区| 91黄色免费网站| 欧美浪妇xxxx高跟鞋交| 日韩一区二区三区观看| 久久综合久久久久88| 国产精品视频麻豆| 日韩一区在线免费观看| 亚洲在线一区二区三区| 热久久国产精品| 国产美女精品一区二区三区| 欧美激情一区二区三区蜜桃视频| 水野朝阳av一区二区三区| 美女免费视频一区二区| 国产精品 欧美精品| 一区二区三区精品久久久| 欧美色男人天堂| 欧美一级精品大片| 久久一夜天堂av一区二区三区| 欧美国产一区二区在线观看| 一区二区三区日韩在线观看| 日本成人在线电影网| 国产成人免费在线观看| 久久综合视频网| 亚洲美女视频在线观看| 欧美吻胸吃奶大尺度电影| 欧美va在线播放| 亚洲欧洲另类国产综合| 午夜精品久久久久久久蜜桃app| 精品亚洲免费视频| 91美女片黄在线观看91美女| 亚洲美女淫视频| 欧美日韩精品二区第二页| 久久综合九色综合久久久精品综合| 亚洲丝袜自拍清纯另类| 蜜桃视频免费观看一区| av成人免费在线观看| 最好看的中文字幕久久| 欧美视频精品在线观看| 亚洲精品一区二区三区精华液| 亚洲三级视频在线观看| 久久99在线观看| 91免费看视频| 亚洲午夜视频在线| 日韩一二三四区| 玉米视频成人免费看| 国产一二三精品| 国产精品无圣光一区二区| 婷婷六月综合亚洲| 精品1区2区在线观看| 亚洲专区一二三| 国产成人免费视频网站| 亚洲丝袜制服诱惑| 欧美精品一二三| 综合久久给合久久狠狠狠97色 | 国产欧美日本一区二区三区| 亚洲国产一区二区视频| 国产.欧美.日韩| 亚洲欧美色图小说| 欧美一区二区高清| 亚洲综合色视频| 波多野结衣精品在线| 亚洲一区二区三区影院| 欧美变态tickling挠脚心| 亚洲国产精品嫩草影院| 不卡一区在线观看| 一区二区激情小说| 精品乱人伦小说| 视频在线观看一区二区三区| 91在线播放网址| 亚洲成人av中文| 欧美国产激情一区二区三区蜜月 | 欧美一区二区三区小说| 亚洲激情中文1区| 国产精品美女久久久久aⅴ国产馆| 免费看欧美女人艹b| 亚洲午夜激情网页| 亚洲欧美自拍偷拍色图| 国产一区久久久| 亚洲丝袜精品丝袜在线| 91精品国产手机| 亚洲国产精品自拍| 久久久久久久久久看片| 欧美三级电影一区| 亚洲素人一区二区| 亚洲图片自拍偷拍| 久久精品人人做人人爽97| 免费观看在线综合| 国产精品第四页| 欧美变态tickling挠脚心| 秋霞午夜鲁丝一区二区老狼| 国产欧美精品一区二区色综合朱莉| 欧美日韩高清一区| 亚洲成精国产精品女| 国产欧美一区二区精品忘忧草| 欧美精品久久久久久久多人混战| 亚洲一区在线观看免费| 国产无一区二区| 日韩一区二区三区在线观看| 国产一区二区调教| www.爱久久.com| 91福利视频久久久久| 亚洲精品网站在线观看| 91免费视频网址| 亚洲视频在线一区| 成人性生交大合| 色狠狠av一区二区三区| 亚洲女人的天堂| 久久久久国产精品厨房| 日韩一区二区免费电影| 美腿丝袜亚洲一区| 一区二区三区欧美激情| 国产精品久久久久久亚洲伦| 99在线视频精品| 欧美日韩一区二区不卡| 首页国产丝袜综合| 亚洲精品第1页| 中文字幕精品一区二区精品绿巨人| 国产成人精品三级麻豆| 在线观看成人免费视频| 亚洲一区二区在线免费看| 国产精品欧美综合在线| 2024国产精品| 丁香桃色午夜亚洲一区二区三区| 色94色欧美sute亚洲线路一ni| 亚洲一区二区三区四区五区黄| 国产精品麻豆久久久| 国产清纯美女被跳蛋高潮一区二区久久w| 国产老妇另类xxxxx| 欧洲精品在线观看| 日韩综合小视频| 亚洲高清视频在线| 亚洲一区二区av电影| 最新成人av在线| 日韩一区欧美小说| 国产精品私人影院| 国产精品久久久久久久岛一牛影视| 26uuu国产在线精品一区二区| 欧美大肚乱孕交hd孕妇| 国产精品亚洲а∨天堂免在线| 欧美色成人综合| 麻豆国产精品777777在线| 午夜精品免费在线| 综合久久久久久| 成年人午夜久久久| 欧美一区欧美二区| 国产剧情一区二区| 91麻豆精品国产91久久久资源速度 | 蜜桃一区二区三区在线观看| 国产精品亲子伦对白| 国产精品久久精品日日| 972aa.com艺术欧美| 欧美xxxxxxxx| 99精品在线免费| 日韩免费在线观看| 9i在线看片成人免费| 一区二区三区精品视频| 亚洲高清免费一级二级三级| 亚洲一区二区三区四区的| 亚洲日本青草视频在线怡红院 | 日韩影院免费视频| 午夜精品一区二区三区免费视频 | 欧美国产乱子伦| 国产日产欧美一区二区三区 | 91丝袜国产在线播放| 久久精品一区蜜桃臀影院| 国产午夜久久久久| 日韩一区日韩二区| 一区二区三区色| 亚洲大片精品永久免费| 色久综合一二码| 国产一区二区美女| 日韩精品一区二区三区在线| 久久伊人中文字幕| 18涩涩午夜精品.www| 亚洲综合色在线| 久久精品99国产国产精| 欧美一区二区视频在线观看2022| 成人av电影在线| 国产三级久久久| 自拍偷拍国产亚洲| 亚洲午夜电影网| 在线观看免费亚洲| 粉嫩嫩av羞羞动漫久久久 | 亚洲欧美电影院| 欧美a一区二区| 91精品在线麻豆| 久久婷婷色综合| 亚洲天堂精品在线观看| 一个色妞综合视频在线观看| 美女视频一区二区三区| 777亚洲妇女| 国产日韩影视精品| 亚洲国产一区二区三区| 欧美综合一区二区三区| 成人av资源网站|