云天勵飛推出“深目”AI模盒,實現(xiàn)算法在線學習、自我迭代
3月28日,云天勵飛舉辦AI大模型產品發(fā)布會,正式發(fā)布“深目”AI模盒。該產品能夠做到“3個90%”——覆蓋場景超過90%、算法精度超過90%,使用成本降低90%,解決大模型在場景落地最后一公里的問題,幫助更多中小企業(yè)客戶輕松使用大模型。
會上,云天勵飛還與鵬城實驗室、之江實驗室、中國電子、華為、華潤數(shù)科等單位成立“深目2.0”生態(tài)聯(lián)盟,共同探索更多大模型落地應用路徑。
值得一提的是,云天勵飛還宣布“云天天書-2.0-68B”版本免費向合作伙伴開放;即日起預訂“深目”AI模盒,即有機會獲得邀約測試的機會。
千元級成本,即可擁有專屬大模型
從ChatGPT到Sora,從文生文、文生圖像到文生視頻,大模型發(fā)展日新月異,持續(xù)給行業(yè)帶來驚喜,不僅國內掀起“百模大戰(zhàn)”,國外科技巨頭也在大模型上相互較勁。大模型的能力在不斷進化,引發(fā)新一輪的AI變革。
云天勵飛董事長兼CEO陳寧博士在發(fā)布會上提到:未來3年,全球80%的企業(yè)都將使用大模型。但是,要訓練專屬大模型,不僅需要大算力、大數(shù)據(jù),還需要大量頂尖人才。大模型一次訓練成本在千萬級,主流的訓推一體機價格普遍在百萬元,絕大多數(shù)企業(yè)都無法承擔這樣高昂的成本。
為了能夠讓大模型“平民化”,成為人人都可用的產品,云天勵飛推出了“深目”AI模盒。
這款產品售價在千元級,用單手就能托起,搭載了云天勵飛的自研大模型邊緣訓推芯片DeepEdge10 Max以及自研多模態(tài)大模型“云天天書”,具備算法邊緣側在線學習能力,可實現(xiàn)算法場景覆蓋超過90%、算法精度超過90%,使用成本降低90%,讓人人都能夠根據(jù)自身場景需求,利用大模型能力,訓練出可實戰(zhàn)應用的算法,讓大模型唾手可得。
把大模型變“小”,云天勵飛是怎么做到的?
“能夠實現(xiàn)3個90%,離不開云天勵飛的核心能力——算法芯片化!标悓幉┦空f。
“深目”AI模盒的算力基礎,來源于去年云天勵飛推出的14nm Chiplet大模型訓推芯片DeepEdge10 Max。該芯片采用自主可控的國產工藝,內含國產RISC-V核,支持大模型訓練推理部署。依托自研芯片DeepEdge10 Max創(chuàng)新的D2D chiplet架構打造的X5000推理卡,已適配并可承載10億級SAM、百億級Llama2等大模型運算,可廣泛應用于AIoT邊緣視頻、移動機器人等場景。
“深目”AI模盒的大模型能力,來源于云天勵飛自主研發(fā)的多模態(tài)大模型“云天天書”。云天天書大模型包含語言大模型、多模態(tài)大模型等不同系列,在C-Eval、CMMLU等權威測試中多次獲得第一,并于去年正式通過中央網信辦備案。云天天書1.0版本于2023年初正式推出,至今已完成3個版本的迭代,預計今年6月將迭代4.0 V版本。
以云天天書為底座,云天勵飛能夠與生態(tài)合作伙伴完成預訓練場景算法,再將預訓練算法提供給廣大中小企業(yè)用戶,中小企業(yè)客戶可根據(jù)自身場景需求,在邊緣端完成算法微調。由于大模型具備泛化和學習的能力,客戶部署算法后,大模型還能夠不斷根據(jù)現(xiàn)實應用場景情況,在線學習、優(yōu)化算法,不斷提升算法精度。
“深目”AI模盒不僅僅是“壓縮”了大模型和芯片能力的一款全新產品,更是把云天勵飛大模型通過算法芯片化能力平臺“硬件化”的一次重要嘗試。把復雜的技術通過簡單的產品提供給用戶,讓用戶可以零學習成本,快速訓練出自己需要的算法。
場景算法,秒速訓練
“深目”AI模盒背后蘊藏了復雜的技術,但對于用戶而言,他們只需要關心產品到底怎么用、好不好用。發(fā)布現(xiàn)場,云天勵飛副總裁羅憶用實際場景演示了“深目”AI模盒是如何在數(shù)據(jù)少、無數(shù)據(jù)等極端情況下,快速完成算法訓練。
場景演示一:只需少量樣本,算法精度即可提升到90%以上
在算法使用初期,只有少量數(shù)據(jù),用戶如何才能快速訓練高精度算法?
以店外經營為例,這是城市治理中最常見的問題之一。當用戶需要訓練識別算法時,可以直接使用平臺現(xiàn)成的算法對目標進行識別。用戶只需要對識別結果標記“正確”和“誤報”,算法精度就能通過自學習快速提升。通過這樣的過程,算法精度通過1次訓練就能得到顯著提升,經過1周迭代后算法精度可超過90%。
羅憶介紹,云天勵飛為客戶提供的算法訓練平臺上,有大量與生態(tài)合作伙伴共同打造的算法商城,能夠提供覆蓋14個大類、100+個小類、千余種算法,用戶可以直接調用預訓練算法,并上傳自身場景圖片完成算法的微調和升級,快速訓練出高精度算法。
場景演示二:零數(shù)據(jù)樣本,用AIGC數(shù)據(jù)訓練AI
天災人禍等極端場景識別訓練的數(shù)據(jù)幾乎空白,面對這樣“無數(shù)據(jù)”的情況,用戶該如何訓練算法?
以加油站場景的吸煙識別為例,這類行為的數(shù)據(jù)極難獲取,因為這類危險行為往往伴隨著成不可挽回的后果。而平臺能夠利用大模型能力,以加油站為背景,生成在該環(huán)境抽煙行為的人物,并將數(shù)據(jù)用于算法訓練中,填補訓練數(shù)據(jù)的空白。
使用AI合成數(shù)據(jù)來訓練算法,不僅能夠填補數(shù)據(jù)空白,還能夠規(guī)避隱私安全等問題,已經逐漸成為大模型時代下訓練新算法和提升算法精度的一條重要路徑。
場景演示三:識別對象標準不統(tǒng)一,大模型泛化能力解決問題
現(xiàn)場以“購物中心提袋識別”為例,演示了如何利用大模型泛化能力,解決識別對象標準不統(tǒng)一帶來的算法訓練難題。
大型購物中心一般沒有統(tǒng)一的結算中心,購物中心難以掌握逛街顧客是否消費,也難以評估營銷活動對實際消費轉化的效果。而顧客是否提購物袋,是大型商場判斷顧客是否消費的重要標準之一。但是,各品牌購物袋的大小、顏色均不統(tǒng)一;而且難以與顧客的背包區(qū)分,算法難以精準識別。
但在云天勵飛的算法訓練平臺上,借助場景自適應能力,能夠實現(xiàn)“千店千袋”的識別。首先,用戶需要調用“拎手提袋識別”算法,識別所有的手提袋,再基于識別結果進行特定手提袋的識別訓練,從而衍生出特定手提袋的識別算法,最后即可實現(xiàn)專用門店手提袋的精準識別。
做物理世界的解碼者
從2014年成立至今,云天勵飛一直堅持將AI技術與物理世界相結合,這也是云天勵飛從成立之初自研芯片的重要原因。芯片是AI與物理世界的連接器,AI通過芯片為實體賦能,物理世界的數(shù)據(jù)又通過芯片反哺AI,推動AI進步發(fā)展。
“AI商業(yè)化發(fā)展有三個階段:AI方案化、AI運營化、AI產品化!标悓幉┦吭诎l(fā)布會現(xiàn)場說道。在AI方案化階段,AI企業(yè)主要通過項目制滿足不同垂直領域客戶需求。在打磨行業(yè)標桿項目的過程中,AI企業(yè)不斷積累行業(yè)認知和數(shù)據(jù),AI技術實力不斷增強,并形成具備越來越強的泛化能力AI平臺,企業(yè)也得以開啟AI運營業(yè)務。而最終,所有的技術都需要通過物理實體賦能,因此AI最終必須走向產品化。
云天勵飛業(yè)務發(fā)展路徑也沿著這條路徑展開。在AI方案化方面,云天勵飛在警務、城市治理、智慧交通、人居生活等領域打造諸多標桿項目,并且在低空經濟、智慧教育等創(chuàng)新領域持續(xù)展開探索;谠诖罅啃袠I(yè)的落地經驗,云天勵飛已形成數(shù)據(jù)運營、新能源運營平臺,走向AI運營化。如今,云天勵飛還逐步走向AI產品化。去年,云天勵飛與華為昇騰聯(lián)合推出天舟大模型訓推一體機;如今又推出面向邊緣訓推場景的“深目”AI模盒。此外,云天勵飛還通過資本紐帶,進軍智能穿戴和機器人等硬件領域,形成日益完善的大模型產品體系。
從AI方案化、AI運營化再到AI產品化,云天勵飛一直在致力于做物理世界的“解碼者”,通過算法芯片化的能力,為“無形”的技術和“有形”的世界構建通道,讓AI不僅僅是一個在虛擬世界的工具,而是轉化為物理世界的生產力。
一個小彩蛋:云天天書限時免費開放
為了共同探索更多大模型低成本、高效率落地應用路徑,云天勵飛與鵬城實驗室、之江實驗室、上海交通大學城市治理研究院、哈工大深圳研究生院、中科院深圳先進研究院、中國電子、華為、深圳移動、深圳電信、深圳聯(lián)通、華潤數(shù)科、神州數(shù)碼、中國鐵塔深圳分公司、有人物聯(lián)網、云賽智聯(lián)等單位共同成立“深目2.0”生態(tài)聯(lián)盟,共同探索更多大模型落地應用路徑。
在發(fā)布會最后,云天勵飛還發(fā)出了2個實實在在的福利。
一是“云天天書-2.0-68B”版本免費向合作伙伴開放。合作伙伴可免費獲取“云天天書-2.0-68B”部署包及6個月推理服務授權,免費使用天書平臺自帶的管理、支撐、應用及API等服務,快速構建場景應用。(微信搜索“云天勵飛”小程序,可報名申請)
二是從即日起預訂“深目”AI模盒,即有機會獲得邀約測試的機會,限額50名!
關于“深目”背后的故事
2014年,云天勵飛憑借對深度學習的深刻理解,推出了基于CV小模型的人工智能產品——“深目”1.0,成功引領了AI產業(yè)化應用的浪潮,為“AI+公共安全”市場開啟了新紀元。
如今,人工智能已邁入大模型時代。在大模型技術的強力驅動下,AI能力得以更廣泛地拓展與應用。每一個場景都蘊藏著巨大的潛力,等待著我們用大模型去重塑、去挖掘其更深層次的價值。在這個奇點時刻,我們選擇二次創(chuàng)業(yè),并推出了一款基于自研芯片和大模型技術的“深目”AI模盒。這款產品能夠低成本地快速生成并運行算法,為碎片化場景下復雜多變的AI應用提供了強有力的支持。
這款產品,我們依然命名為“深目”。雖然名字未變,但“深目”已經從最初我們對AI方案化構想,進化成了如今成熟的產品化現(xiàn)實。它的技術底座已煥然一新,方案和產品均實現(xiàn)了全面的升級與蛻變。我們期望“深目”系列產品能夠賦能更廣闊的碎片化場景,真正實現(xiàn)AI技術的普惠,讓千行百業(yè)都能受益于其強大功能。同時,“深目2.0”這個品牌也將承載著云天人不斷創(chuàng)新、超越自我的創(chuàng)業(yè)精神,為我們開啟二次創(chuàng)業(yè)的新征程。我們堅信,在大家的共同努力下,“深目”將煥發(fā)出新的活力與光彩,為AI產業(yè)的發(fā)展貢獻更多力量,共同開創(chuàng)更加美好的未來!
請輸入評論內容...
請輸入評論/評論長度6~500個字
最新活動更多
-
即日-12.26立即報名>>> 【在線會議】村田用于AR/VR設計開發(fā)解決方案
-
1月8日火熱報名中>> Allegro助力汽車電氣化和底盤解決方案優(yōu)化在線研討會
-
即日-1.14火熱報名中>> OFweek2025中國智造CIO在線峰會
-
即日-1.24立即參與>>> 【限時免費】安森美:Treo 平臺帶來出色的精密模擬
-
即日-2025.8.1立即下載>> 《2024智能制造產業(yè)高端化、智能化、綠色化發(fā)展藍皮書》
-
精彩回顧立即查看>> 【線下會議】OFweek 2024(第九屆)物聯(lián)網產業(yè)大會
推薦專題
- 高級軟件工程師 廣東省/深圳市
- 自動化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結構工程師 廣東省/深圳市