訂閱
糾錯(cuò)
加入自媒體

世界人工智能大會(huì):大模型開啟

文/侯煜

編輯/羅卿

2023年可以稱得上是大模型發(fā)展的元年,2月份,創(chuàng)新型公司OpenAI連同其發(fā)布的ChatGPT一夜爆火。之后,科技公司的大模型開始陸續(xù)亮相。

按照人們的共識(shí),工業(yè)1.0是蒸汽機(jī)時(shí)代,工業(yè)2.0是電氣化時(shí)代,工業(yè)3.0是信息化時(shí)代,工業(yè)4.0則是利用信息化技術(shù)促進(jìn)產(chǎn)業(yè)變革的時(shí)代。大模型的出現(xiàn)將整個(gè)科技行業(yè)推向4.0 pro時(shí)代。新的技術(shù)時(shí)代的到來,讓實(shí)體企業(yè)迫不及待地想要擁抱大模型技術(shù),推動(dòng)設(shè)計(jì)、銷售、服務(wù)等環(huán)節(jié)的智能化升級(jí),提升生產(chǎn)、經(jīng)營(yíng)、管理效率。

于是乎,大模型從面世之初的拼算力、拼規(guī)模,逐漸開始變得更細(xì)分、更垂直、更專業(yè)。云廠商也在試圖降低大模型的使用成本,讓大模型更好地與實(shí)體技術(shù)結(jié)合,在增效的同時(shí),維持可控的成本。

近日的世界人工智能大會(huì)(WAIC2023)又是一個(gè)大廠秀實(shí)力和表達(dá)行業(yè)洞見的舞臺(tái),各位大廠大模型的推動(dòng)者各抒己見,以下是會(huì)議的部分發(fā)言實(shí)錄。

騰訊云與智慧產(chǎn)業(yè)事業(yè)群CEO湯道生:騰訊數(shù)智人“入職”了130多個(gè)行業(yè)

事實(shí)上,雖然通用大模型很強(qiáng)大,但并不一定能解決很多企業(yè)的具體問題。大模型在產(chǎn)業(yè)場(chǎng)景中是否真正可靠、可用?怎樣才能保護(hù)好企業(yè)數(shù)據(jù)產(chǎn)權(quán)和隱私?如何降低大模型的使用成本?這些都是企業(yè)需要考慮的現(xiàn)實(shí)問題。

企業(yè)基于行業(yè)大模型構(gòu)建自己的專屬模型,也許是更優(yōu)的選項(xiàng)。同時(shí)也要借助高效的專業(yè)工具,不斷優(yōu)化、迭代模型,以滿足企業(yè)和市場(chǎng)持續(xù)變化的需求。

雖然通用大模型整體技術(shù)水平在不斷提升,但并不聚焦。通用大模型可以在100個(gè)場(chǎng)景中,解決70%-80%的問題,但未必能100%滿足企業(yè)某個(gè)場(chǎng)景的需求。

每個(gè)企業(yè)都可以基于用專業(yè)知識(shí)和數(shù)據(jù)訓(xùn)練出來的行業(yè)大模型,再加上企業(yè)自己的數(shù)據(jù)進(jìn)行精調(diào),建構(gòu)獨(dú)有的“專屬模型”,更高效地打造出可用的智能服務(wù)。

實(shí)際上,過去5年,人工智能技術(shù)和產(chǎn)品也在各行各業(yè)落地生根,比如騰訊的數(shù)智人已“入職”了130多個(gè)行業(yè),擔(dān)任金融客服、虛擬主播等“數(shù)智員工”,為用戶提供個(gè)性化的服務(wù)。

基于騰訊云TI平臺(tái)打造的行業(yè)大模型精選商店,面向金融、文旅、政務(wù)、醫(yī)療、傳媒、教育等10大行業(yè),提供超過50個(gè)解決方案。在這些能力模型基礎(chǔ)上,合作伙伴只需要加入自己獨(dú)有的場(chǎng)景數(shù)據(jù),就可以快速生成自己的“專屬模型”。

百度CTO王海峰:文心大模型3.5,讓知識(shí)點(diǎn)更具體和細(xì)分

百度首席技術(shù)官王海峰發(fā)言指出,百度文心大模型現(xiàn)已升級(jí)為文心大模型3.5,已實(shí)現(xiàn)基礎(chǔ)模型升級(jí)、精調(diào)技術(shù)創(chuàng)新、知識(shí)點(diǎn)增強(qiáng)、邏輯推理增強(qiáng)等,模型效果提升50%,訓(xùn)練速度提升2倍,推理速度提升30倍。

據(jù)王海峰介紹,在基礎(chǔ)模型訓(xùn)練上,文心大模型3.5采用了飛槳自適應(yīng)混合并行訓(xùn)練技術(shù)及混合精度計(jì)算策略,并采用多種策略優(yōu)化數(shù)據(jù)源及數(shù)據(jù)分布,加快了模型迭代速度,顯著提升了模型效果和安全性,同時(shí)還創(chuàng)新了多類型多階段有監(jiān)督精調(diào)、多層次多粒度獎(jiǎng)勵(lì)模型、多損失函數(shù)混合優(yōu)化策略、雙飛輪結(jié)合的模型優(yōu)化等技術(shù),進(jìn)一步提升模型效果及場(chǎng)景適配能力。

在知識(shí)增強(qiáng)和檢索增強(qiáng)基礎(chǔ)上,文心大模型3.5提出了“知識(shí)點(diǎn)增強(qiáng)技術(shù)”,對(duì)用戶輸入的查詢、問題等進(jìn)行分析理解,為大模型注入更具體、詳細(xì)、專業(yè)的知識(shí)點(diǎn),顯著提升大模型對(duì)世界知識(shí)的掌握和運(yùn)用。此外,文心大模型3.5還新增了插件機(jī)制,目前文心一言已對(duì)外發(fā)布官方插件百度搜索和ChatFile。

高通侯紀(jì)磊:創(chuàng)新和優(yōu)化全棧式AI,加速應(yīng)用落地

高通全球副總裁兼高通 AI 研究負(fù)責(zé)人侯紀(jì)磊介紹:在成本方面,生成式 AI 通常參數(shù)體量巨大,如果在端側(cè)部署,能夠推動(dòng)成本的顯著降低。而在 AI 數(shù)字助手方面,手機(jī)、駕艙、PC 等使用場(chǎng)景,端側(cè) AI 則能夠很好地滿足私密性、個(gè)性化的需求。"

據(jù)侯紀(jì)磊介紹,早在十幾年前,高通便開始了 AI 方面的研發(fā),其中一個(gè)重要研究方向就是高效能 AI,在包括硬件、算法和軟件等層面進(jìn)行了大量的研發(fā)創(chuàng)新。

在高效硬件方面,通過對(duì)高通移動(dòng)平臺(tái)中 CPU、GPU、NPU 等不同單元進(jìn)行優(yōu)化,最終使得AI針對(duì)不同任務(wù),能夠選擇合適的計(jì)算模塊運(yùn)行,侯紀(jì)磊認(rèn)為這是高通端側(cè) AI 非常顯著的特點(diǎn)。在算法層面,高通擁有一支頂尖的深度神經(jīng)網(wǎng)絡(luò)算法團(tuán)隊(duì),有很多原創(chuàng)性的研究成果。在軟件方面,在面向深度學(xué)習(xí)的軟件加速 runtime 以及 SDK/ 開發(fā)框架方面,高通對(duì)于客戶以及開發(fā)者都做出了很好的支持。

" 因此,高通 AI 研究的一個(gè)非常重要的原則,就是全棧式的 AI 創(chuàng)新和優(yōu)化。通過跨層的模型、硬件和軟件創(chuàng)新加速 AI 應(yīng)用,這種早期研發(fā)和技術(shù)發(fā)明對(duì)于引領(lǐng)生態(tài)系統(tǒng)發(fā)展至關(guān)重要,而最終將技術(shù)提供給商業(yè)團(tuán)隊(duì),并通過部署過程中的收獲來影響未來的研究,形成正向循環(huán)。" 侯紀(jì)磊說。

據(jù)侯紀(jì)磊介紹,高通在高效能 AI 研發(fā)中,一個(gè)重要的部分是整體模型效率研究,目的是在多個(gè)方向縮減 AI 模型,使其在硬件上高效運(yùn)行。

比如在量化方面,學(xué)習(xí)在保持所需精度的同時(shí)降低比特精度;在條件計(jì)算方面,學(xué)習(xí)僅基于輸入執(zhí)行大模型圖例模型部分組件;在神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索方面,學(xué)習(xí)設(shè)計(jì)更小的神經(jīng)網(wǎng)絡(luò),能夠在真實(shí)硬件上媲美或超過人工設(shè)計(jì)架構(gòu);在編譯方面,學(xué)習(xí)編譯 AI 模型以實(shí)現(xiàn)高效的硬件執(zhí)行等。

" 在量化方面,高通一直在業(yè)界進(jìn)行學(xué)術(shù)研究及落地層面的推動(dòng)。包括 Stable Diffusion 和 ChatGPT 等最終要在端側(cè)實(shí)現(xiàn),量化一定是非常重要的手段。在高效能的推理方面,整數(shù)的點(diǎn)運(yùn)算是非常重要的方向。在這方面,高通在積極推動(dòng)相關(guān)學(xué)術(shù)研究,包括在頂級(jí)學(xué)術(shù)會(huì)議上發(fā)布一些論文的同時(shí),也會(huì)定期放到開源的工具包 AIMET 中。通過領(lǐng)先的 AI 研究和快速商業(yè)化,推動(dòng)行業(yè)向整數(shù)推理和高能效 AI 方向發(fā)展。" 侯紀(jì)磊說。

埃隆·馬斯克:機(jī)器人主導(dǎo)的生產(chǎn)效率將遠(yuǎn)超人類

在未來,人工智能將在人類的世界中扮演重要角色,并對(duì)文明產(chǎn)生深遠(yuǎn)的影響。同時(shí),我們也看到了數(shù)字計(jì)算能力的爆炸性增長(zhǎng),其中特別要考慮的一個(gè)指標(biāo)是比例,即數(shù)字計(jì)算、機(jī)器計(jì)算能力與生物計(jì)算能力之間的比例關(guān)系。

具體而言,我們需要考慮人類能夠完成多么復(fù)雜的計(jì)算任務(wù),計(jì)算機(jī)和機(jī)器能夠承擔(dān)的計(jì)算任務(wù)的強(qiáng)度,以及計(jì)算機(jī)計(jì)算能力和人類計(jì)算能力之間的比例。隨著時(shí)間的推移,這一比例不斷增大,意味著機(jī)器與生物之間的計(jì)算能力差距正在進(jìn)一步擴(kuò)大。

因此,在不久的將來,人工智能在整體智能中的地位將逐漸下降,與機(jī)器智能相比,這將是一場(chǎng)根本性而深遠(yuǎn)的變革。這種變革所帶來的影響目前還難以完全理解,但可以肯定的是,這將是人類歷史上最重要的時(shí)期之一。

特斯拉的 Optimus 機(jī)器人目前仍處于開發(fā)階段,屬于較早期的階段。然而,在未來,我們將會(huì)看到大量的機(jī)器人存在。因此,我們迫切需要考慮一個(gè)比例的問題:機(jī)器人與人類的比例是多少?

目前的趨勢(shì)表明,在某個(gè)階段,機(jī)器人的數(shù)量將超過人類的數(shù)量。而且,機(jī)器人的計(jì)算能力要比人類強(qiáng)大得多,這似乎是一個(gè)發(fā)展的趨勢(shì)。

這種趨勢(shì)將產(chǎn)生積極的影響,也會(huì)帶來消極的影響。積極的影響是,我們將進(jìn)入一個(gè)不再有資源短缺的時(shí)代。這將是一個(gè)充裕的時(shí)代,只要是你想要的東西,就能立刻得到。由于未來世界中機(jī)器人的大量存在,其生產(chǎn)效率將遠(yuǎn)遠(yuǎn)超過人類主導(dǎo)的生產(chǎn)效率,這是一個(gè)巨大的變化。因此,我們必須謹(jǐn)慎行事,以確保最終結(jié)果對(duì)人類有益。

我們還需要注意一個(gè)問題,就是對(duì)于深度、全面的人工智能要保持警惕,有限制的人工智能和通用人工智能(AGI)是完全不同的情況。通用人工智能很難進(jìn)行明確定義,它是一種比人類在任何領(lǐng)域都要聰明得多的人工智能類型,F(xiàn)在需要一些監(jiān)管者來對(duì)其進(jìn)行監(jiān)督,以確保這種深度的人工智能不會(huì)對(duì)人類造成威脅。

華為輪值董事長(zhǎng)胡厚崑:人工智能的發(fā)展,關(guān)鍵是要“走深向?qū)?rdquo;

對(duì)于華為來說,我們下一階段要全力推進(jìn)人工智能走深向?qū)崱榱藢?shí)現(xiàn)這個(gè)目標(biāo),我們有兩個(gè)關(guān)鍵舉措:第一,打造強(qiáng)有力的算力底座,支撐中國(guó)人工智能產(chǎn)業(yè)的發(fā)展;第二,從通用大模型到行業(yè)大模型,真正讓人工智能服務(wù)好千行百業(yè),服務(wù)好科學(xué)研究。

人工智能的發(fā)展,算力是基礎(chǔ)。但在中國(guó)當(dāng)前的情況下,算力在可獲取性和成本方面,都面臨著不小的挑戰(zhàn)。未來希望通過各位同仁的努力,讓算力不再成為人工智能發(fā)展的瓶頸。

生態(tài)對(duì)計(jì)算產(chǎn)業(yè)的持續(xù)發(fā)展來說非常關(guān)鍵,也往往是個(gè)瓶頸。四年以來,在全產(chǎn)業(yè)合作伙伴的共同努力下,已初步構(gòu)建起完整的計(jì)算產(chǎn)業(yè)生態(tài)。

在深耕算力的同時(shí),我們還要真正讓人工智能走進(jìn)千行百業(yè),服務(wù)科學(xué)研究。我們認(rèn)為:一方面,要打好基礎(chǔ),持續(xù)提升通用大模型的能力;另一方面,我們?cè)诖嘶A(chǔ)上,要建好行業(yè)模型,將行業(yè)專有知識(shí)、經(jīng)驗(yàn)與大模型能力充分結(jié)合,最終為客戶提供更專業(yè)精準(zhǔn)的解決方案。

我們希望,AI for Science,能為科學(xué)家、科學(xué)工作者帶來更多新思路、新方法、新工具,也為我們的產(chǎn)業(yè)輸入新的動(dòng)力。

       原文標(biāo)題 : 世界人工智能大會(huì):大模型開啟“工業(yè)4.0 pro”時(shí)代

聲明: 本文由入駐維科號(hào)的作者撰寫,觀點(diǎn)僅代表作者本人,不代表OFweek立場(chǎng)。如有侵權(quán)或其他問題,請(qǐng)聯(lián)系舉報(bào)。

發(fā)表評(píng)論

0條評(píng)論,0人參與

請(qǐng)輸入評(píng)論內(nèi)容...

請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字

您提交的評(píng)論過于頻繁,請(qǐng)輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無評(píng)論

暫無評(píng)論

    人工智能 獵頭職位 更多
    掃碼關(guān)注公眾號(hào)
    OFweek人工智能網(wǎng)
    獲取更多精彩內(nèi)容
    文章糾錯(cuò)
    x
    *文字標(biāo)題:
    *糾錯(cuò)內(nèi)容:
    聯(lián)系郵箱:
    *驗(yàn) 證 碼:

    粵公網(wǎng)安備 44030502002758號(hào)