sponsored links

2457億引數的巨量模型,意味著什麼?

源1.0模型引數規模為2457億,訓練採用的中文資料集達5000GB,相比GPT3模型1750億引數量和570GB訓練資料集,源1.0引數規模領先40%,訓練資料集規模領先近10倍。如此大規模的人工智慧巨量模型誕生,意味著什麼?

浪潮研究院介紹,“源1.0”在語言智慧方面表現優異,獲得中文語言理解評測基準CLUE榜單的零樣本學習和小樣本學習兩類總榜冠軍。在零樣本學習榜單中,“源1.0”超越業界最佳成績18.3%,在文獻分類、新聞分類,商品分類、原生中文推理、成語閱讀理解填空、名詞代詞關係6項任務中獲得冠軍;在小樣本學習的文獻分類、商品分類、文獻摘要識別、名詞代詞關係等4項任務獲得冠軍。在成語閱讀理解填空專案中,源1.0的表現已超越人類得分。

在對“源1.0”進行的“圖靈測試”中,將源1.0模型生成的對話、小說續寫、新聞、詩歌、對聯與由人類創作的同類作品進行混合並由人群進行分辨,測試結果表明,人群能夠準確分辨人與“源1.0”作品差別的成功率已低於50%。

浪潮人工智慧研究院首席研究員吳韶華表示,一方面,巨量模型可以推動產業界做一些殺手級應用,另一方面,對於前沿技術的探索也有重要意義。“人們一直在追求一種更通用、更好的模型,能夠用於各種各樣的場景,來解決各類問題,實現真正的通用智慧。”

全球範圍內,巨量模型的發展也備受關注。斯坦福大學李飛飛教授等人工智慧領域知名學者近期在論文中表示,這類巨量模型的意義在於突現和均質。突現意味著透過巨大模型的隱含的知識和推納可帶來讓人振奮的科學創新靈感出現;均質表示巨量模型可以為諸多應用任務泛化支援提供統一強大的演算法支撐。

浪潮資訊副總裁劉軍將巨量模型比喻為“珠穆朗瑪峰”,能夠實現“見所未見”,對於科學發現和產業實踐都有巨大價值。他認為,生命從簡單進化到複雜,這種智慧水平本身就是一種模型,如果把模型比作元宇宙中的生命,大模型的這種綜合系統能力可能會決定未來數字世界和智慧世界裡的智慧水平。

“2457億這個引數夠不夠多呢?實際上還不夠多,人的神經元的突觸超過100萬億,所以,我們距離這個水平還有很遠的路要走。”在劉軍看來,未來,人類需要更大的模型、更大的資料、更大的算力,這樣才可以擁有更大的智慧。

源1.0中文巨量模型的釋出,使得中國學術界和產業界可以使用一種通用巨量語言模型的方式,大幅降低針對不同應用場景的語言模型適配難度;同時提升在小樣本學習和零樣本學習場景的模型泛化應用能力。浪潮人工智慧研究院表示,“源1.0”將面向學術研究單位和產業實踐使用者進行開源、開放、共享,降低巨量模型研究和應用的門檻,有效推進AI產業化和產業AI化的進步,切實為國家在人工智慧研究創新和產業發展作出貢獻。(戰釗)

來源: 光明網

分類: 科技
時間: 2021-10-07

相關文章

新鮮早科技丨蘋果或下調年內iPhone生產目標;位元組跳動旗下巨量引擎推出巨量學;藍色起源完成第二次載人太空飛行
21世紀經濟報道記者楊清清 實習記者陳龍潼 綜合報道 早上好,新的一天又開始了.在過去24小時內,科技行業發生了哪些有意思的事情?來跟21tech一起看看吧. [巨頭風向標] 1.蘋果或下調年內iPh ...

25倍大牛股巨量跌停,發生了什麼?全球巨頭減產,價格狂飆,淨利持續高增長概念股僅兩隻
週期股開啟反彈模式? 近期各主要指數在關鍵技術位表現穩健,但個股波動較為巨大,一批股票走出A字型走勢.資料寶統計顯示,9月以來已經有200多隻個股最新價較區間高點回調超30%,逾千股回撥超20%. 今 ...

巨量引擎正式推出數字化職業教育品牌“巨量學”
36氪獲悉,巨量引擎正式推出數字化職業教育品牌"巨量學",同時釋出巨量學品牌定位及全景服務體系.

大眾5.3億加速電芯量產
大眾|動力電池文章來源自:高工鋰電網 2021-09-17 17:44:29 閱讀:69 摘要大眾集團投資7000萬歐元(約合人民幣5.3億元)在薩爾茨吉特建設的研發中心投入使用,主要負責大眾電動汽車 ...

寶馬320進化錄(巨量大圖,流量慎入)

寶馬320進化錄(巨量大圖,流量慎入)
​繼君威之後,這是我的第二輛車 16年的寶馬320im 下面是剛提車素車的樣子 還沒提車,改裝件就在路上了 剛提車就去換了GTS機蓋,哈哈哈 簡簡單單 原滋原味 一去不復還 碳纖維前鏟 側裙 後唇 中 ...

西門子能源:創新與合作是能源轉型的關鍵驅動力
[高質量能源內容,點選右上角加'關注'] 109年前,1912年5月28日,幾十只500瓦的白熾燈泡懸掛在昆明城翠湖.麗正門.金馬坊和碧雞坊等地.相對於這一年目不暇接的新聞,這個初夏的日子似乎有些平淡 ...

日本敢拋掉萬億美債嗎?如果不敢,是否意味著又要再籤廣場協議

日本敢拋掉萬億美債嗎?如果不敢,是否意味著又要再籤廣場協議
世界上持有美債最多的國家是日本,持有美債總額達到一點二七萬億美元,然而我們知道日本經濟流年不利,其自身債務規模雖然不及美國的二十八點五萬億美元,但其國債佔據第一比例,則世界最高,國債佔比GDP超過百分 ...

微軟英偉達釋出5300億NLP模型“威震天-圖靈”,花了4480塊A100

微軟英偉達釋出5300億NLP模型“威震天-圖靈”,花了4480塊A100
5300億引數!全球最大規模NLP模型誕生. 由微軟聯手英偉達推出,名叫威震天-圖靈自然語言生成模型(Megatron Turing-NLG). 據他們介紹,這樣的量級不僅讓它成為全球規模最大,同時也 ...

8000億的採購大單,對中小企業意味著什麼?

8000億的採購大單,對中小企業意味著什麼?
作者 / 曹雨 若然 來源 / 盒飯財經(ID:daxiongfan) 創業是一條極其艱難的路,常用的比喻是九死一生,對於中小企業而言,簡直是十死無生. 不過,這一狀況可能發生根本性改變. " ...

算力大爆炸:萬億個!演算法複雜度已超越人腦神經元數量

算力大爆炸:萬億個!演算法複雜度已超越人腦神經元數量
圖攝:Pixabay 30秒快讀 1.即便不進行微縮,技術革新仍然能讓晶片的效能提升50到500倍,甚至1000倍. 2.超過萬億演算法引數的模型已經誕生,已經超過了曾被認為最複雜的人腦神經元結構. ...

居民存款減少1.36萬億去了哪裡?“類資產荒”之下43天萬億成交追平歷史紀錄,牛市開端還是行情見頂?

居民存款減少1.36萬億去了哪裡?“類資產荒”之下43天萬億成交追平歷史紀錄,牛市開端還是行情見頂?
每經記者:楊建 每經編輯:何劍嶺 圖片來源:攝圖網 近期央行資料顯示,7月份居民存款減少1.36萬億元.那麼減少的這部分居民存款從銀行流出後,去了哪裡呢?資料顯示,今年的公募以及私募基金擴容明顯,尤其 ...

AI大模型時代快來了!未來或重新整理智慧終端體驗想象力

AI大模型時代快來了!未來或重新整理智慧終端體驗想象力
智東西(公眾號:zhidxcom) 作者 | 心緣 編輯 | 漠影 "生薑怎麼儲存?"."小孩能吃辣條嗎?"."魚的感覺器官是什麼?"-- ...

2000億債務,華夏幸福打包甩賣,王文學留下了東山再起的“火種”
10月8日,華夏幸福復牌.復牌即一字漲停,報4.41元,封單超44萬手.這是近期房地產行業一連串壞訊息中難得的亮色. 資本市場的積極態度與華夏幸福在9月30日公佈的2192億元債務重組方案緊密相關-- ...

中國服裝龍頭“轟然跌倒”?庫存86億,急請周杰倫當“救火隊長”

中國服裝龍頭“轟然跌倒”?庫存86億,急請周杰倫當“救火隊長”
服裝業是中國的優勢行業,2019年中國的服裝出口占全球比例高達38%,最近印度的一些服裝訂單甚至迴流到中國,可見中國在服裝產業的全產業鏈影響力,是世界上其他國家所無法比擬的,也不會因為東南亞的越南,柬 ...

阿爾巴尼亞接受中國百億援助,卻反咬一口抹黑中國,後來怎麼樣?

阿爾巴尼亞接受中國百億援助,卻反咬一口抹黑中國,後來怎麼樣?
一直以來,作為中國的朋友,有許多非洲國家曾經接受過中國的援助.其中包括了基礎設施援建,建設工廠以及大型公共設施援助等. 而原本貧窮落後的非洲也因為中國的援助而得到了一定程度的發展,中國也因此在非洲有了 ...

硬科技投向標|小米產業基金投資車規級MCU企業雲途半導體 寧德時代擬投135億元擴產
<科創板日報>18訊,本週,硬科技領域投融資重要訊息包括:元戎啟行獲3億美元融資,阿里戰略領投:靈明光子完成數千萬元B1輪融資:傳寧德時代擬3.77億加元收購加拿大鋰業公司等. >& ...

震動金融圈!4000多億身家,67歲中國首富進軍私募!又有300億量化私募巨頭緊急出手,通知渠道提前“封盤”控規模

震動金融圈!4000多億身家,67歲中國首富進軍私募!又有300億量化私募巨頭緊急出手,通知渠道提前“封盤”控規模
中國基金報記者 吳君 現年67歲的首富鍾睒睒,也要進軍私募圈了! 最近一家名為"關子私募基金管理(杭州)有限公司"的機構在中基協低調完成備案登記,其實際控制人正是農夫山泉創始人鍾睒 ...

開啟“千億級”大賽道,第三代半導體:將成為綠色經濟的中流砥柱

開啟“千億級”大賽道,第三代半導體:將成為綠色經濟的中流砥柱
獲取本報告PDF版請見文末 出品方/分析師:天風證券 潘暕 駱奕揚 程如瑩 1.半導體需求依舊高企,短期供需平衡難以實現 1.1. 新應用多點開花,帶動需求快速起量 1)AIoT黃金時代已至,開啟半導 ...

小鵬汽車釋出P5背後:鐳射雷達量產裝車時代加速到來

小鵬汽車釋出P5背後:鐳射雷達量產裝車時代加速到來
新的競爭也要到來. 9月15日,小鵬汽車旗下預熱已久的第三款量產車型小鵬P5正式上市. 對於目前在拓展產品線方面有強烈需求的所有電動車企來說,持續開發新的車型當然是很正常的事情,P7銷量一直大幅攀升, ...