北京2022年2月16日 /美通社/ -- 2022 ASC世界大學生超級計算機競賽（ASC22）已進入預賽階段。來自全球各地的300多支參賽隊伍正在挑戰一道人工智慧難題 -- AI語言大模型。組委會提供了100GB高質量中文資料集，要求參賽隊基於此資料集實現一個47億引數的“源”AI語言大模型，以此激發參賽大學生對自然語言處理的興趣與創造力，激勵他們向這一人工智慧“皇冠上的明珠”發起衝擊。
AI大模型以其優秀的精度表現以及在應用中較高的智慧化水平，成為了當今人工智慧研究的熱點。李飛飛教授聯名發表的論文中提出，AI大模型的意義在於突現和均質，突現意味著透過大模型隱含的知識和推納可帶來讓人振奮的科學創新靈感，而均質則表示大量模型可以為諸多應用任務泛化支援提供統一強大的演算法支撐。
過去一年中，AI大模型領域湧現出了一批優秀成果，如“源1.0”、“威震天·圖靈”。這些大模型不但能勝任傳統的自然語言處理任務，還會寫詩、程式設計、寫小說、寫論文摘要等等，在醫療、金融、零售、氣象、新聞傳播、文學藝術等領域表現出了廣闊的應用前景。
雖然大模型擁有巨大的發展潛力和應用前景，但同樣面臨著算力挑戰。以“源”為例，其採用2128顆加速器訓練了16天，算力開銷巨大。於是，分散式訓練效能最佳化成為大模型研究的重要方向。
ASC22組委會提供了100GB高質量中文資料集，要求參賽隊基於這一資料集實現一個47億引數的“源”AI語言大模型。但是，組委會並未提供大模型設計的參考程式碼。這就意味著參賽隊需要從零開始，自行完成模型結構構建和全部訓練過程，併合理設計模型訓練策略，以期得到最佳的計算效能。因此，這道賽題也變得更具挑戰性：在追求極致效能的同時，還要滿足精度約束，這也是在實際大模型研發中，行業人士經常會面臨的關鍵問題。
正如ASC發起人、中國工程院院士王恩東所說，隨著人工智慧與算力的完美融合，計算正在向智算演變，可能讓下一代超級計算機成為超級智算機，它不僅是計算效能的數量級躍升，同時也能更好地整合機器學習和物理建模。因此，ASC22將自然語言處理這個高效能計算和人工智慧完美結合的前沿應用設為賽題，將成為參賽隊比拼AI與超算融合能力的絕佳試驗場。
AI大模型賽題專家、浪潮人工智慧研究院首席研究員吳韶華表示，這道賽題瞄準的是分散式訓練效能最佳化方向，要求參賽隊伍在100GB的資料集上完成10億個令牌 的訓練，在滿足精度的條件下，效能越快，得分越高。而訓練效能的提升，將直接降低大模型的訓練開銷、降低叢集能耗，進而降低碳排放。希望透過該賽題，參賽隊伍能對自然語言處理領域的前沿研究形成清晰的認知，並且透過創新實踐，找到具有普適意義的方法，取得計算效能上的突破。
ASC世界大學生超算競賽由中國發起組織，並得到亞洲及歐美相關專家和機構支援，旨在透過大賽平臺推動各國及地區間超算青年人才交流和培養，提升超算應用水平和研發能力，發揮超算的科技驅動力，促進科技與產業創新。ASC超算大賽迄今已舉行至第10屆，吸引超萬名世界各國大學生參賽，是全球最大規模的超算競賽。在最新的2022年賽季，來自世界各國的300多支隊伍報名參賽，經初賽選拔的隊伍將參加5月7日-11日在位於合肥的中國科學技術大學舉行的總決賽。
