9月4日,“天翼云息壤——大模型訓推一體化服務能力升級”線上發(fā)布會成功舉辦。會上,息壤平臺訓推服務能力重磅升級,新增閉源、多模態(tài)基座大模型以及數(shù)據(jù)集,支持萬卡規(guī)模訓練,訓練穩(wěn)定性再次提升,新增體驗空間,為基礎大模型訓練、行業(yè)大模型訓推提供一站式解決方案。天翼云多位專家與合作伙伴代表發(fā)表精彩演講,共探人工智能大模型的發(fā)展趨勢與挑戰(zhàn),并對平臺升級后的能力與優(yōu)勢,以及在醫(yī)療領域的賦能實踐進行了深度解讀。
平臺全新升級,提供穩(wěn)定高效的大模型訓推一體化服務
我國大模型已進入快速發(fā)展階段,但大模型的研發(fā)與推廣仍然面臨一定的壓力和挑戰(zhàn),呈現(xiàn)出“基礎豐富,應用不足”的特點。一方面,大模型的訓練和應用需要大量的高質(zhì)量數(shù)據(jù),當前我國數(shù)據(jù)資源有限且分散,導致模型訓練效果并不理想;另一方面,模型的參數(shù)量和計算復雜度持續(xù)增加,對算力的需求以幾何級數(shù)增長。行業(yè)亟需更加高效、集約化的智算平臺的支撐,以驅(qū)動國產(chǎn)大模型高質(zhì)量發(fā)展與產(chǎn)業(yè)化應用。
天翼云智算產(chǎn)品線總監(jiān)張安發(fā)表示,升級后的平臺專為應對大參數(shù)大模型、行業(yè)模型應用所帶來的挑戰(zhàn)而設計,它提供了一個全棧式的服務,旨在簡化大模型從訓練到部署的整個流程。平臺新增了開閉源大模型、多模態(tài)大模型,供用戶靈活選擇,模型數(shù)量處于國內(nèi)領先水平;新增上線專業(yè)的大模型數(shù)據(jù)集,用戶可直接將數(shù)據(jù)用于大模型訓練、推理任務中,實現(xiàn)了算法、算力、數(shù)據(jù)三要素的融合;新增體驗中心,用戶可直接在線互動體驗;打造了全鏈路故障感知和恢復、全鏈路日志監(jiān)控工具,突破斷點續(xù)訓等核心技術,使全鏈路監(jiān)控訓練更穩(wěn)定。
隨著模型參數(shù)量從千億邁向萬億,大模型對底層算力的訴求進一步升級,萬卡甚至超萬卡集群已經(jīng)成為大模型產(chǎn)業(yè)發(fā)展的剛需,同時對訓練穩(wěn)定性要求極高。根據(jù)公開報道,Llama3.1-405B原生訓練耗時持續(xù)54天,累計發(fā)生419次故障,平均每3小時產(chǎn)生一次。天翼云智算產(chǎn)品線專家范順國介紹,天翼云訓推服務平臺是國內(nèi)首個實現(xiàn)公有云國產(chǎn)化萬卡訓練的平臺,能夠為萬億參數(shù)級別大模型訓練提供一體化方案。天翼云在北京萬卡池完成了Llama3-405B(4000億參數(shù))大模型的訓練,700億參數(shù)模型Llama2-70B在萬卡規(guī)模下順利拉起并完成訓練,MFU達到43%,在業(yè)界達到了領先水平。天翼云優(yōu)化斷點續(xù)訓技術,在Llama2-70B模型訓練中,實現(xiàn)秒級故障檢測,分鐘級定位并處理故障,分鐘級訓練恢復,這一性能已達到行業(yè)前沿水平。
此外,基于平臺能力,天翼云聯(lián)合伙伴上線了魔樂(Modelers)開發(fā)者社區(qū),通過整合優(yōu)質(zhì)中文AI資源、提供極致易用的工具鏈,以及國產(chǎn)化算力使能,端到端支持AI應用開發(fā)全流程,助力孵化國產(chǎn)原生模型。
三種交付形態(tài)+兩大應用場景,助力企業(yè)加速AI應用落地
AI技術加速融入各行各業(yè),大模型的應用前景也愈加廣闊。天翼云息壤一體化智算服務平臺從行業(yè)及客戶需求出發(fā),在技術與能力的不斷迭代升級中使能企業(yè)制勝AI時代。
天翼云智算產(chǎn)品線專家夏曼雪對平臺功能進行了詳細演示。平臺支持公有云、混合云和輕量化三種交付形態(tài)。其中,公有云版本即開即用、計費靈活,支持按卡時計費、包周期計費;混合云版本支持千卡規(guī)模的私有化項目交付;輕量化版本支持天翼云A100云主機、H800/A100/A800/A10裸金屬服務器、物理機等硬件形態(tài)交付部署,靈活便捷。
場景應用方面,平臺主要面向兩類客戶場景。一是具備深厚行業(yè)知識、擁有自主數(shù)據(jù)的行業(yè)客戶,如政務、金融機構、汽車、媒體、旅游等行業(yè)。依托零代碼平臺和豐富的開閉源大模型,客戶無需掌握算法編程即可完成模型的調(diào)優(yōu)和API調(diào)用,從而加速大模型從概念到落地的進程。二是擁有很強的算法能力,但在智算集群的管理運維方面經(jīng)驗不足的大模型廠商。平臺為這類用戶提供專業(yè)的開發(fā)和運維工具,實現(xiàn)大規(guī)模分布式訓練和斷點續(xù)訓能力,在保障穩(wěn)定性的同時,通過構建AI加速引擎助力用戶提升算力利用率。
目前,天翼云已服務多個客戶的訓推場景,助力行業(yè)大模型訓推更便捷、更高效、更穩(wěn)定安全。中國中醫(yī)科學院中醫(yī)藥信息研究所(簡稱“中醫(yī)藥信息研究所”)所長特聘助理朱彥分享了與天翼云合作開展中醫(yī)藥大模型的探究與實踐,通過與天翼云合作,中醫(yī)藥信息研究所獲得了更加穩(wěn)定和高效的計算支持。借助天翼云大模型學習機,搭建低代碼服務平臺,中醫(yī)藥信息研究所高效完成了文獻和臨床數(shù)據(jù)的治理工作,包括自動抽取、標準化等任務。此外,在中醫(yī)垂類大模型的微調(diào)、應用發(fā)布方面,平臺將提供算法支持和模型優(yōu)化工具,幫助客戶充分挖掘中醫(yī)藥數(shù)據(jù)的內(nèi)在價值。雙方合作與探索,不僅進一步加速了中醫(yī)大模型的研究和應用,以及中醫(yī)藥的現(xiàn)代化進程,也將為全球健康事業(yè)的發(fā)展作出重要貢獻。
伴隨以大模型為核心的人工智能技術的快速發(fā)展,各行各業(yè)正經(jīng)歷著一場前所未有的智能化轉(zhuǎn)型浪潮。作為云服務國家隊,天翼云將持續(xù)聚焦人工智能場景進行技術創(chuàng)新,積極加碼布局智算基礎設施,賦能企業(yè)跑出“AI加速度”,攜手合作伙伴共同推動經(jīng)濟社會智能化水平邁向新高度。
免責聲明:市場有風險,選擇需謹慎!此文僅供參考,不作買賣依據(jù)。
中新網(wǎng)北京9月9日電(高琰瑭)“當代的太陽系探測,月球探測是起點,火星
從哈爾濱工業(yè)大學研究生院獲悉,2023年哈爾濱工業(yè)大學碩士研究生入學考
圖源:cfp2023年10月1日起,《深圳市醫(yī)療保障辦法》(下稱《醫(yī)保辦法》
據(jù)“北京房山”官方公眾號消息,按照北京市相關部門要求,9月9日,房山
近日,區(qū)政府召開常務會議,區(qū)委副書記、區(qū)長沈山州主持會議。《黃浦區(qū)
向左轉(zhuǎn)|向右轉(zhuǎn)1、靜靜地(離去)2、靜靜地(思考)3、靜靜地(望著)4
截至2023年9月8日收盤,萊克電氣(603355)報收于27 36元,上漲0 29%,換
美麗生態(tài)(SZ000010,收盤價:元)9月8日晚間發(fā)布公告稱,本激勵計劃授
天下煙火,半湖湘;湘菜高度,看北京。北京,是文化融合之都,也是美食
拓邦股份(002139)09月08日在投資者關系平臺上答復了投資者關心的問題。
對講機行業(yè)市場發(fā)展態(tài)勢如何?科技飛速進步,現(xiàn)代生活逐漸走向智能化,
1、在1個標準大氣壓和15攝氏度的條件下約為340米/秒,或1224公里/小
《千與千尋》、《龍貓》和《幽靈公主》的電影大師宮崎駿在2013年的電影
2 公務員考試招生簡章的主要內(nèi)容包括:招生計劃、招生條件、招生對象、
諸多的對于夏天哈爾濱旅游必去景點,哈爾濱旅游必去景點這個問題都頗為
安徽安慶市正式成立“老年助餐慈善基
記者日前從安慶市民政局獲悉,該市慈善會近日設立老年助餐慈善基金,共同守護老年人舌尖上的幸福。該基金專項用于資助城鄉(xiāng)社區(qū)老年食堂、社
安徽淮北積極落實2022年電網(wǎng)防汛度汛
近日,國網(wǎng)淮北供電公司工作人員來到110千伏中泰變電站開展防汛隱患排查。該公司積極落實2022年防汛度汛措施,提前細化應急預案,推進極端
安徽全椒縣完善拓展人力信息資源助企
今年以來,全椒縣不斷完善拓展人力資源信息庫、勞務對接信息庫、企業(yè)用工需求信息庫三庫信息資源,已摸排400多家次企業(yè)缺工崗位信息1 2萬個
宿州市埇橋區(qū)柔性引進博士推進鄉(xiāng)村振
宿州市埇橋區(qū)實施博士匯工程,柔性引進29名博士擔任副鄉(xiāng)鎮(zhèn)長或園區(qū)副主任,他們將為加快產(chǎn)業(yè)發(fā)展、推進鄉(xiāng)村振興強化智力支持。目前,博士專
安徽印發(fā)出臺全面實施零基預算改革方
為進一步提高財政資源配置效率和資金使用效益,省政府印發(fā)《安徽省全面實施零基預算改革方案》,明確從編制2023年預算起,在全省范圍內(nèi)全面
5月份安徽居民消費價格同比上漲2.3%
近日,國家統(tǒng)計局安徽調(diào)查總隊發(fā)布了我省5月份居民消費價格統(tǒng)計數(shù)據(jù)。統(tǒng)計顯示,我省居民消費價格同比上漲2 3%,同比漲幅比上月回落0 4個百分
安徽多種方式引導群眾防范非法集資風
合肥地鐵1號線、3號線上滾動播放防范非法集資宣傳視頻,淮南市發(fā)布《致老年群眾的一封信》……6月份是一年一度防范和處置非法集資宣傳月,今
鐵路部門持續(xù)加大長三角地區(qū)運力投放
記者從中國鐵路上海局集團有限公司獲悉,隨著上海疫情防控形勢持續(xù)向好,為進一步適應旅客出行需要,助力復工復產(chǎn),鐵路部門自6月10日起持續(xù)加
安徽六安持續(xù)精準施策全力促進工業(yè)發(fā)
六安市與蔚來汽車簽署合作協(xié)議,共建智能電動汽車零部件配套產(chǎn)業(yè)園區(qū)。該園區(qū)一期計劃2023年上半年投產(chǎn),建成后將具備年產(chǎn)30萬噸鋁壓鑄產(chǎn)能,
安徽淮北全力維護外賣送餐員合法權益
為切實防范化解新業(yè)態(tài)領域重大風險隱患,強化外賣送餐員權益保障工作,淮北市市場監(jiān)管局充分發(fā)揮職能作用,全力維護外賣送餐員合法權益。淮北
湖南漣源開展專項行動一對一為企業(yè)紓
位于漣源市的湖南三合美新材料科技有限公司,兩條生產(chǎn)線滿負荷運行,生產(chǎn)聚氨酯和巖棉復合板。因產(chǎn)品升級與產(chǎn)能擴充,急需新增兩條生產(chǎn)線,
湖南藍山縣進村入戶排查整治自建房安
老叔,這棟房屋墻體有開裂痕跡,要維修加固,安全重要!5月20日,藍山縣塔峰鎮(zhèn)果木村,黨員干部上門開展農(nóng)村自建房安全隱患排查整治。連日來
一季度湖南萬元產(chǎn)值綜合能耗同比下降
近日,湖南省工業(yè)通信業(yè)節(jié)能監(jiān)察中心發(fā)布一季度全省六大高耗能行業(yè)能源消耗統(tǒng)計監(jiān)測報告。據(jù)該報告,一季度全省146家主要高耗能企業(yè)的萬元
濟南起步區(qū)一年來累計簽約優(yōu)質(zhì)項目11
萬里黃河第一隧濟南黃河濟濼路隧道建成通車,占地4000余畝的新能源乘用車零部件產(chǎn)業(yè)園加快施工……記者21日采訪獲悉,建設實施方案獲批復一
山東發(fā)布通知啟動傳統(tǒng)民居保護利用試
省住房城鄉(xiāng)建設廳、省財政廳近日聯(lián)合印發(fā)《關于做好傳統(tǒng)民居保護利用試點工作的通知》,在全省部署開展傳統(tǒng)民居保護利用試點工作。此次試點