News center新聞中心
【專訪】國家超級(jí)計(jì)算無錫中心主任楊廣文:神威·太湖之光將加大對(duì)深度學(xué)習(xí)的支持
來源自:捷世智通 點(diǎn)擊數(shù):33634 發(fā)布時(shí)間:2017-09-11
轉(zhuǎn)自新智元 ( 微信號(hào) : AI_era ) 作者 : 胡祥杰
2017年9月7日,由中國工程院信息與電子工程學(xué)部主辦、浪潮集團(tuán)承辦的首屆人工智能計(jì)算大會(huì)(AI Computing Conference,簡(jiǎn)稱AICC)在北京舉行。清華大學(xué)教授、國家超級(jí)計(jì)算無錫中心主任楊廣文在會(huì)上作了《神威·太湖之光的深度學(xué)習(xí)應(yīng)用》的主題演講。介紹了此前登頂全球超級(jí)計(jì)算機(jī)500強(qiáng)榜單榜首的神威·太湖之光在深度學(xué)習(xí)上的應(yīng)用。
“神威·太湖之光”是世界上首臺(tái)峰值浮點(diǎn)運(yùn)算性能超過每秒十億億次的超級(jí)計(jì)算機(jī)。該系統(tǒng)是我國“十二五”期間“863計(jì)劃”的重大科研成果,由國家并行計(jì)算機(jī)工程技術(shù)研究中心研制,運(yùn)算系統(tǒng)全面采用了由國家高性能集成電路設(shè)計(jì)中心通過自主核心技術(shù)研制的國產(chǎn)“申威26010”眾核處理器。
“神威·太湖之光”也是我國第一臺(tái)全部采用國產(chǎn)處理器構(gòu)建的世界排名第一的超級(jí)計(jì)算機(jī)。
此外,2016年年底,國際高性能計(jì)算應(yīng)用最高獎(jiǎng)戈登·貝爾獎(jiǎng)公布獲獎(jiǎng)入選名單中,依托于“神威·太湖之光”的強(qiáng)大計(jì)算能力,中國有3項(xiàng)應(yīng)用入圍最終提名,占了總?cè)雵?xiàng)目的一半,2017年三項(xiàng)入圍應(yīng)用中,基于“神威·太湖之光”的應(yīng)用占據(jù)2/3。
在會(huì)場(chǎng)對(duì)楊廣文教授進(jìn)行了專訪。
楊廣文教授和團(tuán)隊(duì)在無錫超級(jí)計(jì)算中心的主要工作是負(fù)責(zé)“神威·太湖之光”機(jī)器的運(yùn)維。他介紹,運(yùn)維的目的就是把超級(jí)計(jì)算機(jī)用好。首先得好用,然后還要用好,好用不是簡(jiǎn)單的管理與調(diào)整機(jī)器,還要做很多國產(chǎn)處理器生態(tài)建設(shè)方面的工作。把程序庫建好、應(yīng)用支撐做好、調(diào)度方法做好,用戶的支持也就做好了,這是最基本的工作。
“當(dāng)然我們不但要讓機(jī)器好用、用好,也要考慮將來超算中心的可持續(xù)發(fā)展,所以除此之外我們還吸引國內(nèi)外的優(yōu)秀科研人員開展大量的研發(fā)工作,支持解決重要科學(xué)問題、重大裝備研發(fā),另外還進(jìn)一步支持產(chǎn)業(yè)升級(jí)等,加強(qiáng)研發(fā)是我們的一項(xiàng)重要工作。 ”楊廣文教授說。
他還與我們分享了為什么國家超級(jí)計(jì)算無錫中心選擇清華大學(xué)的團(tuán)隊(duì)去進(jìn)行維護(hù)。他說,超算是一個(gè)交叉學(xué)科研究,希望有強(qiáng)的學(xué)科背景,又有超算運(yùn)維經(jīng)驗(yàn)的單位來做這個(gè)事,這樣就選了清華大學(xué)。因?yàn)榍迦A大學(xué)超算級(jí)計(jì)算及應(yīng)用基礎(chǔ)很好,學(xué)校也希望借助神威·太湖之光的超強(qiáng)計(jì)算能力來支持國家的重大需求,因此通過協(xié)商,最終決定由無錫市、清華大學(xué)、江蘇省產(chǎn)業(yè)研究院共同運(yùn)維這臺(tái)世界最大的計(jì)算機(jī)。
到目前基于“神威·太湖之光”已完成了20多個(gè)應(yīng)用領(lǐng)域上百項(xiàng)應(yīng)用的計(jì)算任務(wù),目前完成的整機(jī)應(yīng)用已達(dá)15個(gè),取得一些重要的應(yīng)用成果。
在采訪中了解到,無錫超算中心也就是“神威·太湖之光”接下來會(huì)與國家并行計(jì)算機(jī)工程技術(shù)中心合作推出小型化機(jī)器,并針對(duì)具體應(yīng)用進(jìn)行定制,如支持深度學(xué)習(xí)的專用機(jī)。
關(guān)于無錫超算對(duì)深度學(xué)習(xí)的支持,楊廣文教授說:“第一個(gè)開發(fā)了大量深度學(xué)習(xí)算法 并行軟件;第二,研發(fā)了一個(gè)深度學(xué)習(xí)平臺(tái)swCaffe,來支持用戶基于這個(gè)進(jìn)行深度學(xué)習(xí)應(yīng)用,目前已開展的應(yīng)用包括圍棋、語音識(shí)別、醫(yī)學(xué)圖像識(shí)別、遙感圖像分類、地震波余震特征識(shí)別、大規(guī)模冷凍電鏡生物大分子模型高精度重構(gòu)等;第三,我們也在布局,與國家并行計(jì)算機(jī)工程技術(shù)中心基于申威26010芯片開展小型化機(jī)器研發(fā),特備針對(duì)特殊應(yīng)用開展專用機(jī)的研制。進(jìn)一步,可根據(jù)重大應(yīng)用需求,提出一些申威自主芯片的一些改進(jìn)方案,如針對(duì)人工智能、深度學(xué)習(xí)做一些定制的芯片,這是一個(gè)長(zhǎng)期的研究工作。”
此前曾經(jīng)報(bào)道,中美兩國都在開展百億億級(jí)的超級(jí)計(jì)算機(jī),這是超級(jí)計(jì)算機(jī)發(fā)展的一個(gè)目標(biāo),如果實(shí)現(xiàn)了百億億級(jí)的超級(jí)計(jì)算,它對(duì)人工智能會(huì)帶來什么樣的影響?
楊廣文教授說,百億億級(jí)的超級(jí)計(jì)算機(jī)的研制目前是一個(gè)國際競(jìng)爭(zhēng)熱點(diǎn),我國在十三五期間已進(jìn)行了規(guī)劃。百億億級(jí)超級(jí)計(jì)算機(jī)的研制成功,但對(duì)人工智能具有重要的作用,可滿足人工智能對(duì)大模型、大數(shù)據(jù)、大計(jì)算的需求。但是百億億級(jí)的超級(jí)計(jì)算機(jī)研制成功后,如何更好地支持人工智能技術(shù)的發(fā)展,需要多領(lǐng)域的專家共同努力,研發(fā)大型并行應(yīng)用軟件,共同解決核心問題。
談到AI時(shí)代對(duì)計(jì)算能力的要求,楊廣文教授認(rèn)為以后還是會(huì)朝著定制化的方向的發(fā)展。
他認(rèn)為,AI并不見得就是一定要有超算那么大一個(gè)機(jī)器來做,現(xiàn)在有很多情況下在數(shù)據(jù)采集的時(shí)候就可以進(jìn)行一些處理,所以終端就可能用到高性能計(jì)算。終端處理完以后再進(jìn)行數(shù)據(jù)收集、傳輸、存儲(chǔ),后面再用到超算。
將來針對(duì)特殊應(yīng)用做一個(gè)定制的系統(tǒng)。芯片可以定制,系統(tǒng)也可以定制,應(yīng)用也可以定制,多個(gè)層次的定制,這才是一個(gè)比較滿意的系統(tǒng)。
人工智能計(jì)算大會(huì)由中國工程院信息與電子工程學(xué)部主辦、浪潮集團(tuán)承辦,共邀請(qǐng)了海內(nèi)外數(shù)十位知名專家圍繞AI計(jì)算創(chuàng)新主題進(jìn)行研討報(bào)告,分享了AI在互聯(lián)網(wǎng)、云計(jì)算、超算、安防、醫(yī)療、能源、電商、智慧城市等眾多行業(yè)的創(chuàng)新實(shí)例,吸引了來自各行業(yè)的數(shù)千名專業(yè)人士參與。主旨是圍繞AI當(dāng)下需求及未來發(fā)展,從計(jì)算創(chuàng)新著眼,聯(lián)合從事AI計(jì)算及應(yīng)用的公司、用戶、專家、開發(fā)者共同打造探討促進(jìn)AI計(jì)算的交流合作平臺(tái),推動(dòng)AI產(chǎn)業(yè)的可持續(xù)發(fā)展。
2017年9月7日,由中國工程院信息與電子工程學(xué)部主辦、浪潮集團(tuán)承辦的首屆人工智能計(jì)算大會(huì)(AI Computing Conference,簡(jiǎn)稱AICC)在北京舉行。清華大學(xué)教授、國家超級(jí)計(jì)算無錫中心主任楊廣文在會(huì)上作了《神威·太湖之光的深度學(xué)習(xí)應(yīng)用》的主題演講。介紹了此前登頂全球超級(jí)計(jì)算機(jī)500強(qiáng)榜單榜首的神威·太湖之光在深度學(xué)習(xí)上的應(yīng)用。
“神威·太湖之光”是世界上首臺(tái)峰值浮點(diǎn)運(yùn)算性能超過每秒十億億次的超級(jí)計(jì)算機(jī)。該系統(tǒng)是我國“十二五”期間“863計(jì)劃”的重大科研成果,由國家并行計(jì)算機(jī)工程技術(shù)研究中心研制,運(yùn)算系統(tǒng)全面采用了由國家高性能集成電路設(shè)計(jì)中心通過自主核心技術(shù)研制的國產(chǎn)“申威26010”眾核處理器。
“神威·太湖之光”也是我國第一臺(tái)全部采用國產(chǎn)處理器構(gòu)建的世界排名第一的超級(jí)計(jì)算機(jī)。
此外,2016年年底,國際高性能計(jì)算應(yīng)用最高獎(jiǎng)戈登·貝爾獎(jiǎng)公布獲獎(jiǎng)入選名單中,依托于“神威·太湖之光”的強(qiáng)大計(jì)算能力,中國有3項(xiàng)應(yīng)用入圍最終提名,占了總?cè)雵?xiàng)目的一半,2017年三項(xiàng)入圍應(yīng)用中,基于“神威·太湖之光”的應(yīng)用占據(jù)2/3。
在會(huì)場(chǎng)對(duì)楊廣文教授進(jìn)行了專訪。
楊廣文教授和團(tuán)隊(duì)在無錫超級(jí)計(jì)算中心的主要工作是負(fù)責(zé)“神威·太湖之光”機(jī)器的運(yùn)維。他介紹,運(yùn)維的目的就是把超級(jí)計(jì)算機(jī)用好。首先得好用,然后還要用好,好用不是簡(jiǎn)單的管理與調(diào)整機(jī)器,還要做很多國產(chǎn)處理器生態(tài)建設(shè)方面的工作。把程序庫建好、應(yīng)用支撐做好、調(diào)度方法做好,用戶的支持也就做好了,這是最基本的工作。
“當(dāng)然我們不但要讓機(jī)器好用、用好,也要考慮將來超算中心的可持續(xù)發(fā)展,所以除此之外我們還吸引國內(nèi)外的優(yōu)秀科研人員開展大量的研發(fā)工作,支持解決重要科學(xué)問題、重大裝備研發(fā),另外還進(jìn)一步支持產(chǎn)業(yè)升級(jí)等,加強(qiáng)研發(fā)是我們的一項(xiàng)重要工作。 ”楊廣文教授說。
他還與我們分享了為什么國家超級(jí)計(jì)算無錫中心選擇清華大學(xué)的團(tuán)隊(duì)去進(jìn)行維護(hù)。他說,超算是一個(gè)交叉學(xué)科研究,希望有強(qiáng)的學(xué)科背景,又有超算運(yùn)維經(jīng)驗(yàn)的單位來做這個(gè)事,這樣就選了清華大學(xué)。因?yàn)榍迦A大學(xué)超算級(jí)計(jì)算及應(yīng)用基礎(chǔ)很好,學(xué)校也希望借助神威·太湖之光的超強(qiáng)計(jì)算能力來支持國家的重大需求,因此通過協(xié)商,最終決定由無錫市、清華大學(xué)、江蘇省產(chǎn)業(yè)研究院共同運(yùn)維這臺(tái)世界最大的計(jì)算機(jī)。
到目前基于“神威·太湖之光”已完成了20多個(gè)應(yīng)用領(lǐng)域上百項(xiàng)應(yīng)用的計(jì)算任務(wù),目前完成的整機(jī)應(yīng)用已達(dá)15個(gè),取得一些重要的應(yīng)用成果。
在采訪中了解到,無錫超算中心也就是“神威·太湖之光”接下來會(huì)與國家并行計(jì)算機(jī)工程技術(shù)中心合作推出小型化機(jī)器,并針對(duì)具體應(yīng)用進(jìn)行定制,如支持深度學(xué)習(xí)的專用機(jī)。
關(guān)于無錫超算對(duì)深度學(xué)習(xí)的支持,楊廣文教授說:“第一個(gè)開發(fā)了大量深度學(xué)習(xí)算法 并行軟件;第二,研發(fā)了一個(gè)深度學(xué)習(xí)平臺(tái)swCaffe,來支持用戶基于這個(gè)進(jìn)行深度學(xué)習(xí)應(yīng)用,目前已開展的應(yīng)用包括圍棋、語音識(shí)別、醫(yī)學(xué)圖像識(shí)別、遙感圖像分類、地震波余震特征識(shí)別、大規(guī)模冷凍電鏡生物大分子模型高精度重構(gòu)等;第三,我們也在布局,與國家并行計(jì)算機(jī)工程技術(shù)中心基于申威26010芯片開展小型化機(jī)器研發(fā),特備針對(duì)特殊應(yīng)用開展專用機(jī)的研制。進(jìn)一步,可根據(jù)重大應(yīng)用需求,提出一些申威自主芯片的一些改進(jìn)方案,如針對(duì)人工智能、深度學(xué)習(xí)做一些定制的芯片,這是一個(gè)長(zhǎng)期的研究工作。”
此前曾經(jīng)報(bào)道,中美兩國都在開展百億億級(jí)的超級(jí)計(jì)算機(jī),這是超級(jí)計(jì)算機(jī)發(fā)展的一個(gè)目標(biāo),如果實(shí)現(xiàn)了百億億級(jí)的超級(jí)計(jì)算,它對(duì)人工智能會(huì)帶來什么樣的影響?
楊廣文教授說,百億億級(jí)的超級(jí)計(jì)算機(jī)的研制目前是一個(gè)國際競(jìng)爭(zhēng)熱點(diǎn),我國在十三五期間已進(jìn)行了規(guī)劃。百億億級(jí)超級(jí)計(jì)算機(jī)的研制成功,但對(duì)人工智能具有重要的作用,可滿足人工智能對(duì)大模型、大數(shù)據(jù)、大計(jì)算的需求。但是百億億級(jí)的超級(jí)計(jì)算機(jī)研制成功后,如何更好地支持人工智能技術(shù)的發(fā)展,需要多領(lǐng)域的專家共同努力,研發(fā)大型并行應(yīng)用軟件,共同解決核心問題。
談到AI時(shí)代對(duì)計(jì)算能力的要求,楊廣文教授認(rèn)為以后還是會(huì)朝著定制化的方向的發(fā)展。
他認(rèn)為,AI并不見得就是一定要有超算那么大一個(gè)機(jī)器來做,現(xiàn)在有很多情況下在數(shù)據(jù)采集的時(shí)候就可以進(jìn)行一些處理,所以終端就可能用到高性能計(jì)算。終端處理完以后再進(jìn)行數(shù)據(jù)收集、傳輸、存儲(chǔ),后面再用到超算。
將來針對(duì)特殊應(yīng)用做一個(gè)定制的系統(tǒng)。芯片可以定制,系統(tǒng)也可以定制,應(yīng)用也可以定制,多個(gè)層次的定制,這才是一個(gè)比較滿意的系統(tǒng)。