今年以來(lái)，AI大模型成為科技公司競(jìng)爭(zhēng)焦點(diǎn)，國(guó)內(nèi)外企業(yè)都投身大模型訓(xùn)練中，日前Meta宣布開(kāi)源了Llama2大語(yǔ)言模型，最高700億參數(shù)，還支持免費(fèi)商用，引發(fā)業(yè)界關(guān)注，但部署如此規(guī)模的大模型對(duì)開(kāi)發(fā)者來(lái)說(shuō)并不容易，阿里云率先支持Llama2全系列訓(xùn)練部署。

7月25日，阿里云宣布在國(guó)內(nèi)率先推出針對(duì)Llama2全系列版本的訓(xùn)練和部署方案，歡迎所有開(kāi)發(fā)者來(lái)阿里云上打造專屬大模型。

近日，Llama2大語(yǔ)言模型宣布開(kāi)源，覆蓋70億、130億及700億參數(shù)版本。Llama2可免費(fèi)用于研究場(chǎng)景和月活7億用戶以下的商業(yè)場(chǎng)景，為企業(yè)和開(kāi)發(fā)者提供了大模型研究的新工具。

然而，對(duì)Llama2的再訓(xùn)練和部署仍存在較高門(mén)檻，尤其是針對(duì)效果更勝一籌的大尺寸版本。

為方便開(kāi)發(fā)者群體，阿里云機(jī)器學(xué)習(xí)平臺(tái)PAI在國(guó)內(nèi)率先對(duì)Llama2系列模型進(jìn)行深度適配，推出了輕量級(jí)微調(diào)、全參數(shù)微調(diào)、推理服務(wù)等場(chǎng)景的最佳實(shí)踐方案，助力開(kāi)發(fā)者快速基于Llama2進(jìn)行再訓(xùn)練，搭建自己的專屬大模型。

阿里云牽頭發(fā)起的AI模型社區(qū)魔搭ModelScope，第一時(shí)間上架了Llama2系列模型。開(kāi)發(fā)者可在魔搭社區(qū)Llama2模型頁(yè)面點(diǎn)擊“Notebook快速開(kāi)發(fā)”，一鍵拉起阿里云機(jī)器學(xué)習(xí)平臺(tái)PAI，對(duì)模型進(jìn)行云上開(kāi)發(fā)和部署；在其他平臺(tái)下載的Llama2模型，也可使用阿里云PAI進(jìn)行開(kāi)發(fā)。

針對(duì)特殊的場(chǎng)景需求，開(kāi)發(fā)者往往需使用微調(diào)訓(xùn)練的方法對(duì)模型進(jìn)行“調(diào)整”，以獲得特定領(lǐng)域的專業(yè)能力和知識(shí)。

此時(shí)，PAI支持開(kāi)發(fā)者在云上進(jìn)行輕量級(jí)Lora微調(diào)或更深度的全參數(shù)微調(diào)。完成模型微調(diào)后，PAI支持開(kāi)發(fā)者通過(guò)Web UI及API的方式部署Llama2，使模型可以通過(guò)網(wǎng)頁(yè)或嵌入應(yīng)用與使用者交互。

相比本地單機(jī)訓(xùn)練Llama2，在阿里云上可完成對(duì)超大尺寸模型的深度開(kāi)發(fā)，且預(yù)置環(huán)境免運(yùn)維，操作簡(jiǎn)單便捷，同時(shí)開(kāi)發(fā)者可獲得豐富的AI計(jì)算資源和極致彈性。

本地單卡GPU只能完成Llama2 70億參數(shù)版本的輕量級(jí)Lora微調(diào)和推理，更大尺寸版本及更深度訓(xùn)練均很難支撐。

在阿里云上，通過(guò)PAI靈駿智算服務(wù)提供的分布式計(jì)算能力，可對(duì)Llama2全尺寸版本進(jìn)行輕量級(jí)和全參數(shù)微調(diào)，并進(jìn)行高效部署和推理。

作為全球前三、亞洲第一的云廠商，阿里云是中國(guó)AI浪潮重要的引領(lǐng)者和服務(wù)者，已構(gòu)建完備的IaaS+PaaS+MaaS一體化AI服務(wù)。

在基礎(chǔ)設(shè)施層，阿里云擁有國(guó)內(nèi)最強(qiáng)的智能算力儲(chǔ)備，靈駿智算集群具備最大十萬(wàn)卡GPU規(guī)模擴(kuò)展性，可承載多個(gè)萬(wàn)億參數(shù)大模型同時(shí)在線訓(xùn)練；

在AI平臺(tái)層，阿里云機(jī)器學(xué)習(xí)平臺(tái)PAI提供AI開(kāi)發(fā)全流程的工程能力，PAI靈駿智算服務(wù)支撐了通義千問(wèn)等超大模型的訓(xùn)練和應(yīng)用，可將大模型訓(xùn)練性能提高近10倍，推理效率提升37%；

在模型服務(wù)層，阿里云構(gòu)建了國(guó)內(nèi)最活躍的AI模型社區(qū)魔搭，并支持企業(yè)基于通義千問(wèn)或三方大模型進(jìn)行再訓(xùn)練。

今年7月初，阿里云宣布，將把促進(jìn)中國(guó)大模型生態(tài)的繁榮作為首要目標(biāo)，向大模型創(chuàng)業(yè)公司提供包括模型訓(xùn)練、推理、部署、精調(diào)、測(cè)評(píng)、產(chǎn)品化落地等在內(nèi)的全方位服務(wù)，并在資金和商業(yè)化探索方面提供充分支持。