國內類ChatGPT模型MOSS開源 RTX3090顯示卡可執行

IT之家今日（4月21日）訊息，復旦大學自然語言處理實驗室開發的新版MOSS模型今日正式上線，成為國內首個外掛增強的開源對話語言模型。

目前，MOSS模型已上線開源，相關程式碼、資料、模型引數已在Github和Hugging Face等平臺開放，供科研人員下載。

據介紹，MOSS是一個支援中英雙語和多種外掛的開源對話語言模型，moss-moon系列模型具有160億引數，在FP16精度下可在單張A100/A800或兩張3090顯示卡執行，在INT4/8精度下可在單張3090顯示卡執行。MOSS基座語言模型在約七千億中英文以及程式碼單詞上預訓練得到，後續經過對話指令微調、外掛增強學習和人類偏好訓練具備多輪對話能力及使用多種外掛的能力。

MOSS來自復旦大學自然語言處理實驗室的邱錫鵬教授團隊，名字與《流浪地球》電影中的AI同名，已釋出至公開平臺（https://moss.fastnlp.top/），邀請公眾參與內測。

據悉，該專案所含程式碼採用Apache2.0協議，資料採用CCBY-NC4.0協議，模型權重採用GNUAGPL3.0協議。如需將該專案所含模型用於商業用途或公開部署，需要簽署檔案併傳送至robot@fudan.edu.cn取得授權，商用情況僅用於記錄，不會收取任何費用。

MOSS的GitHub頁面：點此檢視