書生·浦語

書生·浦語（InternLM） 是上海人工智能實(shí)驗(yàn)室、商湯科技及高校合作發(fā)布的大語言模型，是在過萬億token數(shù)據(jù)上訓(xùn)練的多語言千億參數(shù)基座模型。它通過多階段漸進(jìn)式訓(xùn)練，展示了在中英文閱讀理解、推理任務(wù)等高難度場(chǎng)景下的出色性能，并在多種面向人類設(shè)計(jì)的綜合性考試中取得了突出成績(jī)。

書生·浦語不僅擁有強(qiáng)大的知識(shí)理解能力，還通過了大規(guī)模的語料庫訓(xùn)練和微調(diào)過程，使其能夠在與人類對(duì)話時(shí)響應(yīng)復(fù)雜指令并符合人類的道德與價(jià)值觀。新一代的書生·浦語2.0版本強(qiáng)調(diào)了其200K超長(zhǎng)上下文的支持能力和20B版本綜合性能的全面領(lǐng)先地位。

目錄

• 1 功能特點(diǎn)
  • 1.1 多語言能力
  • 1.2 推理與代碼能力
  • 1.3 考試性能
  • 1.4 超長(zhǎng)上下文支持
  • 1.5 工具調(diào)用能力
• 2 發(fā)展歷史
• 3 相關(guān)條目

功能特點(diǎn)

多語言能力

書生·浦語擁有強(qiáng)大的多語言理解和生成能力，特別是在中文和英文任務(wù)上。它在多種語言的客觀評(píng)測(cè)中都表現(xiàn)出了優(yōu)于社區(qū)開源模型的性能，能夠在多語言環(huán)境中被廣泛應(yīng)用，為不同語言背景的用戶提供服務(wù)。

推理與代碼能力

通過在各種來源以及精選的高質(zhì)量數(shù)據(jù)上進(jìn)行訓(xùn)練，書生·浦語展示了在邏輯推理、代碼生成以及遵循復(fù)雜指令方面的卓越性能。這證明了模型不僅僅是一個(gè)簡(jiǎn)單的語言生成工具，還能夠進(jìn)行深度思考和問題解決，特別是在編程和技術(shù)相關(guān)的領(lǐng)域內(nèi)。

考試性能

書生·浦語模型的學(xué)習(xí)能力進(jìn)一步通過人類設(shè)計(jì)的綜合性考試得到了驗(yàn)證。書生·浦語在包括 MMLU（Multi-task Multi-language Learning Evaluation）和 C-Eval（Chinese Language Evaluation）在內(nèi)的多個(gè)評(píng)測(cè)集上展現(xiàn)了優(yōu)異的成績(jī)，尤其在中文考試項(xiàng)目中，它取得了超越 ChatGPT 的分?jǐn)?shù)，彰顯了其深厚的語言理解和應(yīng)用能力。

超長(zhǎng)上下文支持

書生·浦語2.0能夠處理長(zhǎng)達(dá)20萬字的上下文，這使它能夠在極長(zhǎng)的文章中找到特定信息，類似于在“大海撈針”。這種能力在 LongBench 和 L-Eval 等評(píng)測(cè)中得到了驗(yàn)證，模型在這些長(zhǎng)文任務(wù)中的表現(xiàn)達(dá)到了開源模型中的領(lǐng)先水平。

工具調(diào)用能力

書生·浦語新版模型的工具調(diào)用能力整體得到升級(jí)，它能夠更可靠地支持復(fù)雜智能體的搭建，有效地進(jìn)行多輪工具調(diào)用，完成較為復(fù)雜的任務(wù)。

發(fā)展歷史

• 2023年7月，書生·浦語正式發(fā)布。
• 2023年9月，上海人工智能實(shí)驗(yàn)室聯(lián)合多家機(jī)構(gòu)推出書生·浦語大模型200億參數(shù)版本InternLM-20B，并在阿里云魔搭社區(qū)（ModelScope）開源首發(fā)。
• 2024年1月，書生·浦語2.0正式開源。

相關(guān)條目

• GPT-4
• ChatGPT
• 訊飛星火
• 文心一言
• 通義千問