复旦MOSS团队:取名是致敬《流浪地球2》 参数规模约ChatGPT的1/10

抖音秀 117 0

  最近一段时间,ChatGPT在全球大火,百度等企业也都纷纷公布了类似的产品。

  不过,国内第一个类ChatGPT的对话式大型语言模型是复旦大学推出,并将其命名为MOSS,并且迅速引发关注,登上微博热搜。

  据悉,MOSS由复旦大学计算机科学技术学院邱锡鹏团队开发。

  邱锡鹏表示:“开发过程中,正逢《流浪地球2》电影热映,我们的团队成员都非常喜欢《流浪地球2》,也都是《流浪地球2》的粉丝。影片中的智能量子计算机MOSS给我们留下了深刻的印象,所以我们就把模型命名为MOSS,也是向《流浪地球2》这部电影致敬。”

  MOSS可执行对话生成、编程、事实问答等一系列任务,打通了让生成式语言模型理解人类意图并具有对话能力的全部技术路径。

  目前,MOSS与ChatGPT相比最大差异还是参数规模。

  邱锡鹏透露,ChatGPT的参数量多达1750亿个,而MOSS的参数量大约是前者1/10左右。

  

复旦MOSS团队:取名是致敬《流浪地球2》 参数规模约ChatGPT的1/10  复旦 MOSS 流浪地球 ChatGPT 第1张


  

复旦MOSS团队:取名是致敬《流浪地球2》 参数规模约ChatGPT的1/10  复旦 MOSS 流浪地球 ChatGPT 第2张


  另外一大差异就是迭代能力,参数量和交互数据量导致MOSS和ChatGPT在事实类知识储备上的差距。

  据了解,在MOSS完成初步验证后,团队会将MOSS的经验、代码、模型参数开源供大家参考,大概会在三月份公开。

  

复旦MOSS团队:取名是致敬《流浪地球2》 参数规模约ChatGPT的1/10  复旦 MOSS 流浪地球 ChatGPT 第3张


标签: 复旦 MOSS 流浪地球 ChatGPT