国产大模型的机遇与挑战
创始人
2024-06-21 17:19:43
0

  中青报·中青网见习记者 张仟煜  记者  樊未晨

  随着人工智能技术的不断突破,大模型在各个领域的应用日益广泛,并逐步成为推动社会进步的重要力量。

  近日,中国计算机学会(CCF)大模型论坛(FoLM)主题会议在北京举办。本次会议的主题为“大模型技术进展与挑战”,多名来自国内外的顶尖学者和业界精英,围绕大模型技术的前沿动态、发展趋势及技术挑战等议题展开了深入探讨。

  提到大模型,学者们绕不开的一个词是“超级对齐”(Super Alignment)。超级对齐是大模型自我进化、迭代的过程,通过反馈提升模型的能力。超级对齐旨在确保机器学习模型,特别是大语言模型与人类的目标、价值观和道德规范保持高度一致的研究方向。

  2023年7月,国家网信办等七部门联合公布的《生成式人工智能服务管理暂行办法》,明确提出坚持发展和安全并重、促进创新和依法治理相结合的原则,要求人工智能应当遵守法律、法规以及尊重社会公德和伦理道德,保障AI技术应用的安全、可靠、可控。

  国内已有多家机构发布了针对大模型对齐的高质量数据集,这些数据集月均下载量超过100万,得到了全球大模型的真实验证。这些数据集通过提供高质量的指令和回复,旨在确保模型的行为与人类价值观一致,为超级对齐的研究提供了有力支持。

  华为语音语义首席科学家刘群认为,超级对齐不仅要考虑与人类价值观的对齐,还要关注与物理世界的对齐,最终实现模型的自我迭代与自我演化。“研究超级对齐,是让语言模型真正为我们服务,反映真正的客观世界、真正的意识世界,这是它有用的地方。”刘群说。

  大模型对算力的需求巨大。清华大学电子工程系长聘教授汪玉在会上提到,训练GPT-3的耗电量为128.7万度,相当于国内348个家庭一年的生活用电,但这仅仅是前期训练所消耗的电量。据汪玉介绍,GPT每日访问量约为2.7亿次,平均每次访问5个问题,每月用在回答问题上的推理计算耗电量则是1872万度。

  “如果大模型真的能够改变千行百业,算力规模可能会扩大100倍甚至1000倍。”汪玉说。

  随着大模型技术的不断成熟,产业化和商业化进程也在不断加速。越来越多的企业开始将大模型技术应用于实际业务中,推动了人工智能技术的落地和普及。“输入一个短视频,在生成创建新的3D对象的时候,可以模仿这个动作,实现4D动画的创建。”清华大学人工智能研究院副院长朱军重点介绍了Vidu视频大模型的创新,包括一键生成32秒长视频、发布视频/文本到音频生成技术,以及Vidu4D的高效重建。

  哈尔滨工业大学车万翔教授提出了“推理粒度”框架来解释思维链技术的机理,并通过实验验证了该框架的有效性,进一步指导了思维链策略的优化。

  会议上,学者们就Maas模型展开了讨论。Maas模型全称Model as a Service(模型即服务),是一种将AI大模型转化为可服务化产品的新型商业模式,具有降低技术门槛、提高使用效率、弹性扩展等特点,广泛应用于城市出行、跨城出行、旅游出行等领域。

  今年5月,智谱AI的GLM-3 Turbo模型(Maas模型的一种)从5元/百万tokens,首次降至1元/百万 tokens。GLM-4-Flash版本则降了10倍,现在每百万tokens只需0.1元。

  清华大学计算机系博士何家傲认为,Maas模型的价格“会一直降下去的,模型训练数量也会随着技术进步不断地减少”,同时,他也提到,更重要的问题还是在算力本身降价的情况下,大模型如何发挥更大的价值,尤其是其本身商业上的价值,是更值得去思考的一个问题。

相关内容

热门资讯

何猷君:青年要把握大湾区机遇|...   中国青年报客户端深圳5月24日电(中青报·中青网记者 赵安琪)5月24日上午,2024文化强国建...
【国际漫评】鳄鱼的眼泪   近日,美国总统拜登在与以色列总理内塔尼亚胡的通话中,敦促以方采取措施,以减少以军行动对巴勒斯坦加...
上海港完成大型集装箱船绿色甲醇...   今天(4月10日),记者从上海海事局了解到,国内首艘营运的甲醇燃料加注船“海港致远”轮为靠泊在洋...
欧盟驻华大使:看好欧盟和中国的...   中新社成都6月15日电 (记者 岳依桐)“中国很大,这片土地上总是充满机遇。”近日,欧盟驻华大使...
英国学者、伦敦国际仲裁法院成员...   【环球时报报道 记者 白云怡 钱佳音】近期,南海局势持续升温。菲律宾频繁在海上侵权挑衅、制造事端...
印尼鲁昂火山大喷发   中新社雅加达4月18日电 (记者 李志全)印度尼西亚北苏拉威西省一座火山持续喷发,它将一道红色的...
安理会就以伊冲突举行紧急会议 ...   当地时间4月14日,联合国安理会应以色列要求,就伊朗对以色列进行军事行动举行紧急会议。  中国常...
银行理财布局黄金资产   随着金价接连走高,银行理财也将目光对准了黄金。记者注意到,北银理财、招银理财、光大理财、兴银理财...
中国日报记者TikTok账号被...   导读   近日,CNN在节目报道中抹黑中国日报起底工作室记者为“AI人”。记者联系CNN要求更正...
昌响e文明|网络大V走进未来科...   中国青年网北京11月4日电(记者 安俐)近日,由昌平区委网信办主办、中国青年网承办的“昌响e文明...