国内科技互联网厂商训练大模型基于的数据基础

目前国内科技互联网头部企业主要基于公开数据及自身特有数据差异化训练大模型。具体 而言，百度“文心”大模型训练特有数据主要包括万亿J的网页数据，数十亿的搜索数据 和图片数据等。阿里“通义”大模型的训练数据主要来自阿里达摩院。腾讯“混元”大模 型特有的训练数据主要来自微信公众号，微信搜索等出色数据。华为“盘古”大模型的训 练数据出公开数据外，还有 B 端行业数据加持，包括气象，矿山，铁路等行业数据。商汤 “日日新”模型的训练数据中包括了自行生成的 Omni Objects 3D 多模态数据集。