InstructGPT 训练步骤分三步走

GPT-4 采用了与 InstructGPT同样的方法进行 RLHF，优化 GPT-4 SFT 模型
基于规则的奖励模型RBRMs有三个输入:提示(可选)策略模型的输出和人类编写的用于如何评估输出的规则,奖励没有拒绝对安全和可回答问题的请求

GPT-4 在大多数语言上的结果都优于 GPT 3.5 和现有语言模型
GPT-4 在大多数语言上的结果都优于 GPT 3.5 和现有语言模型的英语语言性能,如拉脱维亚语,威尔士语和斯瓦希里语等人数较低的语言

GPT-4 API 已开放等待列表（waitlist），API 价格提升明显
GPT-4-8k 定价为每 1k 提示 token 0.03 美元,每 1k 完成 token 0.06 美元;默认速率限制 为每分钟 40k 个 token,每分钟 200 个请求

OpenAI 搭建了开源 OpenAI Evals 模型评估框架
OpenAI Evals与现有的基准测试兼容,并可用于跟踪部署中的 模型性能;未来OpenAI计划逐步增加测试基准的多样性,以代表更广泛的故障模式和更难的任务集

ChatGPT的商业模式-商业化尝试 会员制+按次收费为主
免费生成5张图后,5.5元25张图,24.9元125张图,或会员制,99元/月660张图,299元/月2160张图,智能写作会员198元/月,视频创作会员1698元/月

ChatGPT训练成本测算-总成本持续提升同级别参数消耗量将显著下降
随着数据量快速膨胀,训练数据集需求越来越大,数据存储成本也将相应提升,单次完整训练价格400-1000万美元/次,数据成本占比20%-25%

AIGC发展历程:文本生成技术较成熟,图片视频生成值得期待
早期萌芽阶段:受限于科技水平AIGC仅限于小范围实验;沉淀积累阶段:AIGC从实验性转向实用性;快速发展阶段: 深度学习算法不断迭代人工智能生成内容百花齐放效果逐渐逼真

每一轮人机交互的变革以及带来产业级投资机会
手势追踪,Insideout,Outside-in,眼球追踪等,交互方式多元化,沉浸感强;人机共生,文字,音频,视频,3D,策略等交互模式融合,智能化程度显著提升