据 TechCrunch 日前报道,OpenAI 正在重组其模型行为团队,旨在让 ChatGPT 变得更有「性格(个性)」。据悉,OpenAI 的模型行为团队是一个规模虽小但影响重要的小组,负责塑造 AI 模型与人类互动的方式。报道透露,OpenAI 首席研究官 Mark Chen 曾在 8 月的一份内部备忘录中提到,模型行为团队由 14 名研究成员组成,该小组还将加入后训练团队。
具体来看,模型行为团队将会着力于塑造 OpenAI 旗下模型的个性,并且减少「拍马屁」的情况 —— AI 模型仅仅同意并强化用户的信念(即便不健康),而不是提供一个平衡的回应。比较突出的是,OpenAI 还打算处理模型回答中的政治偏见。Mark Chen 还在信中提到,现在是时候将 OpenAI 模型行为团队的工作与核心模型开发更紧密地结合起来。报道分析,OpenAI 表明了 AI 模型的「个性」将会是未来技术演变的一个关键因素。