• GPT Store体验越来越差了,会成为OpenAI的失败项目吗?
  • 发布于 2个月前
  • 136 热度
    0 评论
当 OpenAI CEO Sam Altman 在去年 11 月份的首届开发者大会上宣布推出 GPT 时,他将这些由 OpenAI 的生成式 AI 模型驱动的定制聊天机器人描述为一种能够 “应对各种任务” 的新工具。这些任务范围从编程到探索深奥的科学领域,甚至提供健身建议。

Altman 指出:“由于 GPT 融合了指令功能、扩展的知识库和实际操作能力,它们能够为你提供更大的帮助。你几乎可以为任何事物构建一个专属的 GPT。”

他提到 “任何事物” 并非夸张。

TechCrunch 调查发现,OpenAI 的官方 GPT 市场 ——GPT Store 中充斥着一些奇异且可能侵犯版权的 GPT,这表明了 OpenAI 在内容审核上持较为宽松的态度。简单搜索就可以发现,一些 GPT 声称能创造出迪士尼和漫威风格的艺术作品,但实际上它们更多是引导用户到第三方付费服务的工具,并且宣称能够规避像 Turnitin 和 Copyleaks 这样的 AI 内容检测工具。

监管不力
要将 GPT 上架至 GPT Store,开发者需要验证自己的用户资料,并将 GPT 提交至 OpenAI 的混合式审查系统进行审核,该系统融合了人工和自动化审查。一位发言人对此过程进行了说明:我们结合使用自动化系统、人工审查和用户报告来识别和评估可能违反我们政策的 GPT。违反规定可能会对内容或账户造成影响,比如发出警告、限制分享,或者失去在 GPT Store 上架或实现盈利的资格。

构建 GPT 无需编程经验,GPT 的复杂程度完全取决于开发者的设计。开发者只需在 OpenAI 的 GPT 构建工具 GPT Builder 中输入他们想提供的功能,该工具便会尝试创建出能执行这些功能的 GPT。

或许由于进入门槛较低,GPT Store 的发展速度非常快 —— OpenAI 在 1 月份时表示,他们已经拥有大约 300 万个 GPT。但这种快速增长似乎牺牲了质量,同时也没有遵循 OpenAI 自身的条款。

版权问题
GPT Store 中有许多 GPT 明显是抄袭自知名电影、电视剧和电子游戏系列,这些 GPT 并不是这些系列版权所有者的创作或授权的。例如,有一个 GPT 创造出了类似于皮克斯电影《怪兽电力公司》的怪物,另一个则承诺提供设定在 “星球大战” 宇宙中的基于文本的冒险体验。

这些 GPT 以及 GPT Store 中让用户与《阿凡达:最后的气宗》中的 Wario 和 Aang 等受商标保护的角色对话的 GPT,可能会引发版权纠纷。

电子前沿基金会高级法务顾问 Kit Walsh 这样解释:这些 GPT 既可以用于创造受版权法保护的 “变革性作品”,也可能用于侵权。当然,从事侵权活动的个体可能会承担法律责任。而那些开发合法工具的创造者,如果鼓励用户以侵权的方式使用工具,也可能自找麻烦。此外,使用受商标保护的名称标识商品或服务可能会引发商标问题,特别是当用户可能因此而对商品或服务是否得到商标所有者认可或运营产生混淆时。

根据《美国数字千年版权法》中的 “安全港” 条款,OpenAI 本身不会因 GPT 创作者的版权侵犯行为承担责任。该法律保护包括 YouTube、Facebook 在内的内容托管平台,只要这些平台遵守法定要求,并在接到请求时删除具体的侵权内容。

然而,这对于一个正处于知识产权法律纠纷中的公司来说,无疑是影响形象的。

学术造假
OpenAI 的规定明确禁止开发者创建可能导致学术造假的 GPT。但在 GPT Store 中,却有许多 GPT 声称能规避 AI 内容检测器,包括那些被教育工作者用于抄袭检测平台的检测器。例如,“Humanizer Pro” —— 在 GPT Store 的写作类别中排名第二 —— 宣称它能通过 “人性化” 处理内容来规避 AI 检测,同时保持文本的原意和质量,达到 “完全人工” 的效果。

这些 GPT 中的一些实际上是变相引导用户购买高级服务。比如,“Humanizer” 鼓励用户尝试其 “高级计划”,以使用 “最先进的算法”,该算法将用户输入的文本传输至第三方网站 GPTInf 的插件。GPTInf 的订阅费用为每月 12 美元,提供每月 10,000 词汇的服务,或年付计划 8 美元每月 —— 相较于 OpenAI 每月 20 美元的 ChatGPT Plus 来说,这个价格不算低。

我们之前已经讨论过,大多数 AI 内容检测器往往效果欠佳。不仅是我们的测试,许多学术研究也表明,它们既不精确也不可靠。尽管如此,OpenAI 仍在 GPT Store 上容许一些促进学术造假行为的工具 —— 即便这些行为并未必达到预期效果。

OpenAI 的一位发言人表示:用于学术造假的 GPT,包括作弊,是违反我们政策的。这包括那些声称能规避学术诚信工具(如剽窃检测器)的 GPT。我们发现一些 GPT 用于 “人性化” 文本。我们仍在观察这些 GPT 在实际使用中的情况,但我们认识到,用户可能有多种原因希望 AI 生成的内容不显得像是 AI 产出的。

冒名顶替
OpenAI 的政策中还规定,开发者不得创建未经个人或组织 “同意或合法权利” 认可的冒充他人的 GPT。然而,在 GPT Store 中,许多 GPT 声称代表或模仿某些人物的观点和个性。