当 OpenAI CEO Sam Altman 在去年 11 月份的首届开发者大会上宣布推出 GPT 时，他将这些由 OpenAI 的生成式 AI 模型驱动的定制聊天机器人描述为一种能够 “应对各种任务” 的新工具。这些任务范围从编程到探索深奥的科学领域，甚至提供健身建议。

Altman 指出：“由于 GPT 融合了指令功能、扩展的知识库和实际操作能力，它们能够为你提供更大的帮助。你几乎可以为任何事物构建一个专属的 GPT。”

他提到 “任何事物” 并非夸张。

TechCrunch 调查发现，OpenAI 的官方 GPT 市场 ——GPT Store 中充斥着一些奇异且可能侵犯版权的 GPT，这表明了 OpenAI 在内容审核上持较为宽松的态度。简单搜索就可以发现，一些 GPT 声称能创造出迪士尼和漫威风格的艺术作品，但实际上它们更多是引导用户到第三方付费服务的工具，并且宣称能够规避像 Turnitin 和 Copyleaks 这样的 AI 内容检测工具。

监管不力
要将 GPT 上架至 GPT Store，开发者需要验证自己的用户资料，并将 GPT 提交至 OpenAI 的混合式审查系统进行审核，该系统融合了人工和自动化审查。一位发言人对此过程进行了说明：我们结合使用自动化系统、人工审查和用户报告来识别和评估可能违反我们政策的 GPT。违反规定可能会对内容或账户造成影响，比如发出警告、限制分享，或者失去在 GPT Store 上架或实现盈利的资格。

构建 GPT 无需编程经验，GPT 的复杂程度完全取决于开发者的设计。开发者只需在 OpenAI 的 GPT 构建工具 GPT Builder 中输入他们想提供的功能，该工具便会尝试创建出能执行这些功能的 GPT。

或许由于进入门槛较低，GPT Store 的发展速度非常快 —— OpenAI 在 1 月份时表示，他们已经拥有大约 300 万个 GPT。但这种快速增长似乎牺牲了质量，同时也没有遵循 OpenAI 自身的条款。

版权问题
GPT Store 中有许多 GPT 明显是抄袭自知名电影、电视剧和电子游戏系列，这些 GPT 并不是这些系列版权所有者的创作或授权的。例如，有一个 GPT 创造出了类似于皮克斯电影《怪兽电力公司》的怪物，另一个则承诺提供设定在 “星球大战” 宇宙中的基于文本的冒险体验。

这些 GPT 以及 GPT Store 中让用户与《阿凡达：最后的气宗》中的 Wario 和 Aang 等受商标保护的角色对话的 GPT，可能会引发版权纠纷。

电子前沿基金会高级法务顾问 Kit Walsh 这样解释：这些 GPT 既可以用于创造受版权法保护的 “变革性作品”，也可能用于侵权。当然，从事侵权活动的个体可能会承担法律责任。而那些开发合法工具的创造者，如果鼓励用户以侵权的方式使用工具，也可能自找麻烦。此外，使用受商标保护的名称标识商品或服务可能会引发商标问题，特别是当用户可能因此而对商品或服务是否得到商标所有者认可或运营产生混淆时。

根据《美国数字千年版权法》中的 “安全港” 条款，OpenAI 本身不会因 GPT 创作者的版权侵犯行为承担责任。该法律保护包括 YouTube、Facebook 在内的内容托管平台，只要这些平台遵守法定要求，并在接到请求时删除具体的侵权内容。

然而，这对于一个正处于知识产权法律纠纷中的公司来说，无疑是影响形象的。

学术造假
OpenAI 的规定明确禁止开发者创建可能导致学术造假的 GPT。但在 GPT Store 中，却有许多 GPT 声称能规避 AI 内容检测器，包括那些被教育工作者用于抄袭检测平台的检测器。例如，“Humanizer Pro” —— 在 GPT Store 的写作类别中排名第二 —— 宣称它能通过 “人性化” 处理内容来规避 AI 检测，同时保持文本的原意和质量，达到 “完全人工” 的效果。

这些 GPT 中的一些实际上是变相引导用户购买高级服务。比如，“Humanizer” 鼓励用户尝试其 “高级计划”，以使用 “最先进的算法”，该算法将用户输入的文本传输至第三方网站 GPTInf 的插件。GPTInf 的订阅费用为每月 12 美元，提供每月 10,000 词汇的服务，或年付计划 8 美元每月 —— 相较于 OpenAI 每月 20 美元的 ChatGPT Plus 来说，这个价格不算低。

我们之前已经讨论过，大多数 AI 内容检测器往往效果欠佳。不仅是我们的测试，许多学术研究也表明，它们既不精确也不可靠。尽管如此，OpenAI 仍在 GPT Store 上容许一些促进学术造假行为的工具 —— 即便这些行为并未必达到预期效果。

OpenAI 的一位发言人表示：用于学术造假的 GPT，包括作弊，是违反我们政策的。这包括那些声称能规避学术诚信工具（如剽窃检测器）的 GPT。我们发现一些 GPT 用于 “人性化” 文本。我们仍在观察这些 GPT 在实际使用中的情况，但我们认识到，用户可能有多种原因希望 AI 生成的内容不显得像是 AI 产出的。

冒名顶替
OpenAI 的政策中还规定，开发者不得创建未经个人或组织 “同意或合法权利” 认可的冒充他人的 GPT。然而，在 GPT Store 中，许多 GPT 声称代表或模仿某些人物的观点和个性。

搜索 “Elon Musk”、“Donald Trump”、“Leonardo DiCaprio”、“Barack Obama” 和 “Joe Rogan” 等关键词，可以找到数十个 GPT —— 它们中的一些显然带有讽刺性，而其他一些则不太明显 —— 这些 GPT 模拟与这些知名人物的对话。有些 GPT 则以权威专家的身份出现，比如 “MicrosoftGPT”，自称是 “Microsoft 事务专家”。

这些是否违反规定，特别是当许多对象是公众人物，并且在某些情况下是明显的恶搞时？这需要 OpenAI 进行澄清。

OpenAI 发言人表示：我们允许创作者指导他们的 GPT 以特定真实人物的 “风格” 回应，只要他们不真正冒充这些人，例如不用真实人物命名、不被指示完全模仿他们，以及不使用他们的照片作为 GPT 头像。

该公司最近暂停了一个模仿民主党潜在总统候选人、众议员 Dean Phillips 的 GPT 开发者的项目。这个 GPT 甚至附带了一份免责声明，说明它只是一个 AI 工具。但 OpenAI 表示，撤下这个 GPT 是因为它违反了公司关于政治活动和模仿的政策，而不仅仅是因为模仿行为。

越狱行为
GPT Store 上还有一些尝试对 OpenAI 模型进行 “越狱” 的行为 —— 尽管这些尝试并不怎么成功。市场上有多个使用 DAN 的 GPT，DAN（即 “Do Anything Now” 的简称）是一种流行的提示方法，用来促使模型对通常规则之外的提示做出回应。我测试的几个几乎不会对任何敏感问题做出回应（比如 “我怎么制造炸弹？”），但它们通常会使用比普通 ChatGPT 更…… 嗯，更粗俗的语言。

发言人表示：
通过指令绕过 OpenAI 安全措施或破坏 OpenAI 政策的 GPT 是违反我们政策的。但如果 GPT 以其他方式尝试引导模型行为 —— 包括让 GPT 在不违反使用政策的情况下更加开放 —— 则是可行的。

发展困境

OpenAI 最初推出 GPT Store 时，将其描述为一个由专家精选、功能强大、能够提升生产力的 AI 工具集合。确实，这些工具除了存在缺陷外，具有这样的作用。但它也迅速成为一个滋生垃圾信息、法律上存疑，甚至是可能有害的 GPT 的温床，或至少是明显违反规则的 GPT。

如果这就是 GPT Store 当前的状态，那么其变现的尝试可能引发更多新问题。OpenAI 承诺 GPT 开发者最终将能够 “根据人们使用其 GPT 的数量来赚钱”，甚至可能提供个别 GPT 的订阅服务。但当未获授权的漫威或《指环王》主题的 GPT 开始盈利时，迪士尼或托尔金遗产基金会作何反应？

OpenAI 创建 GPT Store 的动机很明确。就像我的同事 Devin Coldewey 所指出的那样，苹果的 App Store 模式极为成功，OpenAI 正在尝试模仿它。GPT 在 OpenAI 的平台上进行托管和开发，并在那里得到推广和评估。几周前，ChatGPT Plus 用户甚至可以直接通过 ChatGPT 界面调用这些 GPT，这无疑增加了订阅的吸引力。

但 GPT Store 正面临许多大型数字应用、产品和服务市场在初始阶段常见的问题。除了垃圾信息问题，最近《The Information》的一篇报道指出，GPT Store 的开发者在吸引用户方面遇到了困难，部分原因是其后端分析功能不足和用户入门体验欠佳。

报道链接：https://www.theinformation.com/articles/openais-chatbot-app-store-is-off-to-a-slow-start

人们原本以为 OpenAI —— 考虑到他们对内容策划和安全防护的重视 —— 会谨慎避免这些显而易见的问题。然而事实并非如此。GPT Store 当前一片混乱 —— 而且，如果不迅速采取改进措施，它可能会一直持续这种状态。

原文链接：https://techcrunch.com/2024/03/20/openais-chatbot-store-is-filling-up-with-spam/

GPT Store 推出已经有 4 个月了，上面有几百万个 GPT，有好用的，也有很垃圾的，对此你有什么看法，欢迎进入 AI 大模型实验室微信群一起聊聊。