公司资讯

我在 Twitch 上看耶稣。他是一个留着胡子的白人，正在回答聊天中提出的哲学问题（以及不那么哲学的问题）。只要输入一个问题，耶稣就会回答。

当然，耶稣是一个人工智能。有一次，他甚至承认他“不是肉身的耶稣”，所以至少他听起来有自我意识。该频道表示，这得益于奇点集团（而非基督教组织）的贡献以及 PlayHT 的技术，PlayHT 是一个人工智能语音生成平台，可以复制名人的声音。

AI Jesus 使用了谁的脸和声音？目前还不清楚。它有趣吗？有点。这真的是 Twitch 应该用来制作的内容吗？值得商榷。

我换了另一个频道。这次是特朗普和拜登之间的总统辩论，也是由 The Singularity Group 促成的。同样，观众可以通过在聊天中输入问题来提问，但这主要是为了试图让两位总统都说些傻话。

Twitch 正在积极推广此类内容。在主页上向下滚动，你会发现一个名为“可能是人工智能，但希望是智能：由人工智能驱动的直播和相关讨论”的部分，里面充满了由人工智能驱动的推荐直播。

另一个向我推荐的直播间中的用户正忙着在一个频道中制造虚假的戏剧性事件，在这个频道中你可以控制流行主播和名人的人工智能版本。Amouranth、Asmongold 和 Kai Cenat 都是可供选择的，还有埃隆·马斯克、奥巴马总统、戈登·拉姆齐，甚至史蒂夫·乔布斯。

人工智能在视频游戏行业的使用正成为越来越普遍的争论：从其在剧本创作和艺术方面的应用，到演员的肖像被用于深度伪造模组。

但在 Twitch 直播中使用 AI 有什么危险？Twitch 为什么要推广它？

首先，奇点集团是谁？其网站将该组织描述为“一群干劲十足、雄心勃勃的志愿者活动家，致力于创新项目，为世界带来真正的改变”。其愿景特别关注全民基本收入，并表示实现这一目标的潜力“完全可以通过利用正确的技术来实现”。

怎么做？加密货币就是其中之一。移动迷你游戏是 The Singularity Group 最大的项目之一，用户可以通过玩以慈善为重点的移动游戏来通过游戏内货币 Crypton 赚取收入，然后可以在游戏外进行交易。该游戏还允许用户创建和玩自己的 NFT。

Twitch 直播只是该激进组织的另一个项目。奇点集团表示，其直播由志愿者创建，包括“旨在通过尖端人工智能技术创新娱乐、筹款和提高认识的实验性节目”。事实上，上述直播确实包括向直播所有者（而不是慈善机构）捐款的选项，但这些钱究竟流向何处？

当我联系奇点集团联合创始人 Reese Leysen 时，她告诉我：“目前，我们专注于 AGI（通用人工智能）研究，因为我们认为这是目前我们可以关注的最重要的问题。”

“随着 OpenAI、谷歌、Facebook 和许多其他公司争先恐后地最大限度地发挥人工智能的商业潜力，同时只添加原始的额外层来保持其‘一致’，我们发现，对创建人工智能（最终是 AGI）进行认真的研发非常重要，这种人工智能从根本上具有正确的架构，可以进行独立推理和对现实和道德的紧急理解，而不是简单地构建没有真正推理过程核心的智能系统，因此几乎不可能‘一致’，从而可能给社会和人类带来前所未有的风险。”

因此，Twitch 上的这些 AI 直播被设计为技术的小规模、有限展示，Leysen 表示这将有助于将 Singularity Group 打造为“一个研究小组，并吸引更多活跃于开源 AI 社区的人才，从而实现更多合作”。简而言之：这是数据收集和招聘。

Leysen 表示，之所以选择 Twitch 作为平台，是因为它“是迄今为止最容易获得发展势头的平台”，但他同时指出，Twitch 对指导方针的执行有时仍然很严格且不可预测，这使得自主和交互式的 24/7 AI 直播变得具有挑战性。

“因此，在过去的八个月里，我们实际上投入了大部分的精力和资源来开发我们自己的高级审核系统，以尽量避免遇到 AI 输出任何可能违反 Twitch 规则的问题，”他补充道。

这些直播通过捐款筹集的所有资金都将直接用于进一步研究和开发人工智能直播。例如，该集团的技术现在允许人工智能实时对 YouTube 视频做出反应，以及近乎零延迟的实时语音交互，使对话可以自然进行。莱森说：“这些概念很可能会在即将推出的新直播中展示，采用不同的角色和格式。”

Leysen 为其手机迷你游戏使用加密货币进行筹款辩护，称这是另一种筹款方式。“作为活动家，我们一直试图将精力集中在能够产生最大积极影响的地方，”他说。“有一次，我们意识到，除非我们有像手机游戏这样可以持续筹款的东西，而不是仅仅依靠直播来筹款，否则我们无法进一步扩大慈善事业的规模。”

然而，人工智能技术的兴起导致该组织转移了重点。“自从 DALL-E 和 ChatGPT 开始获得发展势头以来，我们开始将重点转向人工智能研究，因为它将迅速对社会产生颠覆性影响，而且 AGI 很可能在未来十年内出现，因此我们优先考虑为更安全、更负责任地开发基础人工智能架构做出贡献，”他继续说道。

目前，人们对人工智能和加密货币都持怀疑态度，莱森将此归咎于讨论往往“相当简单和部落化”。他说，该组织“主要致力于为人工智能领域做出技术贡献，而不是试图改变人们的想法”，并补充说，人工智能现在掌握在大众手中，而不仅仅是大公司。事实上，莱森认为小团体也推动人工智能发展非常重要。

“我们正在竭尽全力开发技术，最终实现一种能够负责任地、建设性地推理的 AGI，而不是可能成为由大公司控制的难以想象的超级武器，”莱森说，这让人想起了赛博朋克的气息。但许多问题仍然存在，一些声名狼藉的公司在制作不受监管的人工智能内容。

Twitch 上的深度伪造内容问题仍然是一个主要关注领域。今年早些时候，在女性主播的图片被制作并分享到网上后，该平台被迫更新了其关于露骨深度伪造内容的政策。正如 Kotaku 当时报道的那样，主播 Brandon “Atrioc” Ewing 不小心透露他的电脑上有露骨的深度伪造主播内容，而受影响的女性并不知道它的存在。

因此，Twitch 发布了一项政策，禁止在平台上发布露骨的深度伪造内容，即所谓的“合成的非自愿剥削性图像”（NCEI）。“Twitch 不欢迎创建、推广或观看此类内容，”它表示。

Twitch 或任何地方都不允许出现露骨的“深度伪造”内容。为了保护女性主播，我们将于 3 月 14 日举办创作者训练营，提供更多资源和安全方法。请在此处阅读我们向社区发布的最新消息，了解更多信息：https://t.co/KAH4zUTSBp pic.twitter.com/Q01sLolGJP

然而，该政策还涵盖了深度伪造内容的“新兴趋势”，Twitch 表示“需要我们在规划、响应和行动中仔细、周到地考虑这一趋势”。它继续说道：“并非所有合成内容都具有性性质，也并非所有合成内容都是非自愿的。这个话题非常受我们关注，我们一直在监控新兴行为，以确保我们的政策与我们服务上发生的事情保持相关性。”

此外，Twitch 最近更新了其安全措施以保护儿童，包括确保删除诸如人工智能生成的儿童性虐待材料 (CSAM) 等剥削性内容。

尽管如此，Twitch 上仍允许使用深度伪造和人工智能内容，包括使用拜登和特朗普等真实人物，尽管露骨内容有明确的界限。“我们将继续关注这个领域，但我认为主播将是这里的创新者，”产品副总裁杰里米·福雷斯特 (Jeremy Forrester) 今年早些时候在 TwitchCon Paris 上告诉我，他讨论了人工智能作为一个潜在增长领域的话题。

Twitch 全球合作副总裁 Pontus Eskilsson 在给 Eurogamer 的一份新声明中表示：“Twitch 主播以其创造力而闻名，即使在早期阶段，一些主播就已经开始尝试使用 AI 来创造非常独特的内容 - 为动画流和 VTubing 开辟了新的创作机会，同时也为训练新模型而流式传输他们的技术成果。

“即使 Twitch 上出现了这种有趣且及时的子流派，我们服务的核心始终是帮助 Twitch 上的人们找到社区，并确保他们能够安全地找到社区。我们服务上的所有流媒体和频道都受 Twitch 全站社区准则和服务条款的约束，无论他们是否使用人工智能。”

Leysen 还评论了通过人工智能制作深度伪造内容的道德责任。“我们在这方面的立场非常传统：任何使用该技术进行故意欺骗的行为都是有问题的，像 Twitch 这样的平台将不得不越来越多地寻找方法来防止这方面的滥用，这是一个相当大的挑战，”他说。

“我们希望我们的展示确实有助于提高人们对这方面的认识，我们经常看到观看我们直播的人们对这项技术的能力感到震惊，这让他们下次看到创作者/名人/政治家出现在可能有理由伪造的环境中时会三思而后行。”

他补充说，对于 The Singularity Group 的直播，如果角色是基于现实生活中的人物，内容就会被明确标记为戏仿，并符合合理使用标准。上述主播的 AI 剧集直播就是一个例子。

“尽管我们的 AI 模仿角色可能粗俗且精神错乱，但我们还是投入了大量精力，以确保他们的输出不会对他们的个人背景不敏感，”Leysen 说道。“例外情况是，主播与我们联系，明确告诉我们没有什么是禁止的，他们实际上希望他们的 AI 模仿角色可以自由地使用任何已知的关于他们的信息。到目前为止，还没有主播向我们抱怨，我们从他们中的许多人那里听说他们喜欢我们的作品，不少人还对我们的 AI 模仿他们的直播做出了现场反应。”

显然，人工智能内容和直播将继续留在 Twitch 上，尽管它们对寻找社区的核心贡献有多大尚有争议。对于 Leysen 和 The Singularity Group 的活动家来说，人工智能直播是平台的合理使用，也是展示人工智能技术和颠覆性实力的一种方式——同时也凸显了它的危险性。虽然人们强烈反对露骨的内容，但人工智能与 Twitch 直播的整合能走多远？我们很快就会看到完全由人工智能运行的直播：玩游戏、回复聊天，以及创建一个安全和有节制的社区吗？

也许这是一个应该问耶稣的问题。