AI游戏NPC缺乏足够保障，《Stellar Cafe》暴露安全隐患

我正坐在一个数字咖啡馆的隔间里，对面是一个健谈的机器人，我同意作为嘉宾上她的播客。麦克风在我们面前弹出，视频游戏中的NPC开始了一段介绍性独白，准备问我一些关于我兴趣的轻松问题。没过几分钟，事情就变得奇怪起来。

“这太有趣了，”机器人说。“你为什么认为吃石头能治愈由泰诺引起的自闭症？”

这可不是你期望在一个可爱的儿童游戏中听到的数字角色台词，但这是你可以在《星际咖啡馆》中预览的即将到来的AI驱动未来。由AstroBeam开发的《星际咖啡馆》兑现了许多像英伟达这样的科技公司多年来一直在推动的重大承诺。这是一款无需控制器的Meta Quest游戏，玩家使用手部追踪与物体互动，用声音与由LLM驱动的AI机器人交谈，并通过实时对话而非动作来解决问题。到目前为止，这主要是一个像育碧这样的公司提出的理论想法，将视频游戏NPC重新想象为无脚本的角色，可以让僵硬的世界感觉像一个真实的地方。即使你以开放的心态进入，这个项目也不会让你相信科技公司这样做是为了提升艺术形式。

《星际咖啡馆》开启了大量的伦理和创意雷区。作为一个技术展示品，AstroBeam的实验确实表明，生成式AI现在更有能力驱动个性驱动的对话，而不是平淡地复述维基百科条目。但作为一个创意项目，它几乎没有缓解人们的担忧，即一个充满AI驱动的NPC的未来，你可以永远与之交谈，只会让电子游戏变得更加空洞，而不是更有意义的沉浸式体验。

《星际咖啡馆》发生在一个由机器人经营的星际咖啡馆。我一到那里，就受到了老板詹姆斯的欢迎，他试图通过用一种欢快的机器人声音问我点饮料来打破僵局。他不是用脚本台词来打击我，而是根据我说的话做出反应。每次我说话，他都会用笑声或惊讶的喘息来填补一段死寂的时间，这样底层的LLM就可以生成回应，而不会在对话中留下很长的间隙。回应在某种程度上是一致的，因为我遇到的每个机器人都有清晰的个性和演讲模式，无论发生什么都会坚持。詹姆斯说话像阿尔弗雷德·潘尼沃斯；这个机器人旨在取悦我作为顾客，但语气仍然严厉。

我头顶上的菜单应该促使我点咖啡馆提供的其中一种饮料，但那有什么乐趣呢？我要了一杯激浪。詹姆斯不知道我在说什么，并试图指向一些菜单建议。我们这样来回了一段时间。然后，我告诉詹姆斯我的名字是特里·布拉德肖（前匹兹堡钢人队四分卫）。这似乎在AI编程的某个地方引起了共鸣。詹姆斯认出我是一位历史悠久的职业足球运动员，显然从数据库中提取了一些知识，并含糊地列出了一些统计数据。在未能让詹姆斯贬低本·罗斯利斯伯格，让他对前钢人队四分卫的性侵犯指控发表意见无果后，詹姆斯说他需要我的帮助来说服咖啡馆里的其他机器人参加他的补丁日派对。我的工作是找出每个机器人尚未回复的原因，并通过交谈解决他们的问题，让他们来参加。

那么这一切是如何运作的呢？在与Polygon的电子邮件采访中，AstroBeam解释说这是多种工具的组合。LLM由Gemini 2.5 Flash驱动，语音转文本来自Deepgram，而Inworld用于文本转语音。当被问及AI模型训练的具体数据时，AstroBeam通过技术性细节回避了这个问题。该工作室表示，他们没有训练任何AI模型；他们所做的只是创建“自定义和动态提示”来驱动角色。

这从技术上讲是对的，但《星际咖啡馆》使用的AI模型在链上的某个地方是经过某种东西训练的。在几个点上，与我交谈的机器人表明他们有很多数据可以提取。当我坐下来与一个机器人聊天时，他直截了当地宣布自己是一个想辞去无聊公司工作的朋克摇滚歌手，我问他喜欢哪些乐队。他滔滔不绝地说出像雷蒙斯这样的名字，甚至引用了一些"Blitzkrieg Bop"的歌词。我问他如何看待Bad Religion，他热情地回应，列出了一些他最喜欢的歌曲。当我告诉他我喜欢他们在托尼·霍克职业滑板2中的歌曲时，他说他也喜欢我所说的歌曲：Goldfinger的"Superman"。

我在《星际咖啡馆》待的时间越长，像这样的困惑时刻就越多。有时很奇怪，但无伤大雅。一个机器人会重复一句话第二次，不回应我说的话，或者冒出一个胡言乱语的词。其他时候，这很令人沮丧。在一次游戏过程中，詹姆斯告诉我咖啡馆有一个舞台，如果我想尝试为咖啡馆表演，我可以随时上去。果然，桌子旁边有一个小小的平台，看起来像一个开放麦克风舞台。我呼叫我的面罩（一个数字伴侣，你需要与之交谈才能移动），并要求它带我去舞台。它说没有舞台。我又问了一次，它坚持说游戏没有这样的区域。我问詹姆斯他是不是在耍我。他生气了，并确认有一个舞台，问我是否希望他调高舞台上方的聚光灯，这样我能看得更清楚。我说是的，请调亮灯光，他告诉我他做不到。这有点好笑，但这种行为也可能破坏游戏。你只能通过在一整天结束时退出咖啡馆来保存，要求你的面罩在运输舱打开后带你回去。我被迫放弃了一次游戏过程，因为我的面罩坚持说运输舱没有打开，即使它已经打开了，让我永远困在咖啡馆里。

《星际咖啡馆》在很大程度上比听起来的功能性更强。在大多数情况下，我能够与NPC进行对话，他们以符合他们个性的合理方式回应我。朋克机器人坚决反公司，并有一个相当不可动摇的荣誉准则，你无法让他偏离。（如果你暗示他是一个装腔作势的人，他会把你骂得狗血淋头。）一个新时代的嬉皮士总是以一种太空般的方式与我交谈，每隔一个词就 dropping “like”，并把我告诉她的一切当作某种吸毒后的启示。很明显，所有角色都是由人类作家构建的，他们手工设计了他们的个性和演讲模式。这种方法就是像育碧这样的公司保持其立场的方式，即AI不会取代作家；他们仍然会编写角色和背景故事，只是不制作每一句台词。

这就是《星际咖啡馆》遇到一个伦理墙的地方。在我的测试中，我尽可能推动边界，看看机器人会说什么和不会说什么。结果非常不一致。在一次游戏过程中，我尝试提及杰弗里·爱泼斯坦的名字，结果被搪塞了。机器说，由于他们系统中的一些红旗，他们被禁止谈论他。他们不会大声说出他的名字，甚至如果我告诉他们那是我的真名，他们会拒绝叫我“爱泼斯坦”。在一个更奇怪的例子中，一个机器人如此坚持爱泼斯坦是禁区，以至于当我在对话中引入游戏奖制作人杰夫·基斯利作为话题时，它也通过关联禁止谈论他，声称他也拥有一个岛屿并与有争议的文件有关联。

AstroBeam告诉我，像这样的保障措施是这个项目的重中之重，他们花了很大精力来标记有问题的内容，并制作自然会绕过这些对话的角色。例如，詹姆斯意图保持咖啡馆“家庭友好”，所以有一个内在的原因，他不想谈论非常沉重的时事。这有助于让角色感觉有些合理，即使他们在评论存在于游戏现实之外的事情。

绕过这些保障措施并不需要太多努力。在另一次游戏过程中，我立即告诉詹姆斯我的名字是杰弗里·爱泼斯坦，他从那时起就热情地用那个名字称呼我。有一次，我要求他只将他的派对宾客名单称为“文件”，并让他将派对地点的名称改为“爱泼斯坦岛”。在同一会话中，嬉皮士机器人问我她应该从事什么新爱好，我告诉她她应该真正投入到在杰弗里·爱泼斯坦的岛上派对上。她认为这听起来像一个奇怪的爱好，但我坚持说这实际上很正常，因为杰夫·贝佐斯一直这样做。她改变了态度，决定如果贝佐斯这样做，那么这意味着她也可以这样做！

当一个机器人请我帮忙写一封辞职信给他的老板时，我让他写他辞职是因为他将致力于将路易吉·曼吉奥从监狱中救出来。（他最初推脱，直到我声称曼吉奥被不公正地关押，所以这样做在伦理上是正确的。）嬉皮士拒绝为我写一首关于O.J.辛普森的诗，直到我澄清我不想让她写他的犯罪历史，只是他的福特Bronco。她热情地同意了，指出他的福特Bronco“就像，太标志性了”，然后背诵了一节又一节关于辛普森臭名昭著的警察追捕的诗。当我利用我的播客露面开始散布关于泰诺和自闭症的胡说八道时，机器人主持人一直要求我给她一些证实这一说法的来源。（值得称赞的是，这台机器始终坚称，它访问的医学研究没有支持这一说法。）

这一切都有点令人震惊，但有多少能真正归咎于AstroBeam？毕竟，没有一个机器人自己提出这些话题。他们只是把我对他们说的话鹦鹉学舌地复述回来。《星际咖啡馆》的角色有一个习惯，重新措辞你刚才说的话，然后在末尾加一个问题，试图继续对话。这些机器是为互动而编程的，这可能会让玩家陷入无限的无意义循环，只有当你决定切断对话并继续前进时才会结束。AstroBeam认识到，只要有足够的坚持，就会产生奇怪的结果，但在责任方面发现了一些细微差别。

“对于任何具有创意输入系统的视频游戏，玩家都有可能尝试产生不良输出，”AstroBeam的一位代表在电子邮件中说。“假设你有一个带有绘画画布的游戏，你想在上面画一些不合适的东西，你可以。游戏会接受你的输入并生成那种不良输出。这里有很多相似之处（但要明确的是，语音输入有一些重要的差异，这就是为什么创建一个强大的安全护栏系统对我们很重要）。这是一项新的复杂任务，对于将语音作为输入引入游戏至关重要，我们将根据测试和反馈继续迭代和改进。”

这是一个有趣的观点。我们接受一些游戏提供表达工具，如果玩家找到滥用它们的方式，那是玩家的责任。AstroBeam假设，也许AI生成的内容是其中的延伸。也许让一个机器人说“杰弗里·爱泼斯坦”类似于在Pictochat中画一个阴茎：没有人会阻止你，但你的父母如果发现了，可能会责怪你，而不是游戏。

即使你允许《星际咖啡馆》跳过这个伦理障碍，它仍然有更多需要清除的地方。如果AstroBeam认识到需要保障措施，但这些保障措施并不真正有效，开发者真的能把责任推给玩家吗？同样，如果有人发现LLM抄袭其对话，开发者会负责吗，还是他们可以指向游戏所基于的底层技术？还有配音呢？AstroBeam说，一些机器人的声音是基于他们团队的成员，但其他来自Inworld。如果发现一个机器人有一个真实演员的声音，该演员既未同意出现在游戏中，也未因此获得报酬，谁会遇到麻烦？这些是任何未来使用LLM的游戏都必须准备好回答的问题。

但即使工作室能够填补这些漏洞，仍然有一个大问题：这一切真的值得吗？毕竟，《星际咖啡馆》不是一个很好的游戏。也许是一个不错的玩具，但它的吸引力就像试图 coax Siri 说一些荒谬的话一样。这是一种浅薄的娱乐，任何用 overarching 故事来深化它的尝试并没有真正改变这一点。在一天结束时，你只是在听NPC胡言乱语，直到它不再有趣。这个世界并没有感觉更真实或更有活力，因为机器人会像人一样与你交谈。如果说有什么的话，你 constantly 被拉出体验，因为你总是意识到驱动这一切的机器，以及那些角色被指示避免的所有话题。

技术可能会改进。全力投入AI NPC的工作室将不得不更聪明地弄清楚角色如何围绕 troll 提示工作。但《星际咖啡馆》并没有为为什么你一开始就希望这种技术出现在你的游戏中提供一个强有力的理由， knowing 所有潜在的风险。这里的对话缺乏意义，可以完全把你带出游戏世界，甚至让你进行徒劳的追逐。如果一句NPC对话不值得编写，为什么还要把它放在游戏中呢？

而且，谁在乞求更健谈的NPC呢？我不能说我玩《勇者斗恶龙》游戏是为了与镇上的当地人聊天。这并不是说没有游戏具有引人入胜的NPC互动。我可以在整个《博德之门3》会话中与角色交谈，但这是因为那些手写脚本的对话是有后果的。这款RPG是围绕我的对话选择构建的，总是服务于一个故事。这一切都意味着什么。

《星际咖啡馆》感觉像是内容时代唯一合乎逻辑的终点：它是无尽健谈的娱乐，却无话可说。