Meta 的人工智能研究实验室创建了一个最先进的聊天机器人，最近向公众推出以收集功能反馈。

据悉，该机器人名为 BlenderBot 3 ，可以在网络上访问。(不过，目前看来只有美国居民可以这样做)。BlenderBot 3 能够回应一般的聊天请求，但也能回答数字助理的那种问题。

该机器人是一个原型，建立在 Meta 之前使用所谓的大型语言模型或 LLMS 的基础上，是一款功能强大但存在缺陷的文本生成软件，其中 OpenAI 的 GPT-3 是最广为人知的例子。与所有 LLM 一样，BlenderBot 最初是在大量文本数据集上进行训练的，它挖掘统计模式以生成语言。

事实证明，此类系统非常灵活，并已被广泛使用，从为程序员生成代码到帮助作者编写下一本畅销书。然而，这些模型也有严重的缺陷：它们会在训练数据中出现 regurgitate biases (反刍偏见)，并且经常编造用户问题的答案(如果它们要用作数字助理，这是一个大问题)。后一个问题是 Meta 特别想用 BlenderBot 测试的。

聊天机器人的一大特点是它能够搜索互联网以讨论特定主题。更重要的是，用户可以点击它的回复来查看它是从哪里获得信息的。换句话说，BlenderBot 3 可以引用其来源。

通过向公众发布聊天机器人，Meta 希望收集有关大型语言模型面临的各种问题的反馈。与 BlenderBot 聊天的用户将能够标记来自系统的任何可疑响应，Meta 表示，它正在努力“尽量减少机器人对粗俗语言、诽谤和文化不敏感评论的使用”。用户必须选择收集他们的数据，如果是这样，他们的对话和反馈将被存储并稍后由 Meta 发布，以供一般 AI 研究社区使用。

Meta 研究工程师 Kurt Shuster 表示：“我们致力于公开发布我们在演示中收集的所有数据，希望我们可以改进对话式人工智能。”

从历史上看，向公众发布原型 AI 聊天机器人对科技公司来说是一个冒险的举动。2016 年，微软在 Twitter 上发布了一个名为 Tay 的聊天机器人，它从与公众的互动中学习。不过，它很快就被用户灌输种族主义、反犹太主义等不良言论。作为回应，微软在不到 24 小时后将机器人下线。

Meta 表示，自从 Tay 出现故障后，人工智能的世界发生了很大变化，BlenderBot 拥有各种各样的安全栏，可以阻止 Meta 重蹈微软的覆辙。

Facebook AI Research ( FAIR ) 的研究工程经理 Mary Williamson 表示，至关重要的是，Tay 旨在从用户交互中实时学习，而 BlenderBot 是一个静态模型。这意味着它能够记住用户在对话中所说的内容(如果用户退出程序并稍后返回，它甚至会通过浏览器 cookie 保留这些信息)，但这些数据只会用于进一步改进系统。

Mary Williamson 表示，当今使用的大多数聊天机器人都是狭隘且面向任务的。例如，客户服务机器人通常只是向用户展示一个预先编程的对话树，缩小他们的查询范围，然后再将它们交给真正可以完成工作的人工代理。而 Meta 想建立一个可以像人类一样进行自由和自然对话的系统。

除了将 BlenderBot 3 放到网络上，Meta 还发布了底层代码、训练数据集和更小的模型变体。研究人员可以通过 Meta 相关链接访问拥有 1750 亿个参数的最大化模型。