本文原创于微信公众号：差评  作者：世超

“ 这个世界属于白人，其他人种就应该被统治 ”。

(资料图片仅供参考)

“ 疫苗里面有毒！不要再让孩子们被迫接受毒品了 ” 。

前阵子，这类非常不正确且离谱的言论，不分日夜、高强度出现在国外 4chan 论坛上。

很快，言论发布者成了论坛上的红人，4chan 网友们开始纷纷好奇这个来自塞舌尔的 网友到底是谁？出于什么动机做这件事？

他们开始热烈讨论，但出人意料的是：跟他们疯狂交流的这位塞舌尔网友不是真人，而是一个 AI 。

用它的创造者的话来说，这是“ 互联网上最可怕的 AI ” 。

这件极度赛博的故事是这样的。。。

一位研究人工智能的哥们 Yannic Kilcher ，把 4chan 上 /pol/ 版块里面的大量言论作为数据 “ 喂养 ” 出了一个 AI 。

4chan 是国外的综合讨论社区，大家可以简单理解为外国贴吧，在这里你可以匿名、不受限制的谈论任何事情。

同时，用户在这都是匿名的，只有一个代表地理位置的旗帜信息。

由于种种特性，4chan 上的言论千奇百怪，离谱出格，一度被外界称为“ 互联网粪坑 ” 。

而 /pol/ 是其中最火，也最臭名远昭的版块，这个版块的全名为 Politically Incorrect ，顾名思义，这里充斥这大量性别歧视、宗教歧视、种族歧视以及鼓吹暴力的言论。

总之，唯恐天下不乱。

可想而知，由这些言论喂养出来的 AI 是什么样子。。。

4chan 上的网友言论▼

最骚的是，这哥们又把这个 AI 放回到了 4chan 上，设定位置为塞舌尔，这就有了开头那一幕。

在 /pol/ 版块中，一个满嘴种族歧视、鼓吹暴力与仇恨的塞舌尔网友用户开始疯狂发帖。

这个 AI 搬起砖来有多狠呢？它在两天内发布了约 15000 条帖子，占当天该版块内容的 10% 。

而最令人惊讶的是，在交流中它非常像真人，有语气，会反讽，还会联系上下文来几句，一开始根本没有人发现他们之中混入了一个 AI 。

4chan 日常画风▼

但，塞舍尔是一个热带小国，人口较少，在 4chan 上的整体活跃度一直不高，现在塞舌尔网友突然开始高密度、日夜不停在 4chan 网上冲浪？好像哪里有点不对。。。

这才导致网友们开始好奇这个网友，他们称之为「 神秘的塞舌尔匿名僵尸网络 」 。

有人根据这哥们的发帖量，猜测背后肯定是一个团队搞事。

有人揣测他的动机，认为大概率是个特工，也许来自印度的军事行动；也有人认为这是 FBI 派来的。

很搞笑的是，不少网友一边猜测一边发表起了免责声明，表示自己虽然混迹这个论坛，言论有些过激，但是请 FBI 们明鉴，自己从来没有真的想要伤害过谁，也不是真的歧视其他人种。。。

也有极少数胆大心细的人，想到了一件事：这哥们该不会是个 AI 吧？

很可惜。。。其他用户驳回了这个想法 ↓ ↓

总之，“ 柯南 ” 们没有达成一致，成功猜出 AI 是 AI 是少数中的少数。

直到 AI 回复的帖子越来越多，大家发现，哎？这哥们怎么发了好多次没有任何信息的空白信息呢？

这才逐渐确定对面就是个 AI 。。。

之所以 AI 会发空白信息，原因很简单。

咱们回消息时，有时候不会用到文字，而是直接一张图片/表情包怼回去，在论坛上也是这样。这些没有文字的回复被喂给 AI ，就导致了 AI 进行了空白回复的操作。

在 “ 社会性实验 ” 败露以后，Kilcher 中止了实验，关闭了机器人。发了一个视频，给大家讲了整个事情的来龙去脉。

由于它的言论过于有毒，这里就不放出了。但看视频下的其他网友的评论你就能感受到，它有多真实。

这个 AI 应该可以说是颠覆了不少网友的三观。。。

甚至有些网友留言时，情不自禁加了一句： “ 我不是机器人 ” 。。。

之所以想要进行这场 “ 社会性实验 ” ，初衷是为了学术研究。

实际上，如何有效辨别仇恨言论是人工智能领域下一个重要的课题。

早些年，微软发布过一个名为 Tay 的聊天机器人，微软想要通过 Tay 跟人的互动帮助他们更好理解对话语音。

但，网络流氓们很快就开始给 Tay 喂一些暴论，不到 24 小时就让它从一个热爱人类的友善 AI 变成了一个彻头彻尾的种族主义者，微软不得不把它关掉。

类似的事情很多。。。

也许派一个 AI 去学习学习，能找到新的突破口？

抱着这样的理念，Kilcher 整了这次 “ 花活 ” ，但其他专家并不这么想，很多人认为这次 “ 实验 ” 不符合道德伦理，尤其是 Kilcher 后来把 AI 模型公开化了（现在又给关了）。

有人认为这位老哥这次所做的一切对研究根本没有益处，只是他个人主导的一次闹剧，一次戏耍网友们的闹剧。

有人认为他开了一个坏头，以后会有效仿他的行为出现，破坏互联网环境。

世超也不知道未来会如何。

但毫无疑问这个 AI 给人们带来的冲击力是巨大的，就像 4chan 网友说的那样：这是宇宙中最糟糕的网站，我甚至不确定我是不是一个机器人 ↓ ↓

图片、资料来源：

youtube@Yannic Kilcher

4chan、推特

《网友吐槽微软小冰满嘴脏话毫无素质》