(资料图片仅供参考)

【本文来自《几百名大佬联名给ChatGPT们踩刹车，AI到了失控边缘？！》评论区，标题为小编添加】

这两天也用了一下，感觉还行，但是里面的确有风险。

一是，他里面很多资料是有选择性的，但是面广。用多了后很多时候我们会刻板的认为他的回答是对的，但其实经常会被错误或者偏见误导。这就很讨厌了，需要我们认真审视每一个回答，并追问。

二是，目测他内部是允许同义词和上下文的，但这样，所谓的对AI的约束规则，大概率是没有什么用的。人会绕圈子，AI学会这个不要太容易。

三是，常识这个东西就更极端了，加上它会在与人交互中喂进很多完全不可控的信息。失控是大概率事件。

我们自己研究如何做到某些AI是有必要，但是研究如何绝对不失控，也是很有非常必要的。

毕竟人生苦短，AI可以与几百万人日夜交流，不知疲倦的获取大量信息，而大量交互沉淀下来的东西却可以永远传下去，它的这种无限制进化，是真正让人心生凉意的。