(资料图片)
人工智能(AI)的发展日新月异,但也带来了一些隐患。最近,一组英国和加拿大的科学家发现,如果 AI 只学习其他 AI 生成的内容,那么经过几代训练后,AI 将输出无意义的垃圾信息,导致网络内容质量下降。
这些科学家在 5 月份发表了一篇论文,试图探究当 AI 互相训练时会发生什么。他们发现,在这种情况下,AI 输出的内容会逐渐变得荒谬可笑。例如,一篇关于中世纪建筑的文章,在经过九代 AI 训练后,变成了一篇关于各种颜色兔子的胡言乱语内容。
这种现象被称为“模型崩溃”。目前,大多数 AI 语言模型(如 ChatGPT 和 OpenAI)都是基于从互联网上获取的大量数据进行训练的,而这些数据大部分是由人类生成的。但是,随着 AI 生成内容的增加,未来的 AI 训练将不可避免地受到这些内容的影响。这意味着错误和无意义的信息会不断累积,后来的 AI 无法区分事实和虚构内容,开始误信自己的错误观念。
剑桥大学的罗斯 安德森教授是论文的作者之一,他在博客中将这种现象比作污染,写道:“就像我们用塑料垃圾污染了海洋,用二氧化碳污染了大气层,我们也即将用胡言乱语污染互联网。”
事实上,AI 生成内容已经在网络上广泛传播。今年 5 月,一个名为 NewsGuard 的网络虚假信息监测机构警告说,他们发现了 49 个完全由 AI 编写的新闻网站。此外,市场营销和公关机构也越来越多地将他们的文案交给聊天机器人来完成,导致人类作家失去工作机会。
-
AI生成内容的隐患:当AI只学习AI,网络将充斥无意义的内容AI生成内容的隐患:当AI只学习AI,网络将充斥无意义的内容,人工智能(A
-
观天下!这些行为容易伤膝关节,高龄不是手术禁忌方大伯,89岁,杭州人。自退休后就爱上了摄影,在朋友圈里小有名气。上
-
今日热议:A股小市值公司“三低”现象渐显 如何破局?伴随一系列改革先后落地,A股逐步向成熟资本市场靠拢,记者发现,A股小
-
世界即时看!券商多元化布局公募赛道 近八成产品年内实现正收益在居民财富增长以及需求更加多元化的背景下,券商资管业务迎来发展机遇
-
【时快讯】年内439家上市公司收年报问询函 逾六成回复“难产”截至6月19日晚8时,今年以来共有267家上市公司申请延期回复年报问询函
-
AI生成内容的隐患:当AI只学习AI,网络将充斥无意义的内容
2023-06-20 08:54:41
-
观天下!这些行为容易伤膝关节,高龄不是手术禁忌
2023-06-20 08:54:35
-
今日热议:A股小市值公司“三低”现象渐显 如何破局?
2023-06-20 08:34:54
-
世界即时看!券商多元化布局公募赛道 近八成产品年内实现正收益
2023-06-20 08:40:10
-
【时快讯】年内439家上市公司收年报问询函 逾六成回复“难产”
2023-06-20 08:41:07