几代AI相互训练后可能导致崩溃,专家称这比污染还可怕

来源:中关村在线   2023-06-22 06:01:17
A+A-


(资料图片)

近日,一些人工智能领域的专家指出,随着越来越多的AI生成内容在互联网上发布,接受这些数据训练的人工智能最终可能会陷入混乱。一群来自英国和加拿大的科学家发布了一篇论文,试图了解几代AI相互训练后可能出现的情况。 在论文的一个例子中,经过九次迭代的人工智能系统谈论的内容变得喋喋不休,并以野兔为话题,而最初的材料实际上与中世纪建筑相关。

剑桥大学教授罗斯·安德森将这种“模型崩溃”现象比作大规模污染,表示我们在海洋里撒满了塑料垃圾,大气中放满了二氧化碳,而现在我们可能将让互联网上充满胡言乱语。 据在线虚假信息监管机构NewsGuard的数据显示,已有49个新闻网站似乎完全由人工智能撰写内容,而市场营销和公关机构也越来越多地将文案外包给聊天机器人。尽管如此,专家表示对于人工智能来说,人工生成的数据仍然十分必要,因为人类语言具有很多自然变化和不可预测的结果。

标签:


Copyright ©  2015-2022 华声办公网版权所有  备案号:京ICP备2021034106号-36   联系邮箱:55 16 53 8 @qq.com