几代AI相互训练后可能导致崩溃，专家称这比污染还可怕世界观点

来源：中关村在线　2023-06-22 06:01:03

(资料图)

近日，一些人工智能领域的专家指出，随着越来越多的AI生成内容在互联网上发布，接受这些数据训练的人工智能最终可能会陷入混乱。一群来自英国和加拿大的科学家发布了一篇论文，试图了解几代AI相互训练后可能出现的情况。在论文的一个例子中，经过九次迭代的人工智能系统谈论的内容变得喋喋不休，并以野兔为话题，而最初的材料实际上与中世纪建筑相关。

剑桥大学教授罗斯·安德森将这种“模型崩溃”现象比作大规模污染，表示我们在海洋里撒满了塑料垃圾，大气中放满了二氧化碳，而现在我们可能将让互联网上充满胡言乱语。据在线虚假信息监管机构NewsGuard的数据显示，已有49个新闻网站似乎完全由人工智能撰写内容，而市场营销和公关机构也越来越多地将文案外包给聊天机器人。尽管如此，专家表示对于人工智能来说，人工生成的数据仍然十分必要，因为人类语言具有很多自然变化和不可预测的结果。

推荐DIY文章