美国媒体揭开大模型阴暗面：训练用的数据可能有点脏(疯狂的AI熄火,但智能化格局已被重写,车企裁员潮将至?)

财经资讯 2023-04-20 04:42:02

在过去半年不到的时间里，许多地球上的人类已经接触到AI聊天机器人的魅力和魔力。但归根结底，目前并没有AI已经产生像人类一...更多知识由小编为你整理了《美国媒体揭开大模型阴暗面：训练用的数据可能有点脏》详细内容,欢迎关注学习。

美国媒体揭开大模型阴暗面：训练用的数据可能有点脏

在过去半年不到的时间里，许多地球上的人类已经接触到AI聊天机器人的魅力和魔力。但归根结底，目前并没有AI已经产生像人类一样的自我意识，它们能够模仿人类讲话，主要原因是算法“吸收”了大量的文本——大部分是从互联网上抓取的。

互联网上蕴含着大量有用、有益的经验和知识，但数字时代的网民们也不得不承认，在烟波浩渺的互联网信息丛林中，也蕴含着大量偏见、歧视、有害，以及侵犯名誉和隐私的内容。种种迹象显示，这些“人类的禁忌知识”也被大模型照单全收了。

当地时间周三，《华盛顿邮报》发表了与艾伦人工智能研究院合作进行的调查结果，他们拆解了谷歌的C4数据集，这也是许多知名英语AI大模型的训练材料，例如谷歌的T5和Facebook的LLaMA。中国投资者更关注的OpenAI并没有公布训练ChatGPT所用的数据集，所以这也是目前窥得AI数据黑箱的最便利解决方案。

AI数据集黑箱揭秘

值得一提的是，调查人员使用了SimilarWeb的网站分类数据，由于C4数据集中有三分之一的网站已经不存在这个世界上了，所以实际统计的数据大约为1000万个网站。

根据研究，囊括全球专利信息的谷歌专利网、维基百科和订阅制数字图书馆scribd的资料权重位列整个数据集前三。但随着列表往下翻，一系列意想不到的名字开始出现。

已经被美国司法部查封的盗版电子书网站b-ok.org高举第190位，类似这样因为侵犯版权被美国查封的网站还在数据集中出现至少27次。

美国媒体揭开大模型阴暗面：训练用的数据可能有点脏

（b-ok.org现在是这个样子的，来源：网站）

此外，《魔兽世界》玩家论坛wowhead也高居第181位，《赫芬顿邮报》创始人阿里安娜·赫芬顿办的行为转变课程网站thriveglobal也位居175位。令人意外的是，有两个美国投票人数据库网站也位列前100位。虽然投票人的数据本身是公开的，但大模型可能会把这些个人数据用在哪里，又有谁能说清楚呢？

接下来的数据则显示，AI大模型潜在的侵权问题，可能要比想象中更加严重。商业和行业网站是数据集中比重最大的分类，创意产品众筹网站kickstarter（25位）也出现在榜单里非常高的位置。这里就引出了一个新的问题，AI向用户提供的许多创意和市场营销答案，很有可能本身就是现成的作品。

研究人员也发现，超过50万的个人博客被收录进C4训练集中，这些作者显然没有因此得到过任何报酬。

作为AI训练的“富矿”，每天都大量生产经过审校内容的媒体也是训练集的最爱，纽约时报、洛杉矶时报、卫报、福布斯和赫芬顿邮报均挤进数据库比重前十。与许多艺术家一样，不少媒体目前也在向AI产业声索维权。由于美国媒体行业的复杂性，所以训练集中也能找到以极右翼、白人至上主义内容为主基调的网站。

事实上，谷歌在构建数据库的时候，已经意识到网络信息污染的问题，所以除了删除毫无意义和重复的语句外，特意用开源的“脏话过滤器”筛过一遍，但似乎有数量非常庞大的漏网之鱼钻了过去。研究人员就在训练集中找到至少7.2万个德国纳粹的标志性符号。

更令人担忧的是，训练集中也能找到宣扬种族主义、极右翼阴谋论（QAnon）的网页，而以组织网络暴力闻名的4Chan匿名聊天网站也出现在训练集中。

比起数据脏处理数据的态度更迷离

虽然C4训练集的数据已经非常庞大，但用于训练OpenAI GPT-3的网络爬虫数据集，从一开始就要比C4大40倍，背后的问题自然也会被同步放大。

但在GPT-3的论文中，OpenAI也公开讨论了一个细节：在防止测试数据被放进训练数据导致污染的过程中发现了一个BUG，但由于重新训练模型太贵、公司又没钱，所这个问题就放着不去管它了。

一些业内人士也透露，许多科技公司在内部都不会记录训练数据的来源，因为担心会发现个人信息数据，以及未经授权的材料或其他数据。

【内容声明】文章内容由新财梯网编辑整理，新闻来源：财联社

美国媒体揭开大模型阴暗面：训练用的数据可能有点脏相关拓展阅读

美国媒体揭开大模型阴暗面：训练用的数据可能有点脏(疯狂的AI熄火,但智能化格局已被重写,车企裁员潮将至?)

疯狂的AI熄火,但智能化格局已被重写,车企裁员潮将至?

答：而OpenAI的GPT-5很有可能会在2023年底发布，更先进的数据模型，更新鲜的数据信息，再配合上已经逐渐有点看清形势的资本，它究竟会有多大的影响，会影响到什么，我们都要做好准备。【本文来自易车号作者路咖汽车，版权归作者......更多详细

有人认为,未来AI会取代人类的工作吗?

答：有些工作的确会被机器替代。但是，AI取代人类在所有领域都取得成功的前景是不现实的，因为目前的AI还存在许多瓶颈和挑战，例如：1. 做决策方面的能力：目前的AI主要依赖于数据、算法和模型进行预测和决策，但是它们并没有真正......更多详细

以上就是好财梯网整理的关于美国媒体揭开大模型阴暗面：训练用的数据可能有点脏(疯狂的AI熄火,但智能化格局已被重写,车企裁员潮将至?)的全部内容，希望你在了解【今日财经：#训练用的数据可能有点脏#解读】的基础上可以帮助到你，让我们一起学习理财知识。

阅读全文

标签: 美国媒体揭开大模型阴暗面：训练用的数据可能有点脏

美国媒体揭开大模型阴暗面：训练用的数据可能有点脏(疯狂的AI熄火,但智能化格局已被重写,车企裁员潮将至?)

美国媒体揭开大模型阴暗面：训练用的数据可能有点脏

美国媒体揭开大模型阴暗面：训练用的数据可能有点脏相关拓展阅读

疯狂的AI熄火,但智能化格局已被重写,车企裁员潮将至?

有人认为,未来AI会取代人类的工作吗?

最新文章

推荐文章