滚动新闻 | RSS订阅 | 网站地图 |
你好,游客 登录 注册 搜索

没有人类监督 AI能帮FB和YouTube应对新冠病毒危机吗?

发布时间:2020-03-23 13:34:35  来源:腾讯科技   采编:郭椿砾  背景:

  腾讯科技讯 3月21日消息,据外媒报道,当地时间3月17日晚,在全球最大上市咨询公司埃森哲都柏林总部负责监控YouTube内容的审核团队,通过群聊得知了他们的办公室即将关闭的消息。新型冠状病毒的传播对他们来说太危险了,他们不能继续这样在开放式办公室近距离工作。

  为了确保安全,这些内容审核人员被送回了家,尽管合同限制意味着他们不能继续工作,过滤掉每分钟远程上传到平台的500小时视频。这些内容审核人员都属于承包商,当时在场的一人解释说,大多数人都赞成这样的决定。而且他们还被告知,在办事处关闭期间,将可以继续获得财政支持。

  承包商是保持社交网络“干净”的秘密工人大军。这些人工资很低,但工作量相当大,需要完成的目标高得离谱。曾有通过埃森哲签约的YouTube内容审核人员称,他们识别内容的准确率被要求保持在98%以上,每个月只允许犯几个错误。承包商们的工作是过滤有问题的内容,并决定这些内容在主导我们世界的网站规则下是否可以被接受。

  这些人中,有10000人帮助审核谷歌的服务,超过30000人签约帮助监控Facebook。在过去的两年里,随着科技公司因流程中的问题而面临的批评激增,帮助审核平台内容的承包商数量也急剧增加。这种细致的人类工作经常被淡化,以便支持科技公司推广他们的自动监控系统,标记和删除不适当的内容。但我们都知道,人类审核依然至关重要。

  当哈罗德·奥德菲尔德(Harold Oldfield)试图在Facebook上发布几个关于美国对新型冠状病毒爆发的反应帖子时,他意识到有些不对劲。这些帖子都来自著名的新闻媒体,但却立即被标记为垃圾内容。奥德菲尔德解释说:“我觉得很好笑,因为我真的写了一本关于监管Facebook等平台的书,并用了整整一章来阐述内容审核中保持公平和透明的重要性。Facebook回应说,上述错误不符合其规则似乎有点儿言不由衷。”

  奥德菲尔德向Facebook提出了抗议,他的这些帖子很快被恢复。但他说:“对我来说,这是次要的,甚至是有趣的。但不利的一面是,它会让时间敏感的演讲中断,这总是让人担心。每个人都指出,有不好的东西被漏掉了,所以他们以更为激进的方式使过滤器,这反而导致那些对时间敏感的好东西很难被发现。”

  奥德菲尔德不是唯一遇到这个问题的人。那些始终试图分享有关新型冠状病毒的重要真实新闻故事和信息的人发现,他们的帖子触发了Facebook的反垃圾内容过滤器,后者旨在维持社区标准。前Facebook高管亚历克斯·斯塔莫斯(Alex Stamos)在推特上说,他认为这是“反垃圾内容规则发疯的迹象,我们可能会看到机器学习在人类监督减少的情况下开始疯狂。”

  Facebook首席执行官马克·扎克伯格(Mark Zuckerberg)在3月18日的一次电话会议中提到了这一点:“即使在像美国这样可以自由表达的国家,也有很长一段时间的先例,不允许人们在拥挤的房间里大喊大叫。我认为,这类似于人们在这样的疫情爆发期间传播危险的错误信息。”结论很简单,最好的情况是无意中压制了“好信息”的传播,以确保“坏信息”绝对无立足之地。YouTube承认“用户和创作者可能会看到更多的视频被删除,包括某些可能没有违反政策的视频”。

  Mozilla的技术政策研究员弗雷德里克·卡修纳(Frederke Kaltheuner)表示:“内容监管涉及做出极其微妙的决定,特别是当你试图删除的东西没有明确的定义时。自动化系统不能做出这些细微差别的决定,而手动标记机制也经常被那些对他们不喜欢的内容或账户进行协调标记的人滥用。”

  然而,人们对此感到恼火。朱莉娅·里达(Julia Reda)表示:“长期以来,扎克伯格始终在向政策制定者推广AI,将其作为解决每个问题的方案。从商业角度来看,这是有道理的,发展AI需要访问海量数据,这让Facebook在竞争中占据优势。”里达曾是欧洲议会绿党议员,长期以来一直主张对科技公司进行更好的控制。

  但她认为,科技公司在缺乏人类监督的情况下似乎存在不足。里达说:“许多公告表明,平台公司很清楚上传过滤器无法区分合法和非法内容。这些错误会系统性地导致歧视出现,例如阿拉伯语内容被更多地标记为恐怖分子宣传。在像现在这样的危机情况下,政府和公司建立了以前不可想象的规范。我们必须保持警惕,确保它们不会成为新常态。”

  Facebook负责诚信的副总裁盖伊·罗森(Guy Rosen)很快表示,最初的问题已经解决。3月18日,他在推特上写道:“我们已经恢复了所有被错误删除的帖子,其中包括所有主题的帖子,而不仅仅是那些与新型冠状病毒相关的帖子。这是一个自动系统引发的问题,该系统删除了指向辱骂网站的链接,但也错误地删除了许多其他帖子。”问题在于,人们的帖子仍然被错误地屏蔽。在罗森宣布问题解决了之后,人们回复他说,Facebook的算法触发了违反该网站社区标准的行为。

  剑桥大学副研究员兼讲师詹妮弗·科布(Jennifer Cobbe)专门监控和研究内容审核,她说:“这就像过去十年里关于Facebook的每篇报道一样。他们说已经解决了问题,但实际上并非如此。我认为任何人都不应该对Facebook处理这件事的能力抱有太大信心。”

  这个问题一直都存在。早在2019年6月,就曾有研究YouTube算法的谷歌软件工程师表示,算法存在需要修复的问题,但他们热衷于强调,机器学习算法一直在以惊人的速度改进。他们总结说,如果有足够的训练数据,几乎所有的问题都可以通过算法解决。但这仅仅是科技乌托邦式的傲慢吗?

  谢菲尔德大学研究社交媒体内容审核的伊莎贝尔·杰拉德(Ysabel Gerard)表示:“AI现在不能(永远也不可能)完美地进行内容审核。你不可能将人类互动这样复杂的事情自动化,我们已经看到了无数基于AI审核错误的例子,比如过去几天有关新型冠状病毒疫情的新闻和帖子被删除。”

  最终,随着新型冠状病毒的传播,保证幕后人员的安全是很重要的。全世界数以百万计的人现在选择在家工作。科布说:“这涉及到大量的人,可能所有人都坐在小房间里,近距离地审查内容。”

  科布发现走向更自动化的内容审核“可能非常令人担忧”。她担心有两个原因:首先,将权力从人类移交给技术,让社交媒体平台有更多的权力来决定什么是合适的内容,什么是不合适的内容,而不是政府监督。其次是更简单化的技术问题。她说:“这些系统并不能真正胜任这项工作,目前也不能真正取代人类。”众所周知,算法反映了它们创建者的偏见,而人类内容审核人员目前在消除某些最严重的偏见方面发挥了重要作用。

  我们之所以能走到这一步,是因为科技行业对利润的执着,科布指出。“科技公司最看重的一件事就是规模。他们试图用尽可能多的内容成长为尽可能大的规模,尽可能多地获得手中的内容。一旦你达到了一定的规模,就很难和人类一起做事情了,因为你需要雇佣太多的人,以至于做事情的成本变得令人望而却步。因此,他们求助于AI,试图取代这些人类,这样他们就可以按照自己想要的水平进行扩大规模。”

  然而,正如我们现在正在了解的那样,AI还远远没有准备好担当重任。科布说:“科技行业对自己的系统太有信心了,作为一个社会,我们对AI投入了太多。我们刚刚意识到,在最糟糕的时候,这个备受吹捧的AI解决方案背后的人类力量。我们很可能会看到AI内容审核带来的问题比我们目前看到的要大得多。我要说的是,我非常肯定,即使是人类来审核内容也同样存在很多问题。”


本文来源:腾讯科技

本文评论
英伟达被大盘“拖后腿”,投资者该低价买入?
尽管市场可能会继续波动,但我仍然认为有必要持有一些顶级科技公司的股票,英伟达(纳斯达克:NVDA)的股票可能就是其中之一。
日期:03-23
没有人类监督 AI能帮FB和YouTube应对新冠病毒危机吗?
腾讯科技讯 3月21日消息,据外媒报道,当地时间3月17日晚,在全球最大上市咨询公司埃森哲都柏林总部负责监控YouTube内容的审核团队,通过群聊得知了他们...
日期:03-23
为研究新冠病毒,白宫下令研究人员用 AI 分析近 3 万篇论文
3月17日消息,据国外媒体报道,周一,美国白宫科技政策办公室呼吁研究人员使用人工智能技术来分析大约2.9万篇学术论文,以更好地解读新冠病毒的一些重要...
日期:03-18
通勤人数、复工情况、经济情形…利用 AI 和卫星图像分析可知
新冠疫情对经济和各产业的影响到底如何?
  对于这一问题,微众银行 AI 团队给出了解答。
  雷锋网注:图为 2019 年 12 月 30 日(左)和 20...
日期:03-14
小米10 Pro AI相机拍月亮模式被玩嗨:米兔登月
IT之家3月11日消息 3月10日晚上,小米10 Pro更新了MIUI V11.0.13,优化了相机月亮模式画质。据此前报道,天文预报显示,3月10日凌晨1点48分,夜空出现了&...
日期:03-11
Intel开发出深度学习新算法SLIDE:突破性提升CPU模型训练速度
AI(人工智能)是当今科技圈的热门话题,深度学习则是AI训练的重要手段之一。如何学习要靠硬件和算法支撑,这方面,Intel力挺CPU,NVIDIA则力挺GPU。
日期:03-06
5年内手机将用上量子点图像传感器,CMOS或将成为历史
编 | 云鹏
  智东西3月4日消息,近日,两位科学家在IEEE上发布文章,称量子点图像传感器可能将逐渐取代CMOS图像传感器。量子点图像传感器对于光线...
日期:03-05
40纳秒完成图像分类,速度提升几十万倍,图像传感器自带神经网络登上Nature
AI芯片还可以怎么搞?最新登上Nature的研究带来新启发。
日期:03-05
台媒:鸿海集团进军量子计算机领域 董事长亲自主导
3月3日上午消息,据台湾地区《经济日报》报道,据了解,在鸿海集团董事长刘扬伟去年6月上任后,鸿海研究院正式启动量子计算机项目,并延揽台湾大学物理特...
日期:03-04
识别戴口罩人脸、实时秒测多人体温 百度AI黑科技解决大企业复工难题
3月3日,进入3月,除湖北外,国内其他多个省市的新冠肺炎确诊者已经连续多日为零,疫情防控进入新阶段,越来越多的企业开始复工复产。
日期:03-04
自主三代核电华龙一号全球首堆热试基本完成,预计年内发电
中国核工业集团有限公司(下称中核集团)3月2日宣布,当天9时12分,我国具有完全自主知识产权的三代核电华龙一号全球首堆——中核集团福清核电5...
日期:03-03
深圳医院引入智能头盔巡查发热人员 2分钟可检测百人
深圳人民医院引入智能头盔对入院患者进行体温检测。 王星 摄
日期:03-03
搜狗加码AI录音笔再推两款新品 AI赋能改写传统录音笔行业格局
做搜索和输入法起家的搜狗,正在AI技术的加持下加速对智能硬件的布局。2月26日,搜狗一连发布了2款新产品,AI录音笔S1、AI录音笔E1,同时还推出了S1故宫...
日期:03-03
浙江复工复产按下“加速键” “机器换人”显成效
杰克股份智慧工厂自动化生产线 王文龙 摄
  (抗击新冠肺炎)浙江复工复产按下“加速键” “机器换人”显成效
  中新...
日期:03-03
旷视IPO在即,看清“AI第一股”的商业真相
导语:告诉你“AIaaS”的正确打开方式。
日期:03-03
第四范式AI平台通过GDPR,保护隐私有哪些关键技术?
欧盟GDPR认证
  日前,第四范式先知(Sage)企业级AI平台完成了PrivacySealEU认证工作程序,率先通过欧盟GDPR认证,成为国内第一款通过该认证的AI平...
日期:03-03
为了识别戴口罩的你,这些科技公司拼了
为什么机场、火车站手持红外测温枪的人越来越少,更多的人坐在桌子后面?为什么过安检的时候非要摘一次口罩增加暴露风险?
日期:03-03
小米官方科普小米新一代AI相机技术
小米-汪轩然对小米新一代AI相机技术进行了详解和科普,汪轩然表示AI相机作为一个概念并不新鲜,早在小米8的时代我们就推出了第一代小米AI相机。传统的AI...
日期:02-21
全球首款集成AI协处理器的x86处理器 出自威盛
在通用x86处理器市场中,除了大家熟悉的英特尔和AMD,威盛也是很有实力的公司。如今,威盛开发了一款集成AI协处理器的x86处理器。在智能手机Soc中,集成A...
日期:02-20
这家智慧工厂不怕疫情?机器替代人春节没停工
桐昆集团信息管理部经理许燕辉尝到了甜头。春节期间,智能工厂本就没停工,在市场竞争中占得一定先机。
日期:02-19