连水军都要失业了，因为AI水军来了_砍柴网

首页 > 科技头条 > 有态度 >

连水军都要失业了，因为AI水军来了

2017-09-04 11:47

无论是中国还是美国，很多人在选择餐馆或者酒店的时候，主要依靠网上的点评，比方说大众点评或者Yelp等等。
某种程度上，口碑已经成为不少企业的命脉，变成服务和产品质量的永久记录。与此同时，不公平或者虚假的点评也让企业忧心忡忡，这些有可能来自愤怒的顾客，也有可能来自竞争对手。
水军，在全球都是一个让人头疼的问题，以后可能会更疼了：
人工智能（AI）已经学会自动编写虚假点评了。
整个点评口碑界正面临潜在却是严重的冲击。如果AI创造的虚假点评泛滥，最终将导致全部点评信息可信度急剧下降。技术进步，这一次又给社会带来了（令人担忧的）影响。
不知道许知远会不会更焦虑了。
“这对整个社会是一个巨大的威胁，不但会让依靠点评信息的用户失望，而且会动摇人类对于真实和虚假的信念，我认为后者更让人担心”，芝加哥大学计算机科学教授赵燕斌（Ben Y． Zhao）说。
以假乱真
《在线点评系统中的自动众包攻击和防御》是赵燕斌等芝加哥大学研究人员发布的一篇论文。他们的研究说明，人工智能可以被用来生成复杂的点评信息。这些虚假的点评不仅机器无法检测出来，就连人类读者也分辨不出来。
这篇论文今年晚些时候会在计算机安全顶级会议ACM CCS上展示。
所谓复杂的点评信息，大概是这个样子：“我喜欢这个地方。我跟我哥一起去的，我们点了素食意大利面，很好吃。啤酒不错，服务也很棒。推荐这个地方，是个吃早餐的好去处。地儿小但是买卖大”。
乍一看这个点评没有什么奇怪的，里面包含一些具体的建议和可信的描述，虽然最后一句有点奇怪，但整体仍然是一段说人话的表达。
实际上，这句话是一种称为RNN（循环神经网络）的深度学习技术生成的。这个RNN网络使用了上千条真实在线点评训练而成。
研究人员表示，AI生成的点评已经做到了“以假乱真”，有600个用户参与的调查显示，这些虚假的点评不仅能逃过人类的法眼，而且还被用户认为“有用”。
“有用”是更可怕的事情：这表明虚假点评已经可以对人类造成影响。
反抄袭软件也对这些虚假点评无能为力，因为这些点评是逐字生成的，而不是简单的替换已有点评中的用词。如果使用反抄袭软件检测，不但很难检测出虚假点评，而且会&l

余下全部

共有评论0条

相关推荐
注水还是被注水，马蜂窝事件需要透过现象看本质
从《你好，旧时光》到《猎场》，水军成了薛定谔的猫
地球人都不够用了：水军狂刷单 收视造假究竟谁的锅？
13天后，这个可恶的行业会彻底消失？
AI水军来了，你能分辨出哪些是虚假点评吗？
智能手机行业“水军”横行，被黑的企业应该怎么做？
6% 的水军刷了 90% 的量，脱完水的大明星究竟还有几分红？
出来做电视剧，千万别忘了给水军充值！
315曝光明星“水军榜”，我看了一个“假娱乐圈”？
《孤芳不自赏》被爆拖欠水军工资，影视公司面对“潜规则”难以独善其身
揭秘豆瓣水军：一名真实用户评分20元 一次可刷二百单
微博清刷榜“僵尸”，到底是谁催生了这条黑色产业链
小米欲摆脱屌丝定位 雷军“爆粗口”称网友是水军
自媒体人不要沦为新一代的水军
「水军」太可怕：评论审查员的工作到底有多悲催？
亚马逊在美国提起诉讼，将上千名网络水军列为被告
小辣椒：网络水军，不是互联网品牌的制胜之道

<返回

<返回首页

Copyright CmsTop.com
2026年02月28日 02:14:39