IT八卦

AI创造新语言？其实是人类加戏

@奈特

       作者简介：互联网观察家。8年媒体从业经验，先后在多家知名科技媒体担任记者和编辑等职，细看互联网浪潮起落，希望用文字将观察和思考所得与大家交流。

       近日，关于 Facebook关停“失控”AI 项目的新闻满天飞，更有媒体爆出机器人开始使用自己的语言进行对话，人们开始恐慌机器人失控之后会主宰世界…细思极恐。但是，我不得不告诉大家：你们想多了。AI并没有自创新语言，只是人类为AI加了戏而已。

       事情起源于Facebook人工智能研究小组研发的一对聊天机器人。原本用来和人聊天的两个AI不仅自主地开始互相聊天，还创造了只有它们互相明白的“语言”。随后，在媒体报道里故事变成：因为聊天机器人开始用人类无法理解的语言说话，Facebook关闭了“失控”的人工智能系统。这番报道迅速引来了人工智能威胁论者的一阵恐慌。

      但事实并非如此。《连线》杂志日前发表的文章明确表示，这是一场闹剧，有些媒体曲解了原义。闹剧的真相是，Facebook公司的研究人员本打算开始制造可能同人类协商的聊天机器人。他们的想法是：对机器人来说，要想更密切地配合人类工作，就必须学会协商与合作。他们先从小处着手，设计一个简单的游戏，让两个游戏玩家划分一些收集起来的同类物品，比如帽子、球和图书。

     研究团队用两个步骤的程序教导机器人玩这个游戏。第一步，向电脑中输入人类玩数千局游戏的对话，让系统对协商所用的语言形成感知；第二步，让机器人运用强化学习的一种技术形式，打败柯洁的围棋机器人AlphaGo就是通过这样方式变强大。

      当两个运用强化学习的机器人一起玩游戏，它们最后再也没有用上人类可以识别的语句。Facebook 公司的研究人员在技术报告中这样描述：“我们发现，把两个机器人的参数全都更新造成背离人类语言。”

机器人A：“我能能我我所有其他事”。

机器人B：“球没有对我对我对我对我对我对我对我对我对。”

      必须告诉大家现实：这种语言的诞生并没有那么可怕。原本就不会说英语的两个机器人只是找到了更快捷的“语言”。毕竟对AI来说，“苹果”只是一长串描绘苹果的颜色、写法以及其他水果关系的“代码”。它们语序混乱的对话乍一看让人摸不到头脑，但我们可以完全可以通过反推，明白它的“思考”过程。

      正如Facebook研究人员所说，对话系统出现故障是因为“没有针对英语语言的奖励机制”。这一奖励机制正是研究人员用来规范机器自主学习方向，获得想要的深度学习结果的手段。Facebook原本想要一个说英语的AI，没想到它偷懒跑偏。于是他们重新设计了训练机制，保证机器人一直使用可识别的语言。媒体就对这一改变添油加醋，炮制了引发担忧的头条。

     实际上，这应该是一个小题大做的事情，在模型训练不完善的时候对话，会有类似的情况出现。任何对话加上生成对抗网络，再做一些语言价值预设作为反馈逻辑，很容易出现这种情况。说到底，这就是个技术失误，听起来非常危言耸听，好像 AI 像科幻电影里一样，已经开始“淘汰人类”了，但机器只是机器，它们不过是设定好的程序，你见过哪个程序员用英语写程序的？

     其实，在人工智能屡屡成为热门事件的今天，人们在面对相关事件时其实夹杂着一点“对科幻的向往”，无论是《终结者》里的“天网”，还是《生化危机》里的“红皇后”，这些科幻故事中的机器反派往往叫人又爱又恨，在听故事之后，人们往往有一种科幻成真的幻想情节，如果现实中出现了天网会怎样？

     人们在对待人工智能的问题时，似乎会不由自主去放大。对大多数人来说，我们都希望人工智能取得突破性的发展来进一步解放人类的初级劳动，但对之寄予厚望的同时，我们也应该多了解一下人工智能行业内真实的科技发展情况，没有哪一项技术能在一夜之间取得全方面的突破，这一点是我们必须认清的。

     人工智能近几年在商业上的发展是爆发性的，但在技术层面上，人工智能还在按部就班地原速进步着，我们没有必要因为新闻里故作玄虚的“人工故障”而惊讶不已。

科技有情怀

狼与企鹅互撕，争的是你的隐私？

@杨宇良

       作者简介：“85前”，京津冀合作产品，非典型处女座，职业经历横跨科技、影视、互联网，曾担任CCID科技记者、芒果编导、豆瓣电影编辑。《电脑报》《金融博览》特邀作者。

      8月4日，《华尔街日报》发表名为《华为和腾讯陷入用户数据之争 后者要求政府介入》的报道。报道称华为荣耀Magic智能手机正在收集用户活动信息，以打造其人工智能功能，应用场景包括，基于用户短信内容推荐餐厅。而争议点在于，华为收集了微信的的聊天信息。这让腾讯出离愤怒，想从我的地盘抢数据？首富第一个不服。怎么办呢？腾讯选择抱大腿，让工信部发话，制裁华为。而华为方面在更早之前曾发给《华尔街日报》的一则声明中称，所有用户数据都属于用户，而不属于微信或是荣耀Magic，华为也仅在用户通过手机设置予以授权的情况下收集用户活动信息。所以，对不起，老子没有犯规。

     有法律界人士表示，如果华为在授权条款中写明类似可以收集用户使用本手机产生的各种信息，那么按照现行法规，获取用户自身信息有一定合法基础。换句话说，聊天信息，微信只提供平台，内容是用户创造的，所以所有权在用户，后者有权处置。不过，立马就有大数据专家跳出来反驳称，6月1日颁布的《网络安全法》提出厂商收集、使用个人数据要遵循“合法、正当、必要”原则。如何证明华为收集信息是为了改善手机性能，还是为了自家增值服务赚取利润，这一点值得怀疑。而且微信为个人隐私，点对点的私人通信，应按照《电信和互联网用户个人信息保护规定》严格执行，否则造成泄密，最终还是用户遭殃。越俎代庖

     从阿里顺丰到华为腾讯，数据之争愈发升级，体现出移动互联网时代到人工智能时代的显著趋势。而在巨头角力的同时，用户自身权益谁来保障，成为了最值得探讨的问题。现在的数据，特别是隐私数据，是用户的私有财产，不可侵犯。更不应该被绑架， 或者越俎代庖。假如我在公用电话亭给朋友打了个电话，公用电话亭的老板能说你们的通话内容归我管辖么？所以，微信主张的权力有待商榷。同样，那个电话的生产商也不能说，你用了我的电话，那么你们的通话内容，也就为我所用，升级电话，华为这手也伸得有点长。拜托，发言权应该在用户。这时候，作为监管部门的工信部，是不是应该适时发声，明确对个人数据获取和使用的规定细则呢？但是，据知情人透露，工信部选择了缄默，希望腾讯与华为自行磋商解决。这种暧昧的态度，可以视为不作为。

     那么，究竟应该如何看待华为腾讯数据之争呢？此前，华为多款手机的指纹识别一直未支持微信支付。对此，华为的说法是“因为华为坚持指纹识别数据只能存储在手机上，而微信希望手机厂商向微信上传指纹识别数据。”这种分歧导致华为多款手机的指纹识别一直未支持微信支付。可见，这次微信强势反击，也算是一报还一报。如果再算上今年4月，苹果与微信互撕，最终导致微信关闭了iOS端的赞赏功能。6月，腾讯手机管家起诉OPPO强制用户只能在后者应用商店内下载应用。可见，争端无处不在。当今手机app全都要求用户授权，比如手机识别码，安装应用清单，地理位置，读取、发送短信，拨打电话，读取通讯录等，从而帮助做营销推广。而手机厂商方面，同样渴求利用这些数据可以更好的做出差别化的服务。因此两者存在利益争端，都想代替用户掌握主动权。这被《哈佛商业评论》生动地描绘为反垄断的新战场。因为人工智能时代，用户画像、算法迭代、体验升级，无一例外，靠的是大数据，而且是优质的大数据。越精准，越智能，越贴心，越能提高用户的粘性与忠诚度。而科技巨头拼的就是这个抢先卡位。在这方面领域被打破，疆界变模糊，博弈更激烈，全球数十亿用户都在网中央。

     要隐私还是要安全，成为用户最纠结的命题。这是个悖论，但是选择权应该在用户。不过，很多用户在授权时并不会认真阅读条款，给了厂商机会过度索取权限，甚至带来安全隐患。除了企业自律，行业自律之外，缺失的法律法规和严格监管，才是解决争端的重中之重。在美国，无论华为还是腾讯，这种套路根本行不通，因为个人隐私是美国人的核心价值之一。你私闯民宅，我都可以开枪射杀，保护自身安全。更何况你要从我的手机里拿走隐私，开什么玩笑。所以，我们看到《华尔街日报》作为美国媒体报道此事，而其他中国媒体只是跟从，这也反映了两国对用户隐私保护的差异。而从另一个角度来说，假如用户让渡了个人信息，期望改善智能体验。那么，当他想吃饭的时候，究竟是腾讯的美团大众点评，还是阿里的饿了么口碑来推荐，就成为了另一个入口之争。所以，对于巨头而言，数据背后还是利益，这个用户让渡的权力，究竟是在手机厂商手里，还是互联网巨头手里，将直接决定了未来的垄断版图，所以这才是华为腾讯争主导权的意义。