还敢用语音助手吗?苹果、微软、亚马逊和谷歌都在窃听隐私

摘要:最重要的是,数据必须经过脱敏处理才能被用于分析。假如像这些反例一样,能通过数据反向追踪到具体的用户,那就不叫分析数据,而叫泄漏隐私。

图片 1

图片 2

=用过Siri的朋友们,告诉你们一个不幸的消息:

划重点:亚马逊、谷歌、苹果和微软先后被曝出录音监听丑闻,看起来,录音监听似乎已是科技巨头的标配。

“随着大数据技术的持续发展,人们越来越依赖互联网进行社交、学习、求职等活动,加之近些年各类App的盛行不衰,人们一边享受着便捷生活的同时,一边也在网络空间中自我披露或泄露个人隐私”,人民网此前发表的一篇文章中,强调了隐私泄露的普遍性。

你们夜间的啪啪啪和嘿嘿嘿

随着AI语音技术及相关产品的发展,智能音箱、语音助手服务等已经成为主流的应用。这些产品在我们的生活中扮演着越来越重要的角色,与此同时,个人信息被泄露的风险也相应增大。

“随着大数据技术的持续发展,人们越来越依赖互联网进行社交、学习、求职等活动,加之近些年各类App的盛行不衰,人们一边享受着便捷生活的同时,一边也在网络空间中自我披露或泄露个人隐私”,人民网此前发表的一篇文章中,强调了隐私泄露的普遍性。

早就已经被人偷听过了

本期导览:

但相比于消费者的不自觉泄露隐私行为,那些向消费者提供软件或服务的公司涉嫌主动窃取/隐瞒用户隐私泄露行为,无疑更令人感到担忧——特别是伴随着人工智能时代的到来,越来越多AI服务与用户的交集越来越多,但却偷偷拿走了用户的个人隐私而不为消费者所知,让人细思极恐!

外媒《卫报》前一阵子报导,苹果会定期把Siri的录音拿给第三方进行人工分析。

Hey Siri,你在窃听我吗?

美五大科技巨头承认监听用户

你没看错,人工。Siri偷偷把你的秘密录下来以后,苹果转手就把这些秘密交给了一群活生生的人。

Alexa,你在窃听我吗?

就在前段时间,语音隐私泄露成为消费者的关注焦点,堪称人工智能发展的“至暗时刻”!原来,微软、谷歌、亚马逊和苹果这四大科技巨头推出的语音助手都涉嫌偷听用户隐私,引发渲染大波;不仅如此,另一家美国科技巨头Facebook同样爆出了语音隐私泄露丑闻——该公司正收集用户的语音录音,并雇佣外部承包商,将Messenger录下的用户对话人工转录成文字,目的是用作AI学习对比的基础。

那么第三方通常会听到什么内容呢?

Okay Google,你在窃听我吗?

值得一提的是,微软谷歌亚马逊和苹果所表达的观点类似,亦即收集数据只是用于改善AI识别技术,以为用户提供更好的服务:如微软在隐私问题曝光后,修改了隐私条款和相关内容,承认员工和供应商会收听Skype和Cortana的语音数据和录音,来改善微软产品和服务的语音识别、翻译、意图理解等功能;苹果此前也回应称,Siri的一小部分请求被拿来做分析,以改善Siri的能力;至于谷歌和亚马逊,同样承认审查并转录一小组查询数据,以更好地理解这些语言。

刚上完厕所畅快拉拉链的声音、病人和医生之间的私密医疗信息、违法的毒品交易、甚至还有每晚的活塞运动

Cortana,你在监听我吗?

泄密事件影响的人群巨大

假如你也常用Siri,而且很担心自己成为被窃听的样本的话,我只能安慰你一句:你不是一个人。

监听背后:人工智能与隐私保护

值得一提的是,除了人工智能发展遭遇不确定性,五大科技巨头的隐私泄露行为影响到的人群范围也十分广泛。Siri泄密将影响大部分苹果设备,特别是iPhone、Apple
Watch和HomePod,涉及录音发生的位置、联系方式和APP应用数据,以及医疗、毒品交易和性行为等机密信息,考虑到iPhone和Apple
Watch的出货量,危害确实不容忽视。

虽然苹果澄清录音的比例只有少于1%,但全球的iPhone用户少说也有7亿,所以你懂的。


受亚马逊Alexa和谷歌助手影响最大的设备,当属智能音箱产品了:Strategy
Analytics发布的数据显示,2019年Q2智能音箱的全球销量持续飙升,达到3030万台,其中亚马逊和谷歌分别位居一二,各拥有21.9%和18.5%份额,考虑到“亚马逊Alexa和谷歌助手将分别建立超过1亿的强大的智能音箱全球用户基础”,影响同样不容小觑。

心大一点的人也许会觉得没啥,不就听个响吗,他们又不知道我是谁。

Hey Siri,你在窃听我吗?

至于Facebook方面,其Messenger月活跃用户数已超过13亿人,且每月有4.1亿用户在Messenger上进行视频聊天,收集用户语音这一行为带来的危害同样非常高;而微软Cortana和Skype虽然近些年发展不够理想,但用户规模同样不小,有相当多用户成为了受害者。

谁说不知道?

事件:2019年8月初,苹果外包公司员工向英国《卫报》爆料称,Siri会对人们的隐私活动进行录音,并将音频发送给评估师进行评估。录音中的谈话内容和其他声音清晰可听,附带有用户数据,包括录音发生的位置、联系方式和APP应用数据,甚至有可能会带有名字。此外,爆料人还提到,这些敏感信息并没有具体的程序来处理,或者说没有具体的流程来保护这些极为敏感的个人信息。工作人员如何收听这些录音、使用这些信息,也没有具体的限制。无论是向外分发还是自己存档,苹果都没有很明确告知用户。

在隐私泄密事件爆发后,苹果、谷歌和Facebook选择了暂停语音人工审查,亚马逊并没有选择取消人工审核,而是将是否开启人工审核的选择权交到用户手中,微软则是前文提到的,选择更新隐私政策,声明人类可能正在收听Cortana和Skype
Translator的音频。

被采集的录音通常会附有显示位置、联系方式还有应用程序中的用户数据。有了这些数据,离上门找你也就只有一个滴滴打车的距离。

回应:对于上述指控,苹果在第一时间回应到,用户被录音的比例仅占Siri的1%,并且每段录音仅持续了几秒;回传的录音与用户的苹果ID没有关联,录音会在安全的环境下分析;所有审核人员都有义务遵守严格的保密要求。苹果还表示,录音发给国际承包商进行人工分析的目的是改善Siri的服务质量。苹果试图以“数据脱敏”和“改善服务”的理由换得外界谅解。

隐私保护确实正越来越难

但先别急着骂苹果垃圾,因为其他搭载了语音助手的公司也不咋干净。

Alexa,你在窃听我吗?

毫无疑问,不少厂商在涉及隐私问题时选择了妥协,既有出于品牌影响力的考量,也有为保证产品和技术覆盖更广阔的人群,但考虑到苹果曾打出“Phone上发生的事将只留在iPhone上”的隐私广告,以及AI语音识别和其相关技术揭露的隐私问题严重性,这么做能否起到效果还有待观察。

先来看看苹果最强劲的竞争对手巨硬微软。

事件:今年4月,据彭博社报道,多名知情人士透露,亚马逊在全球雇佣有数千名员工,以帮助改进为其Echo智能音箱提供支持的数字助手Alexa。曝光资料显示,发送给Alexa审计员的录音与账号、用户名和设备序列号相关。知情人士说,这个团队由承包商和全职亚马逊员工组成,他们在波士顿、哥斯达黎加、印度和罗马尼亚等地工作。这些研究人员被曝可在Echo主人家里和办公室里监听他们的对话,并进行录音。

但我们也不可否认,伴随着大数据时代到来以及厂商对AI愈发重视,想要切实保护隐私越来越困难,毕竟AI发展确实难以离开大数据支持,再加上我们的生活正越来越数据化,隐私问题更得提上日程。

本着苹果有啥我也要有啥的原则,微软也把旗下通讯软件Skype中的电话录音和语音助手Cortana的语音命令发给了第三方承包商。

回应:亚马逊表示,此举是为了消除Alexa对人类语言理解的空白,帮助它更好地响应命令。发言人在电子邮件声明中表示:“我们认真对待客户个人信息的安全和隐私,为了改善客户体验,我们只标注了一小部分Alexa语音录音样本,它们可以帮助我们训练语音识别和自然语言理解系统,因此Alexa可以更好地理解用户的请求,并确保服务对每个人都有效。我们有严格的技术和操作保障措施,对滥用我们的系统采取零容忍政策。员工不能直接访问带有标识的信息,所有信息都被高度保密。”

作为对比,互联网时代的隐私问题就与AI时代类似:谷歌凭借搜索引擎崛起过程中,就没少涉及隐私问题,而在经过行业的科普、厂商改进以及用户熟悉后,一方面大家提高了保护隐私的意识,一方面是了解到厂商做法,隐私问题得到了较好抑制。

和苹果一样,录音内容里也收藏了部分用户的深♂度♂交♂流♂过程,而且甚至有用户在录音里直接透露了具体的家庭地址。

Okay Google,你在窃听我吗?

我们认为,人工智能时代的隐私同样会经历这样一个过程,即用户提高认知及行业参与者达成共识和保证“透明度”,而现阶段五大巨头的隐私事件爆发就是一个很好的开始,将推动行业组织以及厂商共同努力,进一步完善相关政策与做法,但最终人工智能时代的隐私保护会让用户感到满意吗?恐怕很有很长一段路要走!

你知道,语音助手是可以被语音唤醒的,但你不知道的是,有时即使我们没说唤醒词,机器判断错误,也会自动开始聆听。

事件:谷歌紧随亚马逊之后。据TechCrunch报道,谷歌会将一小部分语音助手的录音外包给承包商进行人工分析,以训练人工智能的准确性。一名分析荷兰语录音的承包商员工,将1000份录音爆料给了比利时公共广播公司。据称,在这些录音中能够听到人们的地址、对医疗问题的讨论以及女性遇险的声音,而且能够识别出录音中的人。

写在最后

所以,一不小心录到一些18禁的声音,也是在所难免

回应:谷歌在7月11日的一篇博客文章中,承认其会雇佣人工来分析一小部分的录音。谷歌还表示,其不会在分析过程中将录音和用户账户相关联,雇佣的语言专家只会对录音中约0.2%的内容进行人工分析,以便更好地理解不同的语言、口音和方言。“这是构建语音技术过程的关键部分,对于创新像谷歌语音助手这样的产品是必要的一步。”

不过在笔者看来,人工智能时代或许将像互联网时代一样,用户很难保有全部的个人隐私,不知你是否赞成这一观点?毕竟想要让语音助手等AI服务提供媲美真人的体验,就需要各式各样的数据来作为食材,很难避免用户隐私被侵犯的可能性,这时候我们或许更希望厂商很早就告知可能性,而非让用户被蒙在鼓中。

想象一下,世界上某个地方,正有人津津有味地听着你每天活色生香的直播,而这一切,你并不知情。

Cortana,你在监听我吗?

而这也就带来了一个令人非常好奇地问题,用户想要的到底是“透明度”?还是更严格的遏制方法?这又是否会导致技术难以向前发展,进而导致用户难以享受便利的AI体验?欢迎大家留言评论。

和这些搞颜色的录音相比,亚马逊的Alexa监听事件显得正直得多。

事件:微软也没落下。据美国新闻网站Vice报道,微软外包商会监听Skype用户和Cortana用户录音。这些音频内容包括情侣之间的亲密交谈、谈论的减肥等私人问题。微软向外包商提供一段音频时,他们还会收到一系列由Skype翻译系统生成的内容。随后,外包商从中选择最准确的翻译内容,或提供自己的翻译。但据Vice报道,尽管这些信息很敏感,但外包商当中却有部分员工在家里收听、处理Skype和Cortana的音频,而这并不是很安全的处理环境。

就在去年,一位德国用户要求亚马逊开放自己个人云端语音数据时,却收到了一份和他完全无关的Alexa语音文件录音,足足有1700多条、100MB之多。

回应:微软称其仅通过安全的在线门户网站向外包商提供音频数据,公司会采取相应措施删除用户或设备识别号码等个人识别信息。发言人则称,“微软收集语音数据是为了提供、改进语音服务,比如搜索、语音命令、听写或翻译服务。我们努力在收集和使用语音数据方面做到透明,以确保客户明晰选择何时以及如何使用他们的语音数据。在收集和使用客户的语音数据之前,微软会得到客户的许可。”

我们可以从这份录音里完全看到录音主人公的生活轨迹:Alexa语音助手的重度使用者、家里有Echo音箱、有一个女朋友经常和他讲话

截图来自电影《银翼杀手2049》(Blade Runner 2049)

甚至,相关杂志仅仅通过这份录音就找到了数据泄露的可怜蛋,隐私在大数据面前简直无所遁形。

此时此刻,我们在触碰AI;而在科幻对未来的想象中,AI在触碰人类

无独有偶,使用Echo音箱的另一位女性用户也曾接到176英里外朋友的电话,被对方告知他的录音文件发送到了对方设备上。

监听背后:人工智能与隐私保护

我听见你们坐在那里讨论木地板,他的朋友这样告诉她,事实上这就是她当时和老公正在做的事情。

需要指出的是,微软的隐私政策并没有说明其中一些分析将由人工完成,这便与此前谷歌、亚马逊、苹果的监听丑闻十分类似,并且都涉及到语音助手。四家公司都宣称此举是为了提高语音助手的理解力。操作手法上,都聘用了外部承包商采用人工监听的方式,并称只用了少数语音片段。看起来,录音监听似乎已是科技巨头的标配。

这种隐私泄露听起来就让人脊背发凉。

亚马逊曾在广告词中介绍,“Alexa生活在云端,而且会变得越来越聪明”。实际上,这样“变聪明”的监督学习需要所谓
“人类智慧”
来训练算法,而大多数现代语音识别系统依赖于模仿人脑的神经网络,软件会通过海量数据进行机器学习,为智能音箱的算法提供可能性的模型。AI的深度学习是建立在大数据之上的。在使用深度学习AI的过程中,往往伴随着海量隐私数据泄露的风险。而前不久,便有多家国内APP被指监听用户手机,利用麦克风权限获取用户隐私,今日头条和百度等巨头,也纷纷“涉案”。

虽说搞出了这么大的事情,这些巨头公司的回应却出乎意料地统一:

而回看谷歌过去数年的隐私变迁历史,20 世纪 90
年代末的谷歌,彼时这家新兴企业所拥有的仅仅是搜索引擎。谷歌公司发布的第一份隐私政策,寥寥
600
余字就解释了其如何收集并使用用户的个人信息。然而,无论是互联网还是谷歌自身,都不可避免地迎来了新的发展阶段。在过去二十年当中,谷歌的隐私政策开始不断膨胀,如今,它需要使用
4000 字才能明确表述现有数据实践。

这都是为了改善语音助手的智能度。

对于AI技术的反思很多,而隐私保护是其中非常重要的一环。按照如今的AI发展速度,这个问题已经迫在眼前。人类不能简单地认为,智能系统可以照进生活的每一个角落,在这一图景与人类之间,仍隔着一层迷雾,迷雾里不仅有技术,也有伦理风险。如何在发展技术的同时建立起全新的法律法规、伦理框架,从而将收益提至最高、将风险降至最低,这是一个亟待解决的问题。

微软:用人工进行Skype翻译,可以改善算法本身。

谷歌CEO桑达尔·皮扎伊(Sundar
Pichai)曾公开表示,“隐私不应该成为一种奢侈品,不能只提供给有能力购买高端产品和服务的人。”没有人愿意生活在一个毫无隐私、处处被监视的世界,但随着AI语音技术的发展,你说过的每句话都可能正在被窃听,个人隐私面临着巨大的挑战,这一对于隐私泄露的担忧便成为了非常现实的存在。也许确实到了临门一脚的时刻,一如丘吉尔所说:“这不是结束的时刻,不是开端时刻的结束。或许,这只是结束时刻的开端。”

苹果:人工分析用于帮助Siri和听写,是为了更好地了解你。

来云猜,和大家一起聊聊吧

亚马逊:用人工团队听取录音,是为了消除Alexa对人类语言理解的空白,并帮助它更好地响应消费者的语音命令。

云猜,珍视每一个观点。

的确,假如我们要享受真正的智能,在前期必须要有大量的人力教会AI。

比如前面说到的误听,只有真人听过录音,修正系统,告诉AI这是你不该听的,才能不断提高AI们的灵敏度。

可是,作为用户,我们需要知情这些分析是在人工的条件下进行的。而上述这几个公司,在隐私声明中并没有明确告诉我们这一点。

最重要的是,数据必须经过脱敏处理才能被用于分析。假如像这些反例一样,能通过数据反向追踪到具体的用户,那就不叫分析数据,而叫泄漏隐私。

幸运的是,目前苹果已经叫停人工分析项目,其他几个巨头也先后停止了外包团队对录音的人工审核。

有人会说,你怕泄露隐私,可以不用这几个语音助手啊,那不就没人偷听你了。

那你有没有想过,为什么平时你和朋友谈论的物品会出现在你的淘宝推荐首页,即使你从来没有上网搜索过这个东西?

这个年头,会偷听的,从来不止你的Siri。

编辑:小声逼逼

设计:没设计

策划:没策划

合作联系:@onikuro

黑口袋老板娘

wechat:pknr1620

hello,忙了一天辛苦了!

现在打开黑口袋的你,下班了吗,喝酒了吗?

光喝酒有点单调,推荐一款巧克力,Venchi的75%鱼子酱巧克力,75%当然会略苦的,但更高的可可含量会更健康,剩下的25%也能突出巧克力的香甜和丝滑。

今晚呢,想推荐一部有点小意思的电影,《超人》的故事应该都很熟悉了,但如果在一个平行宇宙里,他降生在一个三观不一样的家庭,接受不一样的教育,最终一定是否会一定变成人类的英雄,这部电影提出了思考。

电影我已经发在朋友圈,高能预警:本片评分两级,部分情节会颠覆你对超级英雄的认知,斟酌收看。

加我的微信就能找到我,我会在朋友圈和大家聊骚,发福利,不定时拉有意思的群。

相关文章