Author

Topic: 人工智能与隐私保护 (Read 63 times)

newbie
Activity: 75
Merit: 0
January 06, 2018, 02:14:06 AM
#1
二十年前的1997年,深蓝多次击败顶级象棋大师,引发了全世界的巨大关注,人们对人工智能不断超越人类智慧的趋势既感到兴奋又感到担忧。人工智能在为人类社会作出巨大贡献的同时,会不会侵犯到人类的利益?这成了很多科学家、政治家和普通公众担忧的一件大事。
人工智能与隐私保护

于是,科普大师和科幻泰斗艾萨克•阿西莫夫的机器人三法则被广泛提及和讨论。第一法则:机器人不得伤害人类,或坐视人类受到伤害;第二法则:除非违背第一法则,机器人必须服从人类的命令;第三法则:在不违背第一及第二法则下,机器人必须保护自己。
人工智能与隐私保护

将机器人推广到人工智能后,这个“三法则”得到了普遍认同,甚至成为了人工智能的研发原则。
二十年过去了,阿尔法狗战胜了多个国际围棋大师,人们却普遍不再忧虑,而是非常乐见人工智能的完胜。
人工智能与隐私保护

人们的态度为什么会改变?并不是人工智能的潜在危害不存在了,而是人们早已经习以为常了。
这二十年来,随着移动互联网的蓬勃发展,所有的人都习惯了一个现状,那就是在信息社会中我们每个人都是透明的。
街道上密布的天眼监控摄像头记录着你所有的活动,在公安机关的监控大厅里,通过多个摄像头的联动,你的行走轨迹一览无余。
人工智能与隐私保护

出入机场、码头、车站,甚至开房的信息都被完整记录着,传统意义上的隐私已经不再成立。买房、买车、子女入学,你登记的个人信息早已经泄露,现在正处在诈骗犯的待用阶段。人们早已经适应了隐私权被逐渐剥夺的信息化社会,不适应又能如何呢?
但是,人工智能的本质是服务人类社会,而人类社会的核心价值就是“以人为本”。隐私权是人类亘古不变的基本权利,人工智能的发展不能以剥夺人类的基本权利为代价。恰恰相反,人工智能应该更好地保护人类的基本权利,其中就应该包括隐私权,这才是人工智能发展的正确方向。
在移动互联网时代,我们普通用户的信息可以分为两类,一类是身份认证信息,例如我们的用户名和登录密码,还有指纹虹膜等生物特征密码,另一类是我们的内容信息,例如订餐、打车、购物、租房等信息。
身份认证信息必须由用户本人绝对掌控,不能让渡给任何商家,甚至也不能让渡给政府,这应该是人工智能的一条铁律。
为什么这样说呢?因为在移动互联网时代,你的身份认证信息一旦泄露和被坏人利用,就可能遭受经济上的巨大损失,甚至可能危及到你的生命安全。如此重大的事项,绝不能相信任何组织机构和个人。
不仅不能相信他们的诚信,也不能相信他们的能力。近年来出现很多知名网站泄露用户身份认证信息的案件,这些企业是有诚信的,但防护能力不够,被黑客抄了家。
我们订餐、打车、购物、租房的内容信息呢?与身份认证信息不同,这部分信息就不能完全掌握在自己手里了,为了享受人工智能的服务,有时必须得让渡出去。
人工智能有智能感知、智能推理、智能学习、智能行动四个环节,而这些环节都是受数据驱动的,你不给它提供数据,它如何理解你的需求?又如何通过学习和推理为你提供精准的服务?
内容信息虽然必须得让渡,但也要坚持一个原则,那就是“数据统计结果归商家,个人信息所有权归自己”。
这是什么意思呢?举例来说,使用滴滴打车APP时,我们个人用车的车型、时段、路线、费用等信息会上传到滴滴公司的服务器,海量的信息形成了大数据,统计分析结果中蕴藏着巨大的商机和财富,这个统计结果归滴滴公司所有。
我们每个人都为这个统计结果贡献了九牛之一毛的数据,例如和平小区每月平均叫车量为500人次,住在和平小区的您为这个数据做了贡献,但您在和平小区叫车这个信息的所有权是您的,未经您的授权,滴滴分司不能使用。
有次我老婆用我的笔记本电脑搜衣服,隔天我去办公室指导学生,一打开电脑,浏览器就给我推送了大量蕾丝边女式内衣,还特别标明这是你可能感兴趣的商品,搞得我非常尴尬。
未经用户授权,商家不应该搜集用户的喜好习惯,即使收集了,那也只能用作统计分析的原始素材,而不应借此对用户进行精准营销,这违反了“个人信息未经授权不得利用”的原则,是人工智能的滥用。
谷歌发布了首款“谷歌制造”的Pixel手机,使用的是最新安卓操作系统 Nougat 7.1,更重要的是首次搭载了谷歌人工智能助手 Google Assistant ,而Google Assistant 就是手机人工智能的创新。谷歌的首席执行官 Sundar Pichai宣称,我们非常激动,能够在任何地点为每个人打造独特的谷歌。
但是质疑者认为,这种便利的代价是允许谷歌持续不断地获取用户的个人资料和偏好,使用户彻底失去隐私,从而成为透明人。
谷歌的这项人工智能是好是坏?这不能根据个人好恶来判定,肯定是有人喜欢有人反感,因此用户的授权就成为了关键。这个功能应该默认关闭的,当你明确知道会泄露隐私,但还是自愿做一个透明人以获得人工智能的帮助时,那就可以打开这个开关。
随着移动互联网的蓬勃发展,人们的透明化趋势不可逆转,但隐私权绝不能就此完全放弃。我的理念是:身份认证信息必须绝对自主掌控,个人偏好内容信息是否公开?这个选择权也应该交给用户本人。
人工智能方兴未艾,各企业的做法很不相同,在我接触过的企业之中比较认同华为的做法。首先在用户身份认证方面,华为将认证信息以密文的形式保存在自主研发的海思芯片的inSE之中,当互联网商需要身份认证时,就在CPU内部进行比对,然后送出yes或no的判定结果。因为华为拒绝向互联网商提供用户指纹信息,还发生过行业矛盾。
人工智能与隐私保护

有的网友可能会质疑,华为说身份认证信息封存在芯片中,那一定是真的吗?这种怀疑非常有道理,任何人都不能凭借个人的好恶而盲信任何一家企业,企业的本质都是逐利的,都不值得绝对信任。
那该信谁呢?我的建议是相信政府,有政府背书的就可以相信,说实话我起初也不相信华为朋友给我做的宣传,直到看到了央行和银联对海思960芯片的安全认证证书。
最近华为与腾讯因为荣耀Magic手机而起纠纷,大家都知道华为手机通常装EMUI系统,但这款手机装的却是Magic Live系统,有一些新奇的智能应用。
这款手机开启了智慧助手后,系统能自动识别短信和微信中的关键词,并根据手机所处的地点进行智能推荐。比如说当你在微信中讨论吃饭时,手机会给你推荐附近的好餐厅。如果不需要这个功能,把智慧助手关掉就可以了。
人工智能与隐私保护

腾讯对此非常不满,认为华为窃取了微信中的数据,并向工信部举报,要求处理华为。华为的说法是,荣耀Magic手机微信中的数据,既不属于华为,也不属于腾讯,而是属于用户,用户授权了智慧助手使用,这没毛病。工信部的回答是你们两家再商量商量吧。
荣耀的Magic Live与谷歌的Google Assistant都是手机人工智能的创新,但两者有本质的不同,谷歌的模式是“个人信息上传”,而荣耀的模式是“服务信息下潜”。
这是什么意思呢?简单说谷歌是把用户的个人喜好等信息上传到云端,谷歌了解到用户的喜好后,再提供精准的人工智能服务。
而荣耀是把所需的公共服务信息下潜到手机,由Magic Live打通各家APP的壁垒,对用户信息进行智能识别分析,然后提供精准服务。
其实就是华为在你的手机里放了一个私人秘书,它获取你的个人信息并提供精准服务,但它并不向华为报告,这一些都是在您手机内部进行的。而且这个功能是默认关闭的,除非你授权开启,否则它并不工作。
除了谷歌和华为,苹果也有类似的手机人工智能服务,苹果采用的是跟荣耀同样的“服务信息下潜”模式,并不上传用户个人信息。
为什么拿华为来说事,这是因为荣耀Magic手机开启了国内手机人工智能的先河,打破了各家APP的壁垒对数据进行了重新整合,这个举动是对APP商家利益的重大打击,现在只是风波乍起,角力还在后面,这是值得所有人关注的大事件。
人工智能与隐私保护

对比谷歌和苹果来看,华为把用户认证信息封存在芯片inSE区的做法,与苹果的trust zone类似,不上传用户信息的服务信息下潜模式,也与苹果一致,而谷歌的做法相对更加激进。
人工智能是个大趋势,它会给我们带来更加精准的服务,但由于受用户提供的数据所驱动,客观上会影响到我们的个人隐私,这是个两难的取舍问题。
手机人工智能现在处于摸索阶段,各个商家的做法不同,每个人的想法也不同。既作为行业内行又作为普通用户,我有一个手机人工智能三原则:用户认证信息必须绝对自主掌控,内容信息上传的决定权在用户本人,未经用户授权任何商家不得利用。
Jump to: