搜狐首页 科技 催眠师

手机搜狐

SOHU.COM

打开潘多拉的盒 子 人类的一切在人工智能监视下

我们在享受着数据的便利。淘宝能够依据我们的个人数据推荐最合适的商品;餐厅能够根据我们的喜好推荐最合适的菜单;医生可以根据我们的历史病历数据来得到更准确的诊断;连家里的智能温度系统知道我们回家了都会把温度调整到最适宜的状态。

电影《1984》

在《1984》里,电子屏无处不在。老大哥依靠这个监视着每个人。如今的城市里,公共场合摄像头也是无处不在的,虽然目的不是为了监视我们,但至少提供了监视我们的途径。

数据将通过三个途径变得更加完善:

一、主动提供。

既然要有个性化推荐,既然我们要享受其它各种大数据带来的福利,那么我们就要提供很多个人的信息和数据。你可能没注意很多软件注册时的声明,但在读下这些文字时,你估计已经默认同意过几十个甚至上百个产品的隐私协议了,这些协议确保他们能够合法获取你的各种信息和数据。(凯文·凯利在《必然》中说过,人们总会为了享受服务而放弃部分隐私。)

二、被动监视。

智能设备在逐步变多,也就意味着摄像头、各种传感器和监视器都变得多了起来。当你家里布满各种各样的智能设备、或者你身上在用各种设备,并且它们都接入了互联网时,它们也就同时带来了泄露你各种隐私的风险。

三、间接收集。

科技进步使得很多过去在档案里、在纸质手册里的很多信息得以电子化。我们在医院的病历数据,在公安局的登记数据,在学校的教育数据,在公司的工作数据,在银行的信用数据,原本只是在限定的时空里存储,现在则会存入联网的数据库。迟迟没有破案的白银连环杀人案,就是因为公安局的 DNA 检测能够联网匹配,在 Y-STR 数据库里发现了凶手的堂叔。

由于这些变化,我们的数据逐步变得完整。这些数据,迟早可以描述我们每个人(就像《黑镜》第 2 季第 1 集里所讲的那样,死者的社交信息已经可以重塑他本人了),并且实时、动态地「监视」我们每个人。

这些数据如果被滥用,后果不堪设想。

如果被政府滥用,那就是像《1984》里描述的那种场景。我们所见到的每个摄像头、每块屏幕都是监视器,我们所拨出的每个电话、发的每条消息都被窃听。

苹果的经典广告里,拿着锤子的女模特击碎了老大哥的屏幕。而现在,苹果变成了新的老大哥,拥有全世界无数用户的个人信息。好在他们暂时还没有向政府妥协。

除了提供给政府,还有种可能是数据库的泄露。这样的事情发生过不止一次两次了,经常有账号密码泄露,就有大量的用户隐私被传出,有些非常严重。

这世界上不会存在完美的安全措施。互联网的地下世界有着无数黑客,他们可以来去无踪地搞到这些数据(可以阅读 中国黑客传说),不留任何痕迹。

科幻短剧《黑镜》

科幻短剧《黑镜》第 3 季第 3 集讲的就是主人公和其他几个人被人盗取了隐私数据,被抓住了把柄所以言听计从、毫无还手之力,结局凄惨。

主人公收到的短信里,对方让他打开定位、保持开机状态,就能了解他的位置信息,从而威胁和操纵他。

迟早有一天,我们每天的一举一动,都能够记录在案。我们买了什么、吃了什么、用了什么、看了什么......想成为老大哥的人只要技术到家,都会有办法都获取到。

除此之外,在某些人工智能技术足够成熟后,数据可能有更重要的意义。目前的数据也许只是个人用途,但未来的数据可能是社会性的,比如交通数据、金融数据或者军事数据。

万一这些数据被人窃取甚至操纵,那后果不堪设想。就像一个连环杀人案,凶手的 DNA 在数据库里被人修改掉,那无辜的人就可能被当做杀人犯;或者有的人病历数据被恶意改掉,结果医生开了对他来说可能会过敏致死的药......

未来的智能交通系统、医疗系统,在工厂里的各种智能机械......但凡是有杀人放火能力的,并且在依照我们设定的数据按部就班工作的智能系统,都有可能因为数据篡改而造成天灾人祸。

《黑镜》第 3 季第 6 集里,原本用来维持生态平衡的电子蜜蜂被人修改了智能模块的数据,变成了可怕的杀人凶器。

精选