人工智能威胁公开社会(第一篇)

2017-06-02 06:10:01

作者:连噬普

中国建立社会信用体系,根据数据进行演算,对人们进行评估。

晚上好,感谢各位光临。

我今晚的发言是要对全世界发出一个警告,一个前所未有的危险会威胁到开放社会的基本生存。

去年我在这里的讲话,主要是分析信息技术垄断会产生的恶果。那时我说过:“在专制国家和大数据丰富的信息技术垄断公司之间,正在形成一种联盟,这种联盟使新兴的企业监控系统与已经发展的国家资助的监控系统结合起来, 将导致形成一个甚至连乔治·奥威尔都无法想象的极权主义的监控网络。”

今晚我要提请大家注意开放社会面临的致命危险,即机器学习和人工智能可以被掌握在专制政权手中的控制手段。我重点讲中国,在那里习近平要使一党制的国家具有至高无上的统治权威。

自去年以来发生了很多事情, 我对中国的极权主义控制的形成也有了更多的了解。

每个人可能被获取的信息正在迅速扩展,所有这些信息将被整合到一个中央数据库中,以建立一个“社会信用体系”。

根据这些数据进行演算,对人们进行评估,以确定他们是否会对一党制国家构成威胁,并因此而区别对待。

命运属于国家利益

这一社会信用体系尚未完全投入运营,但其发展方向已很明显。它将以前所未有的方式将个人命运从属于一党制的国家利益。

我认为这种社会信用体系非常可怕和令人憎恶。不幸的是,有些中国人却认为这一制度颇具吸引力,因为它能提供目前尚无法提供的信息和服务,而且也可以保护守法公民免受国家敌人的侵害。

中国不是世界上唯一的专制国家,但它无疑是最富有,最强大,和在机器学习和人工智能方面最发达的独裁政权。这使得习近平成为信奉开放社会理念的人们最危险的敌手。但习近平不是绝无仅有。集权体制正在全世界迅速增生,一旦成功,就会成为极权主义国家。

作为开放社会基金会的创始人,我毕生致力于反对整体极端主义的意识形态,这些意识形态错误地宣称,目的可以证明手段的合理。我相信人们对自由的渴望不可能永远被压抑。但是我现在感到,开放社会目前面临严重威胁。

尤其令我感到不安的是,由人工智能开发的监控设施,使专制政体相对开放社会具有了先天内在的优势。对他们来说,监控设施是有用的工具; 而对开放社会来说,这构成了致命的威胁。

专制政权监控维权

我所说的“开放社会”是一种简称,这种社会是依法而治而不是由某一个个人来统治;国家的作用是保护人权和个人自由。我认为应该特别关注那些遭受歧视或社会排斥,以及无法自我保护的人们。

与此相反,专制政权使用所有监控手段维护自己的权力,并以牺牲他们所利用和压迫的人们为代价。

如果这些新技术可以为专制政权提供先天内在的优势,那么开放社会如何得到保护呢? 这是我最关心的问题,也应该是所有希望生活在开放社会中的人们所应关心思考的问题。

应规范监控设备商

开放社会需要对生产制造监控设施的公司进行规范,而专制政权却可以宣称它们是“国家领军企业”。这使得一些中国国有企业能够赶上甚至超越强大的跨国公司。

当然这不是我们当下应优先思考的唯一问题。比如人为的气候变化威胁着我们文明的基本生存。但开放社会所面临的结构性劣势一直是我优先思考的问题,愿在此与大家分享如何应对的一些想法。

我对此问题深切的关注来源于我个人的经历。

我1930年出生在匈牙利,是犹太人。当德国人占领匈牙利并开始将犹太人驱逐到灭绝营时,我才13岁。 非常幸运,我的父亲了解纳粹政权的性质,并为所有家庭成员以及其他一些犹太人安排了假身分证件和藏身之处,使我们大多数人幸免于难。

1944年是我人生经历的关键节点,使我很小就懂得了什么样的政治制度主宰一个国家有多么重要。当纳粹政权被苏联占领取代时,我尽快离开了匈牙利到英国避难。

在伦敦经济学院,受我的导师卡尔·波普尔的影响,形成了我的基本概念框架。当我在金融市场找到一份工作时,出乎意外地发现这一概念框架极为有用。

迷上政治慈善事业

这框架与和金融无关,但它是基于批判性的思维,使我能够分析出当时流行的指导机构投资理论的不足之处。我成了一名成功的对冲避险基金经理,我以是世界上酬薪最高的评论家而感到自豪。

设基金开启封闭社会

经营一家对冲基金压力很大。 当我为自己和家人赚到的钱多于我所需要的时候,我经历了一种中年危机。我为什要拼命去赚更多的钱?我反复深思,我真正关心在意的是什么,于是在1979年成立了开放社会基金会。我将其目标定义为,帮助开启封闭式社会,克服开放社会的不足,倡导批判性思考。

我最初致力于消弱南非的种族隔离制度,之后转向促使苏联体制的开放。我与匈牙利科学院建立了一个合资项目,是共产党控制的,但其代表暗中同情我的努力。这一项目的成功远远超出我的想象。我从此迷上了我所谓的“政治慈善事业”。那是在1984年。

接下来的几年里,我试图在匈牙利和其他共产党国家复制我的成功经验。在苏联邦阵营内包括苏联本身都相当不错,但是在中国则另当别论。

我最初在中国的努力看起来很有希望,是在共产党世界很受尊重的匈牙利经济学家们,与渴望学习匈牙利经验的中国新建的智库团队之间的交流互访。

提议中国复制匈牙利模式

在最初成功的基础上,我向智库的领导者陈一咨提议在中国复制匈牙利模式。陈得到了赵紫阳总理和他具有改革思想的政策秘书鲍彤的支持。1986年10月建立了名为中国基金会的合资项目。它不同于中国的任何其他机构,在书面上有完全的自主权。

鲍彤是这个项目的领导者。但是众多激进改革派的反对者联合起来攻击他。他们声称我是中央情报局的特务,要求内部安全机构对我进行调查。

赵紫阳为了自我保护,将陈一咨换成了一个对外安全警察部门的高官。这两个部门是平级的,不能互相干涉。

我同意了这一变更,因为我不太高兴陈一咨把过多的资助给了他自己研究所的成员,而且我对幕后的政治内斗不知情。但是中国基金会的申请者们很快意识到该组织已被政治警察控制,于是开始远离。当时没人有勇气告诉我这其中的缘由。

天安门事件留下污点

后来一个项目执行人在纽约拜访我,冒着对自己相当的风险告诉了我真相。此后不久赵紫阳被废黜,我以此为由关闭了基金会。这发生在89年天安门广场屠杀之前不久,因此给与基金会有关的人留下了一个“污点”。之后他们费了很大力气洗清自己,最后总算成功。

索罗斯
索罗斯基金管理公司及开放社会基金会主席

Project Syndicate版权所有

www.project-syndicate.org

广告

精彩推荐