收藏本页 打印 放大 缩小
0

AI的伦理

发布时间:2020-03-02 08:29:35    作者:    来源:中国银行保险报网

□实习记者 许予朋

欧盟委员会日前在布鲁塞尔发布《人工智能白皮书》,旨在促进欧洲在人工智能领域创新能力及推动可信赖人工智能的发展。一方面,白皮书表示,欧洲将大幅提高人工智能研究和创新领域投资水平,未来10年中,将每年在欧盟吸引200亿欧元的AI技术研发和应用资金。另一方面,白皮书也指出人工智能可能产生的重大风险,例如造成伤害、死亡或重大物质或非物质损失等。

事实上,欧洲是最早开始从理论层面研究人工智能与人的边界问题的。18世纪,德国哲学家莱布尼茨曾设想,人类的各种感觉可以转化为量化的信息数据。

1956年,在达特茅斯学院召开的研讨会上,科学家约翰·麦卡锡第一次在学术范围内使用“人工智能”(AI)的名称,并将其作为一个新的研究方向。随着人工智能的发展,对于人工智能伦理的研究也应运而生,检验或制约着其在现实层面的应用。

麦卡锡思考的是,如何将人类的各种感觉,包括视觉、听觉、触觉,甚至大脑的思考都变成计算机意义上的“信息”,并加以控制和应用。初级阶段人工智能的发展,在很大程度上还是对人类行为的模拟。正如南京大学哲学系教授蓝江在《人工智能的伦理挑战》一文中指出的那样,“将人类的各种感觉经验和思维经验看成一个复杂的形式符号系统,如果具有强大的信息采集能力和数据分析能力,就能完整地模拟出人类的感觉和思维。”。

但是,一些科学家很快意识到,人类的思维具有一定的定势和短板,如果人工智能是用来解决某些实际问题,它们也许根本不需要让自己经过人类思维这个中介,再去思考和解决问题。机器学习的概念,即“智能增强”(简称IA),就是在这样的思考中应运而生。

机器学习,即通过海量的信息和数据收集,让机器从这些信息中提出自己的抽象观念。比如自动驾驶技术就是一种典型的智能增强技术。自动驾驶技术的实现,不仅是在汽车上安装了自动驾驶的程序,还需要采集大量的地图地貌信息,需要自动驾驶的程序能够在影像资料上判断一些移动的偶然性因素。这项技术之所以能够取代容易疲劳和分心的驾驶员,就在于它们不关心如何更像人类,而是关心如何用自己的方式来解决问题。如今,智能增强技术已被逐渐应用于汽车、能源、金融、消费等领域,大大提升了一些产业的效率与安全性。但人工智能、智能增强技术高速发展带来的数据泄露、信息垄断、侵犯隐私、失业等隐患,仍使对人权问题颇为敏感的欧盟带有顾虑。

笔者注意到,此次欧盟按下人工智能发展 “快进键”的同时,仍然为行业设下了很高的门槛,希望通过制定更加严格的规范,特别要在消费者保护、防止不公平商业竞争、保护个人数据等方面加强立法和管理,最大限度减小人工智能应用风险。

2016年,微软集团CEO纳德拉提出AI安全6大准则,即公平、可靠和安全、隐私和保障、包容、透明、责任,似能够为各大企业在发展人工智能的同时,提供增强其安全性、合理性的范式。笔者注意到,微软内部还建立了人工智能伦理委员会(AETHER),旨在考虑开发部署在公司云上的新决策算法。无论技术如何发展,我们建立世界的框架仍是“以人为本”,行业应聚焦在如何利用智能机器来弥补人类思维上的不足,同时也应注意不能让技术侵犯人的隐私、尊严。


AI的伦理

来源:中国银行保险报网  时间:2020-03-02

□实习记者 许予朋

欧盟委员会日前在布鲁塞尔发布《人工智能白皮书》,旨在促进欧洲在人工智能领域创新能力及推动可信赖人工智能的发展。一方面,白皮书表示,欧洲将大幅提高人工智能研究和创新领域投资水平,未来10年中,将每年在欧盟吸引200亿欧元的AI技术研发和应用资金。另一方面,白皮书也指出人工智能可能产生的重大风险,例如造成伤害、死亡或重大物质或非物质损失等。

事实上,欧洲是最早开始从理论层面研究人工智能与人的边界问题的。18世纪,德国哲学家莱布尼茨曾设想,人类的各种感觉可以转化为量化的信息数据。

1956年,在达特茅斯学院召开的研讨会上,科学家约翰·麦卡锡第一次在学术范围内使用“人工智能”(AI)的名称,并将其作为一个新的研究方向。随着人工智能的发展,对于人工智能伦理的研究也应运而生,检验或制约着其在现实层面的应用。

麦卡锡思考的是,如何将人类的各种感觉,包括视觉、听觉、触觉,甚至大脑的思考都变成计算机意义上的“信息”,并加以控制和应用。初级阶段人工智能的发展,在很大程度上还是对人类行为的模拟。正如南京大学哲学系教授蓝江在《人工智能的伦理挑战》一文中指出的那样,“将人类的各种感觉经验和思维经验看成一个复杂的形式符号系统,如果具有强大的信息采集能力和数据分析能力,就能完整地模拟出人类的感觉和思维。”。

但是,一些科学家很快意识到,人类的思维具有一定的定势和短板,如果人工智能是用来解决某些实际问题,它们也许根本不需要让自己经过人类思维这个中介,再去思考和解决问题。机器学习的概念,即“智能增强”(简称IA),就是在这样的思考中应运而生。

机器学习,即通过海量的信息和数据收集,让机器从这些信息中提出自己的抽象观念。比如自动驾驶技术就是一种典型的智能增强技术。自动驾驶技术的实现,不仅是在汽车上安装了自动驾驶的程序,还需要采集大量的地图地貌信息,需要自动驾驶的程序能够在影像资料上判断一些移动的偶然性因素。这项技术之所以能够取代容易疲劳和分心的驾驶员,就在于它们不关心如何更像人类,而是关心如何用自己的方式来解决问题。如今,智能增强技术已被逐渐应用于汽车、能源、金融、消费等领域,大大提升了一些产业的效率与安全性。但人工智能、智能增强技术高速发展带来的数据泄露、信息垄断、侵犯隐私、失业等隐患,仍使对人权问题颇为敏感的欧盟带有顾虑。

笔者注意到,此次欧盟按下人工智能发展 “快进键”的同时,仍然为行业设下了很高的门槛,希望通过制定更加严格的规范,特别要在消费者保护、防止不公平商业竞争、保护个人数据等方面加强立法和管理,最大限度减小人工智能应用风险。

2016年,微软集团CEO纳德拉提出AI安全6大准则,即公平、可靠和安全、隐私和保障、包容、透明、责任,似能够为各大企业在发展人工智能的同时,提供增强其安全性、合理性的范式。笔者注意到,微软内部还建立了人工智能伦理委员会(AETHER),旨在考虑开发部署在公司云上的新决策算法。无论技术如何发展,我们建立世界的框架仍是“以人为本”,行业应聚焦在如何利用智能机器来弥补人类思维上的不足,同时也应注意不能让技术侵犯人的隐私、尊严。

未经许可 不得转载 Copyright© 2000-2019
中国银行保险报 All Rights Reserved