中国作家协会主管

从左至右：《人工智能：驯服赛维坦》《人工智能伦理引论》《人类未来》。均出版社供图

刚刚结束的2020世界人工智能大会上，包括7位图灵奖得主、1位诺贝尔奖得主、62位中外顶级院士在内的550余位嘉宾探讨了人工智能技术的未来。伴随着人工智能的高速发展，与伦理、责任相关的问题亦浮出水面。近期，上海交通大学出版社集中推出了《人工智能伦理引论》《人类未来》《人工智能：驯服赛维坦》等一批与AI相关新书，从道德伦理层面上探讨了人工智能与人类的未来，并提出：人工智能的发展，人文社科学者和思想家们不能缺席。

根据分析报告，到2030年，全球得益于人工智能推动的经济增长将高达15.7万亿美元，而中国将占7万亿美元。人工智能在教育、医疗、居家、养老、交通等方方面面都将极大地提高人类生活质量，势必带来一场前所未见的科技和产业革命。但同时，也有不少人对人工智能技术发展可能带来的问题忧心忡忡。

人工智能实现后，它们会接受人类的道德观念，还是发展出自己的道德观？未来的人类如何与具备自主思维能力的人工智能相处？人类会与具备情感能力的机器人结为伴侣吗？老人死后会把遗产留给一直在身边照顾自己的智慧机器人吗？在新出版的《人工智能伦理引论》一书中，上海交通大学杜严勇教授对人工智能可能带来的问题进行了深入思考。他从机器人权利、机器人道德能力的建构以及人工智能安全问题等着手，提出了人工智能伦理问题的解决进路，包括道德责任、伦理设计、自反性伦理治理等内容，探讨人工智能为什么发展以及怎样才算是理想发展的问题。这是目前国内较为全面且深入阐述人工智能伦理学意义和实操案例的著作。

“要应对全球威胁，需要更多的技术，但这些技术需要社会学和伦理道德的引导。”曾任剑桥大学三一学院院长和天文研究所所长的英国皇家天文学家马丁·里斯在《人类未来》一书如是强调。马丁·里斯虽然乐观预测了人类运用科学技术修复受伤的星球、改善生活状况的前景，但同时 “谨以科学家、同时也是人类中的一名焦虑者的身份”去讨论未来人类可能面对的问题。例如，随着计算机技术、人工智能、生物技术等的发展，如若“插入”扩展记忆或将语言技能直接输入大脑等成为现实，那么，“我是谁”这样的哲学问题也因技术的发展而出现了新的语境，实际的人与“可能存在的人”的关系、机器智能与有机智能的关系等都成为新的伦理课题。

而《人工智能：驯服赛维坦》一书，则从产业格局、社会公正和人文伦理的层面，讨论了人工智能的未来与我们每一个人，及与社会之间喜忧参半的关系。例如有学者就指出，大数据的未来不能仅仅掌握在那些数据公司手中。同样的，人工智能和人工智能的未来也不能仅仅掌握在自然科学家、工程师和科技公司手中。因为这不仅是科技和科学家的未来，也是整个人类的未来。科学家和工程师可以掌控科技发展的技术走向，但不一定能深刻地理解科技对人类的复杂性影响。人文社科学者和思想家们不能缺席，而应该主动参与到影响人类命运和人类发展的大讨论中。同时，书中提出的“趣缘合作”“数据生命体”“算法独裁”“透明人”等一系列科技与人文碰撞而生的概念也十分有趣耐读。