人工智能自我意识的觉醒、进化、冲突与应对
葛恒柯 （ 复旦大学 ）
韩科成 （ 上海上大建筑设计院有限公司 ）
https://doi.org/10.37155/2717-5170-0606-74Abstract
对人工智能的探究并非单纯技术问题，而是涉及哲学、伦理学的复杂命题。人工智能的快速迭代进化可 能会冲破规则束缚，开启自我意识，难以预判的道德和价值取向会挑战现有法则，对人类的安全、自由、生存产生重 大潜在威胁。本文对人工智能的心智开启、价值取向、风险冲突进行梳理分析，提出了采用安全阀机制、伦理准则、 沙盒隔离三道防火墙应对不确定性。文章也剖析了多部影视作品的思想内涵，尝试揭示人类与人工智能间的复杂关系 和多种可能，提出摒弃自身狭隘认知、未雨绸缪、防范风险的同时寻求和谐共存之道。
Keywords
人工智能；意识觉醒；机器人伦理学；丛林法则；机器人三定律Full Text
PDFReferences
[1]蒋柯.“图灵测试”、“反转图灵测试”与心智的
意义[J].南京师大学报(社会科学版),2018(4):76-82.
[2]宋勇刚.图灵测试：哲学争论及历史地位[J].科学文
化评论,2011,8(6):42-57.
[3]赵汀阳.人工智能的自我意识何以可能?[J].自然辩
证法通讯,2019,41(1):1-8.
[4]雷禹.人工智能生产过程中的伦理介入问题探析[J].
大连理工大学学报(社会科学版),2023,44(4):73-79.
[5]《首个全球性AI声明：中国等28国、欧盟签
署》[EB/OL].https://www.thepaper.cn/
newsDetail_forward_25153617,2023
[6]魏屹东.关于通用人工智能的几个重要伦理问题[J].
中国医学伦理学,2024,37(1):1-9.
[7]武威利,王绍源.阿西莫夫的“机器人三定律”适合
未来AMAs机器人的构建吗？——基于《机器人管家》的
文本反思[J].大庆师范学院学报,2016,36(2):1-5.
[8]蔡加,邱雪辰,张培芳.顺从与反抗——从“机器人三
定律”看《克拉拉与太阳》[J].海外英语,2023(4):204-206.
[9]汤拥华.《西部世界》、自我意识与阿里阿德涅的
迷宫[J].南京邮电大学学报(社会科学版),2017,19(2):21-31.
意义[J].南京师大学报(社会科学版),2018(4):76-82.
[2]宋勇刚.图灵测试：哲学争论及历史地位[J].科学文
化评论,2011,8(6):42-57.
[3]赵汀阳.人工智能的自我意识何以可能?[J].自然辩
证法通讯,2019,41(1):1-8.
[4]雷禹.人工智能生产过程中的伦理介入问题探析[J].
大连理工大学学报(社会科学版),2023,44(4):73-79.
[5]《首个全球性AI声明：中国等28国、欧盟签
署》[EB/OL].https://www.thepaper.cn/
newsDetail_forward_25153617,2023
[6]魏屹东.关于通用人工智能的几个重要伦理问题[J].
中国医学伦理学,2024,37(1):1-9.
[7]武威利,王绍源.阿西莫夫的“机器人三定律”适合
未来AMAs机器人的构建吗？——基于《机器人管家》的
文本反思[J].大庆师范学院学报,2016,36(2):1-5.
[8]蔡加,邱雪辰,张培芳.顺从与反抗——从“机器人三
定律”看《克拉拉与太阳》[J].海外英语,2023(4):204-206.
[9]汤拥华.《西部世界》、自我意识与阿里阿德涅的
迷宫[J].南京邮电大学学报(社会科学版),2017,19(2):21-31.
Copyright © 2024 葛恒柯,韩科成
Publishing time:2024-06-30
This work is licensed under a Creative Commons Attribution 4.0 International License
Email
Location