搜索高级搜索
机器人网互动社区应用讨论专区探测和检测机器人停机问题证明致命机器人无法正确决定是否杀死人类
探测和检测专区是机器人网互动社区主要讨论探测机器人和检测机器人的各种实际应用所遇到的问题和问题解答,合理提供解决方案的互动平台。
发表新主题  收藏 打印 推荐 
作者 问题:

停机问题证明致命机器人无法正确决定是否杀死人类

发布时间: 2014-11-21 上午9:32

作者: Yufy

等级: 青铜大侠

积分: 2150 分

发帖数: 523 次

网站总积分: 2150 分

经验值: 862.0

查看用户的所有发言

查看用户的个人主页

停机问题是一个判断任意一个程序一旦启动是否会在有限的时间之内结束运行的问题。艾伦·图灵在1936年证明不存在解决停机问题的通用算法。现在,一组计算机科学家和伦理学家使用停机问题去处理一个武装机器人如何决定杀死一个人类的问题。论文发表在arxiv上。


研究人员使用了电车难题的 一个变种,证明自主机器人不能正确判断是否杀死一个人,就像人类难以在电车难题中正确判断是改变轨道杀死一个人还是不采取行动让失控电车杀死多个人。他们 提出了一组规则用于设计和操作未来的自主机器人,其中第一条规则是:机器人不应该仅仅或主要设计杀死或伤害人类。
引用 回复 鲜花 ( 0) 臭鸡蛋 ( 0) 有新回复时发送邮件通知

与  停机问题 , 电车难题 , 机器人  相关的话题
快速回复
用户名: 
美国的游客       (您将以游客身份发表,请登录 | 注册 )  
标题: * 你还可以输入80
评论: * 你还可以输入20000
分享到: 新浪微博   qq空间   qq微博   人人网   百度搜藏  
验证码:  * 
维护专业、整洁的论坛环境需要您的参与,请及时举报违规帖子,如果举报属实,我们将给予相应的积分奖励。
谢谢您的热心参与!
返回探测和检测机器人 | 返回应用讨论专区
本论坛仅陈述专家或个人观点,并不代表机器人网网站立场。
返回论坛页首