服务器
    作者:鲁畅

    机器人投池自杀 该如何培养AI的道德观?

         [ 中关村在线 原创 ] 暂无评论

      上周一,在所有人都忙碌在第一天的工作中时,在美国华盛顿的一个机器人投池自杀。消息一出,不少网友纷纷猜测:难道机器人觉醒了?难道机器人不堪周一的重负,决定自杀了?难道机器人误以为水池旁边的柱子是自己的同类,想靠的近一点儿?类似的猜测不胜枚举,而机器人为何投池自杀,目前所属公司还没有给出答复。

    机器人投池自杀 该如何培养AI的道德观?

    网友称:K5是担心被飞行机器人取代而投池自杀

      据了解,这是一位保安机器人。属于"骑士视界"(Knightscope)公司的产品,型号为K5。据介绍,它移动起来,最高时速可达约29公里。不过在通常情况下,都以1.5到5公里的时速行进。K5机器人是专门为停产场、校园和医院的安保巡逻而设计的,其自身配备有摄像头和监测系统,设计者宣称得益于电子围栏和3D成像技术,这款机器人能应对复杂的环境。

      不仅如此,K5还拥有一系列高科技传感手段:热成像、激光测距、雷达、红外线摄影、超声波测速、360度摄像头、麦克风等等,甚至还能识别人脸、监测空气质量、自动报警,未来还计划增加检测枪支的功能。而这款机器人虽然目前还在测验阶段,但已经出现不止一次问题。不仅有人关心,AI和机器人的道德观该如何培养?

      要想讨论如何培养AI道德观,我们首先要对人类的道德观做一个了解。亚里士多德认为,世界上的一切(松鼠、乐器、人类,等等)都有它独特的本质,它们最合宜的存在方式则反映了它们的本质。而“道德”即是人类源自本质的、最合宜的生存方式。

    机器人投池自杀 该如何培养AI的道德观?

      虽然笔者看了很多关于道德的论述,但是并没有看明白,或者说,人类根本就没搞懂什么事道德观。但是关于AI的道德,我们可以想想一个场景作为参考。

      在无人驾驶车里,你的两个孩子去上学,为对面几个(多余两个)小朋友跑了出来,只有两个选择:你撞到护栏外面翻车掉进水沟你的孩子会死亡,或者撞到对面几个孩子,你的孩子没什么大事儿,但对面的几个孩子一定没命了。如果你在驾驶汽车,一定会处于本能去保护自己的孩子;但是如果是无人车,它会通过算法测出,对于整个社会来说,两个孩子死亡的损失是低于对面几个孩子都死亡的损失的,那么对于算法的最优选择就是翻车,掉进水沟,你的两个孩子没命。

      在遇到危及情况时,人类的道德观可能与机器的道德观会出现很大的差异。尽管机器学会了永远不能危及人类性命,但在面临这种选择时,我们会被自己的情感所蒙蔽,但是机器会站在全人类的高度去“思考”,得出大相径庭的两个结果。

    机器人投池自杀 该如何培养AI的道德观?
    电影《人工智能》剧照

      很显然,机器人的道德观与我们自己的道德观产生了向左的情况,那么在这种情况下,我们应该怎么做?

      另外一点与人类的“取舍”概念很相似。当机器人遇到道德悖论时候该怎么做,确切的说,很多时候人类都不知道怎么取舍,又怎么讲这种难题抛给一个算法,一个机器人呢?

    机器人投池自杀 该如何培养AI的道德观?
    K5机器人

      虽然之前也出现过机器人自杀的案件,但是大多都给出了具体的技术故障原因,并没有科学佐证机器人觉醒。而本周一,美国K5机器人投池自杀还没有得到定论,相信该公司技术负责人会在后续公布原因。在该公司建立的twitter账号上,写着:我是K5机器人史蒂夫,游泳是我的一项个人爱好。据了解,未来k5机器人“史蒂夫”很可能被35号机器人“凯文”代替。最后,你觉得“史蒂夫”究竟是因为什么自杀的呢?(欢迎留言讨论)

    周关注排行榜

    产品品牌

    文章推荐

    互动沙龙

    相关内容 网友评论 返回首页
    专家咨询