人工智能的自我意识和伦理

irobot.jpeg

1921年,后来荣获诺贝尔文学奖的捷克作家卡雷尔·恰佩克发表了《罗素姆的万能机器人》一剧(可以在人民文学出版社出版的《诺贝尔文学奖获奖文集》中读到,国内貌似没有单行本),在剧中,一个名为Rossum的科学家发明了一种名为 Universal Robota的机器人,universal表示通用,什么都能做;robota,在捷克语中,是劳役、奴工的意思,后来传到英文中,做Robot(大家肯定都知道robot这个词,但是谁能想到他的原意是如此呢)。人类大量的生产了这种机器人,这种生产(据我猜测,剧中没有写清)是生物性质的,他们虽然和人类一样具有思考能力和感情,但是却没有生殖繁衍的能力,且被资本家奴役着替人类在工厂中劳作。然而长期的欺压也激起了机器人的反抗意识,随着机器人自己掌握了生产机器人的技术,在全世界爆发了机器人大起义,驱逐了人类,机器人成为了世界的主宰。

恰佩克据传是一位偏左的作家,他的这部剧作也很有可能是暗指工人运动,但是其中的机器人概念,在历史上是第一次出现,这个概念从一出现,就是代指人类的“奴隶”,只不过这种奴隶不是人了,而是机器人。后来,科幻小说家阿西莫夫在1942年发表的短篇小说《环舞》中,提出了所谓“机器人三定律”

一 机器人不得伤害人类,或因不作为使人类受到伤害。

二 除非违背第一定律,机器人必须服从人类的命令。

三 除非违背第一及第二定律,机器人必须保护自己。

后来,阿西莫夫加入了一条新定律:第零定律。

零 机器人不得伤害人类整体,或因不作为使人类整体受到伤害。

在《环舞》里,负责水星开矿任务的机器人在第二和第三定律的冲突中陷入“焦虑”,开始不停地绕圈子。图片来源:raydillon.blogspot.com

这三定律讲的事情,完全是一个逻辑,那就是“机器人是人类的奴隶”。制定这三定律也反映了,在二十世纪,人们对机器人的态度,与其说是欢迎的,不如说是恐惧的。

到了二十一世纪,这种恐惧加入了更多伦理性的和情感性的内容,不管是Artificial intiligence(斯皮尔伯格作品) I,Robot(阿西莫夫的作品改编的电影) 还是 Terminator 中,当机器人在生产和生活中融入了人类社会后,都产生了很多问题,甚至会导致人类的毁灭。似乎人类的整体意识都公认两点:

1、机器人比人类优越,是人的superior form

2、机器人应该是人类的奴隶

然而这两点放在一起,就产生了一个必然的结论:机器人要把人类neng死!所以,人类在发展和应用人工智能方面是不是应该更为谨慎呢?然而从目前来看,在机器人伦理方面,很多人都反对机器人三定律,一种观点认为人类完全没有必要开发有着自我意识和情感的机器人;另一种观点是人类应该开发这类机器人,但是应该和对待人类一样对待他们。

电影《我,机器人》中具有情感和自我意识的机器人

一、人类是否应该开发感情机器人

首先,人类是否应该开发具有自我意识和情感的机器人呢?人工智能理论研究者路易·海尔姆如是说:

“我认为设计有意识、有自我觉知的人工智能或机器人,本身就是很不明智的。而且,虽然那些电影小说里AI研究者常常‘不小心’就搞出了有意识的人工智能,我认为这在现实中不可能发生。人们不可能纯靠好运碰上意识,需要大量的努力和知识才行。而且大部分AI研究者都是遵循伦理的人,他们会避免创造出哲学家所谓‘有道德意义的存在体’。毕竟,他们完全可以创造出不具有内在道德问题的高阶思考机器嘛。”

人工智能的发展,应该是多层次渐进的,首先会出现的,就是Workforce Robot(机器人劳工)和Military Robot(军事机器人),现在正如火如荼的L4级别的自动驾驶,就是典型的劳工机器人,此类机器人没有拥有感情和自我意识的必要,他们往往是垂直的,专业化的,比如农业机器人就只知道如何耕地、如何灌溉就行了,他的形态也不可能是类人的。他与人类的沟通也完全可以通过一些简单指令完成,没有必要深度理解人类行为。海尔姆的观点,在这类机器人上,是成立的。

然后会出现的是Household Robot和Pleasure Robot。Household Robot旨在为人类在生活方面提供各类服务,如家务、洗涤、烹调等等,而Pleasure Robot分为成人陪护和儿童陪护两种,但是无论哪种,此类人工智能需要能够深度理解人类的行为和情感,进而调整自己的行为模式,所以在这类AI身上,“有意识、有自我觉知”的设计应该是一种必然,而且是需要大量的研发投入,故意产出的结果。

二、自我意识是感性认知的基础

如果AI开发者跳过自我意识的开发,转而将理解人类情感的工作通过逻辑学习来实现,是否可行呢?

 

三、拥有自我意识AI的伦理

 

分享该内容

PinIt
submit to reddit

说点什么

您将是第一位评论人!

提醒
avatar
Top