东京28

人工智能是否拥有独立人格?

发布时间:2020-04-20 18:22 作者:东京28

  人工智能(AI。)机器人作品版权归属方是谁?人工智能能否在辅助办案时替办案人员作出决策?未来人工智能,会不会挑战人类社会的秩序?在人工智能;成为国际竞争的新焦点、经济发展的新引擎的同时,发展的不确;定性也带来新的挑。战;人工智能因其自&#;主性和学习能力而带来不同于以往任何&#;科技的新的伦理问题,对人类社会各方面也将带来重大影响。

  上&#;周,2018中国(广州)新一代人工智能发展战略;国际研讨会暨高峰论坛在广州举办,人工智能的法律与伦理问题也引、发了与会专家的热议。

  AI能否拥有法律“人、格”?

  毫无疑问,引入人工智能有助于提升办事效率,在司法领域辅助办案也开始成为现!实。

  论坛上,科大讯飞医疗;事业部副,总裁陈德平介绍,科大讯飞联合上。海开展206工,程项目,即“上、海刑事案件智能辅助办案系统”,与自动阅卷非常相似,通过机器学习。全国最顶尖的法官判案的逻辑和标准,用大量的数据、、案件“喂”它,让它像人一样能够给出一个案件评判的标准&#;、量刑的尺度,经过两年多的探索,2018年3月份在上海全市正式开始试运行,不光是上海,目前山西、安徽、福建等地也开始尝试将这套系统应用在辅助断案上。

  不过,AI在司法辅助办案上可以拥有多大的“权力”?广东省法学会网络与电子商务法学研究会会长、暨南&#;大学、法学院党委书记刘颖教授介绍,办案过程中引入人工智能分析,可以辅助检察官,进行证据!抓娶要素比对,还可以协助,法官根据嫌疑人的、成长经历、犯罪记录乃至其生活地区的犯罪率等数据,以判断再犯,罪的可能性。但这也会带来一个疑虑:人工!智能协助判案有没有正当性?

  他举了一个例子:在美国威斯康辛州,一位罪犯申请减刑,陪审团利用人工智能手段,根据他,个人,的成长经历、成长的社区的环境,做&#;出判断认。定他有!可能犯罪并不同意缓刑。罪犯马上上诉,“机器是某一家公司生产的,这个公司也许、在软件的设计上、对我一个有色人种持有偏见”,于是法庭要求公司公开算法,但被公司以商业秘密为由予以拒绝。

  而另一方面,“&#;无人售货”正成为当下的一个热点,自动售货系统,包括柜员机、自动售货&#;机、平,台等制定的合同有没有效?刘颖说,答案是肯定有效,但是其依据在哪里?人工智能机器只是。设立机器的人的代表。2019年1月1日将!实施的《电子商务法》明确规!定,使用柜员机、自动售货机、平台等自动信息系统订立或履行的合同对使用该系统的当事人有法律、效力。

  “民事主体有一个发展的过程,早期被限于自由民,奴隶则被当成客体;但随着社会的进步,所有生物意义上的人都成为了民事主体。后来,民事主体还包括了拟制的法人;。那么为什。么人工智能不可能在一定程度上拥有‘人格’呢?,”刘颖说,如果。人工智能具有,完全!的自主性,能;够承担责任,法律就有可能赋予它!法律人格。

  AI或将引;发产权、数据安全等纠纷

  在刘颖看来,一旦法律赋予;人工智能以法律人格,这!又可能会对当前的人格&#;法、、刑事责任制度、知识产权、侵犯责任;或劳动法律制度,产生一系列的连锁反应。

  2017年5月,微软和湛庐文化合作推出了小冰原创诗集、《阳光失了玻璃窗》,这是人类历史。上第一部100%由人工智能创造的诗集,也由此引发了学者的讨论:对于人工、智能生成的内容,法&#;律有没有可能赋予它知识产权?

  “现在;人工智能不仅可以写诗,还,可以生产、画画、创作音;乐。我仔细看了微软小冰机器人写的诗集,还是不&#;错的,它通过图像识别可以做到!看图说话,比如它看到了沙漠,沙漠中有太阳,它可能就联想到‘大漠孤烟直’,就可以写出一。段文字。,”腾。讯研究院法律研究中心副主任、、首席研究员、蔡雄山说,知识产权的归属;也就成为一个难题:我创造了一个软件,写了很多诗,当我把这个软件卖了,它又出很多本诗集,获得的收益比软件还值钱,这肯定!会引起一些产权纠纷。

  刘颖说,如果说人工智能是有!法律主体资格的&#;,那么以后&#;要不要给工厂里进行劳动的机器人制定一个机器人劳动。合同法?再进一步往下发展,人工智能是否要承担刑事责任,作、为刑事责任能力的主体?

  此外,各大城市已经陆续发放路测牌,无人驾驶!的汽车发&#;生事故之&#;后责任怎么判定?蔡雄山说,到L4级和L5级阶段,、不仅将实现完全的自动驾驶,而且汽车也将不再有方向盘,人也无。法接管汽车,一&#;旦出现责任事故谁来承担刑事责任,是生产!汽车的厂商还是智能系统厂商?

  AI还将引发数据安全的问题。“在人工智能&#;时代,数据已经成为像石油和天然气一;样重要,但AI系统!需要数据‘喂养’,如何保护个人数据并区分非个人数据?、比如无人驾驶汽车行,驶。汇总的数据,哪些可以交易?广东将建数据;集群应用,如果数据产权不清晰,,是否可以集中在一起?”蔡雄山说。

  将社会伦理原则嵌入,AI系统中

  “在国外,关于人工智能伦理规范的文本&#;已有不少,而中国还没有成行的文本。”蔡雄山说,如何让人工智能符合人类社会的各种规范和价值,最大化其好处,是、构建普惠人工智能和有益人工智能必须解决&#;的问题。

  对此,他也提出了一些自己的建议,人工智能伦、理应该遵循的一些基。本原!则:首先是自由原则、,保障人的权利和自由,加强隐私保护,防止数据被滥用;其次是正义原则,确保算法决策的透明性,保障人工智能的,权益在世界范围内公平分配,缩小数字鸿沟;第三个是福祉原则,要促进可持续发;展,避免军备竞赛,要应对;人工智能带来的就业影响等;第四是合伦理原则,把社会的伦理原则能够。嵌入到人工智能系统上,让伦理设计和人类的规范相符合;此外;还包括安全原则,保障安全,以及责任、原则,应该探索人工智能应用的。监管制度,保障安全,促进发,展。

  他山之石,可以攻玉。欧盟议!会法律事务委员会也专门研究与机器,人和人工智能发展相关的法律问题,早在201、6年5月,该委员会提出了两个建议,、第一个是对机器人适用强制保险机、制,这类似于针对机动;车的强制险,由机器人的生产者或者;所有者负责购买,以便对机器人造成的损害进行责任分配。其次是设立赔偿基金;这&#;一制度有两大目的,其一,对强制险未予覆盖;的损害进行赔偿,&#;其二,让投资人、生产&#;者、消费者等多!方主体参与这一机制,从而形成赔偿基金。

  针对人工智能可能造成的数。字鸿沟扩大,来自韩国的数字智力商数研究所创始人朴宥顯博士认为,应该让教育、使孩子成为AI时代。的主人,由此提出了“,数商”的概念,她说,前两次工业革命时代提出了IQ,以适应工厂自动化技术的需要,而在工业3.0时代,城市化的浪潮下需要人与人的交融,于是E!Q。应运而生,而进入工业4.0时代,还需要一个新的数商,通过教育帮,助孩子面对新的风险。

  “人工智能进入大众。视野,大家一定会记得阿西莫夫三大定律,用一句话来说就是,比人类更厉害的其&#;实不是人、工智能,而!是掌握了人工智能;的人类。”陈德平说。

  延。伸

  各地、关于AI伦理的

  法&#;律探讨

  联合,国2016年,8月,COMES东京28T发布“机器人伦理初步报告草案”,机器人不仅需要尊重人类社会的伦理规范,&#;而且需要将特定!伦理准备嵌入机器人系统中。

  英、国《机器人与人工&#;智能》呼吁加强人工智能伦理研究,最大化人工智能的益处,并寻。求最小化其潜在威胁的方法。

  美国!《&#;国家人工。智能研发战略计划》提出开展人工智能伦理研究,研发新的方法来实&#;现人工智能与人类社会。的法律、伦理等规范和价值相一致。

  I;EEE(电气和电子!工程师协会)《合伦理设计:利用人工智能和自主系统最大化人类福&#;祉的愿景(&#;第一版)》,鼓励优先考虑伦理问题。

  业界2017年Asilomar会议提出人工智能2。3条原则,涉及人工智能伦理和价值,推动!有益人工智能发展,其、中提及、,将人类规范和道德价值嵌入人工智能系统。

  名词解,释

  ,阿西莫夫三大定律

  科幻作家阿西莫夫于1。942年首次、明确提出“机器人三定律”。

  第一定;律!:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管;

  第二!定律:机器人必须服从人给予它的命令,当该命令与第一定律,冲突时例外;

  第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己!的生存。(郜小平)