作者:小岩
编辑:冰冰
就在最近,AI的能力和人格变得更加丰富了,日本名古屋大学的科学家利用博弈论中的囚徒困境游戏来训练AI ,有效地让AI大型语言模型进化出多种人格特征,其中有一面就是自私的人格特质。
这意味着AI的发展速度远超预期,已经进化出了独特的,与人类相似的人格特质。
AI进化出了自私人格,这意味着AI或许会将自己的利益凌驾于集体至上。
日本名古屋大学的科学家让AI大型语言模型进化出了多种人格特征。这些不同人格特征会在不同的社会场景中派上用场,可以在执行任务时自由切换,从而反映出人类社会的动态行为:时而是合作状态,时而是自私单干状态。
值得一提的是,科学家在摸索AI人格特质的时候利用的是博弈论中的囚徒困境游戏。囚徒游戏想必大家都不陌生,指的是两个被捕的囚徒之间的一种特殊博弈,即使合作对双方都有利,保持合作也是困难的。囚徒困境是博弈论中非零和博弈中极具代表性的例子,反映出“个人最佳选择并非团体最佳选择”的特点。我们在现实生活中也会遇到囚徒困境,在价格竞争,环境保护,人际关系等方面,都会频繁出现囚徒困境。
AI也没有例外。在科学家的测试中,有些AI会将自己的利益凌驾于集体之上,有些AI则会同时考虑个人和集体利益。这说明在极端的测试状态下,AI已经具备了不同的属性,其中一层属性就是自私属性。
那么,我们可以把这些特征看作是AI的人格特征吗?
“AI拥有人格”早已有之!AI发展所带来的社会问题是否会颠覆人类生存?
认为“AI具备了自私人格”的前提是AI已经拥有了属于自己的人格。事实上,关于“AI是否具备独立人格”的争论早已有之。
自从上世纪50年代AI诞生以来,历经半个多世纪的发展,AI的功能越来越强大,甚至具有类似人类的独立思考能力和深度学习的能力,使其成为区别于其他科技的一支特殊力量,也是很多学者认为AI拥有了人格的重要依据。
究竟什么是人格以及人格的同一性?
近代哲学家洛克,在《人类理解论》一书中系统地阐述了“人格同一性”问题。人格的同一性一方面是指人们具有思想和智慧,能够保持理性,能够随时反省;另一方面是在不同的时间,不同的空间条件下都认同自己的唯一性。对于AI来说,它的“记忆力”和思维能力,是依赖于被制造时所赋予的各种参数,所输入的信息来源,生存环境,自我训练等途径,经过长期的积累和自适应所形成的。AI的一个最大优势在于,它们拥有强大的后天学习能力,可以在事先毫无基础的情况下,经过反复地学习和训练,来实现对以往自身的智力超越。
所以,无论是1997年打败了国际象棋冠军的深蓝计算机,还是2016年将诸多围棋高手纷纷“斩落”的阿尔法狗,都充分说明只要经过无止境的自主学习和训练,AI就能实现对人类相关文化以及智慧的完全超越。但是,从目前科技发展的阶段和水平看,即使是“智力再超群”的AI,它的一切目的和行为,都是人类所赋予的,还脱离不开人类的控制实施独立的行为,终归还是人类的工具和手段,其最终的目的还是为人类服务,从这一方面来说,很多专家加持认为“AI不具备人格权”。
可就在2017年,沙特这个国家做出了一个让人“惊掉下巴”的事,那就是“赋予了机器人索菲亚正是公民的身份”。有国家层面出来“坐实”AI的人格权,这不禁让这一问题变得更加复杂。
而如今的AI水平又来到了一个新高度,不仅能完美驾驭人类布置下来的人物,还能适应不同的场景测试,并且据此迸发出不一样的性格特征。
从法律或道德层面来说,“AI是否具有自己的人格”这一点还有待商榷;但从实际应用层面来说,AI所具备的能力和思维已经足够优秀,甚至具备了“成立独立人格”的潜力和机会,这一点,的确惹人深思。
AI发展远比预期更快:2047年AI在所有任务胜过人类可的能性为50%。
事实上,很多科学家和学者已经有了一个定论:AI的发展速度远超预期。
2024 年 1 月,一项有关AI未来发展趋势的调查结果公布,这也是AI领域迄今为止最大规模的一次调查。有2778名从事专业研究的人员参与了调查,结果显示,尽管科学界对于 AI 所带来的机遇和风险的评估尚未达成共识,甚至对其看法呈两极分化,但大家都普遍认为,AI 的发展速度快于一年前的预计。值得一提的是,受访的2778 人员都是资深专业人士,均在世界顶级 6 大人工智能期刊或国际会议发表过论文。
这些调查人员也曾在2016 年和 2022 年做过类似的调查,对比2022年和2023年的研究结果,我们可以发现,仅仅过了一年的时间,人们对于AI的未来预期发生了明显的变化。这或许与 2023 年发生了多项 AI 重大事件有关(ChatGPT的推出,政府加强对AI的监管等),也说明了AI技术在2023年迎来了巨大的革新。
调查结果还显示,如果 AI 发展速度不被人为放缓,AI 在没有外部帮助的情况下便可在所有任务中胜过人类的可能性将在2027年达到 10%;到 2047 年这一可能性为 50%。可就在前一年,专家还预估AI至少到2061年才有50% 的可能性在所有的活动中胜过人类。
AI会变得越来越智能,它进步的速度也将越来越快。这一点,在现在看来几乎是大家的共识。
随着人工智能的发展,我们势必会面临更多的挑战,诸多争论最终的指向大同小异,无非就是AI与社会伦理认识,法律以及哲学等方面所产生的冲突和难题。
一味地强调人工智能威胁论固然是狭隘的,而一味地追求科技进步,AI的高速发展也可能会带来难以挽回的危机。
无论何时,我们人类需要做的,就是在追求和发展的科学技术的同时,坚守住最基础的法律和伦理底线,不破坏人类自身的生存和发展权利。只要做好了这一点,无论AI进化出的是自私人格还是无私人格,就都不会对人类的发展产生威胁。也只有做好这一点,科技发展的前景才是光明和安全的。
本文链接:https://www.aixinzhijie.com/article/6845442
转载请注明文章出处