欢迎来到华中农业大学2023中文幕无线码中文字现在时间是:
学术交流

【学术晚茶】有效加速与超级对齐:AI发展的路线之争

来源: 编辑:王秋实 发布时间:2024年05月25日

5月22日,2023中文幕无线码中文字研究生“学术晚茶”活动在创业楼511举行,青年教师李思雯博士以“有效加速与超级对齐:AI发展的路线之争”为题,与同学们进行分享交流。此次活动由研究生会学术部负责人李佳主持。

(李思雯老师与同学们进行交流分享  黄璐 摄)

李思雯老师通过梳理AI发展的时间线和分析AI经典案例,向同学们展示了AI的发展路线,指出其向通用型人工智能(AGI)的发展趋势,认为通用型人工智能(AGI)有“有效加速”和“超级对齐”两种不同发展路径。

围绕“有效加速”主义,李思雯老师从形成背景、基本内涵、权威观点、问题缺陷等方面展开叙述。“有效加速”主义希望AI在技术精英的带领下加速前进改造世界,李老师指出其存在以下几点问题:第一,打破人类的“类同一性”、挑战“人类”共有的良知和“人性”。第二,可能会引发一些难以预料、难以解决的危机。第三,人类社会运行的底层架构被深度“数字化”和“智能化”。

针对“超级对齐”主义,李思雯老师介绍了其产生的背景、基本内涵,并引出了“价值对齐”(value alignment)的技术路线。“价值对齐”是以人类福祉至上为根基,力求让AI在人类的控制下发展。李老师还提出了AI价值对齐需要长期解决的三点问题,引人思考。

最后,在师生交流环节中,李思雯老师结合中国的本土经验和AI理念创新,提出在中国语境下“有效加速”与“超级对齐”哪一种理念更加适合中国的社会发展环境这一问题,引发学生思考。张博源、李佳、李轩昂等同学积极发表自己的见解,与老师同学展开充分的交流,碰撞出思维的火花。

文字:黄璐

图片:黄璐

审核:胡丰顺