人工智能开启了潘多拉之盒? 专家们谈了这三个问题

2023-09-28 21:58:36 红网
作者:陈珉颖 王森章 编辑:王津
字号:

会议现场合影。

红网时刻新闻9月28日讯(记者 陈珉颖 通讯员 王森章)通用人工智能技术(AGI)的发展将对我们人类社会的未来产生什么样的影响?随时而来的是新一轮的技术和产业革命,还是对未来人类发展不可忽视的威胁?9月24日下午,CCF YOCSEF长沙学术会员会在中南大学校计算机学院举办主题为“AGI大模型潘多拉魔盒打开:革新还是威胁?”的观点论坛。

会议现场。

与会嘉宾围绕“通用人工智能技术和大模型的发展是否开启了潘多拉之盒”“其出现与发展对人类社会究竟带来进步还是巨大威胁?”“我们应该怎么正确认识通用人工智能技术的发展”等议题展开讨论和思辨。

针对人工智能领域的国际竞争,我们是应该加速大模型的研发,还是应该持更谨慎的态度,在没有扎好威胁“护栏“之前暂停或延缓开发?

部分嘉宾持比较乐观和积极的态度,认为我们国家应该积极研发,努力追赶国际先进水平。还有一部分学者认为,我们应该将科学研究与工程应用区分开来。对大模型的研究,应将其限定在科学研究领域内,而在商业应用方面要更加谨慎,努力做好“防火墙”。在将大模型服务于人民之前,需要提前做好社会实验来评估大模型潜在的危害与风险。还有嘉宾认为,相对于大模型的快速发展,我们对大模型的治理是相对滞后的,如果缺乏相关的法律法规来约束,可能带来难以预料的危害。为此,应重视大模型的研发与相应配套的监管协同发展。

会议现场。

AGI大模型的进一步发展是否会对人类社会的伦理、价值观等产生威胁?

一部分嘉宾对大模型发展出自主意识感到担忧,担心大模型产生意识后可能引导人类走向失控和混乱,进而对伦理产生影响。也有嘉宾认为,技术发展是不确定的,伦理需要跟上技术的发展,伦理和技术是相互发展相互迭代的。人类价值观和伦理系统本身不是稳固的,很多技术都在一定程度上影响了价值观。对于AI能否产生意识的问题,有部分嘉宾认为目前来看是不会产生意识,目前的AI还是很初级的阶段。不跟环境打交道是不可能产生意识的。意识其实就是一种主观体验,自然界只有人类和极个别的物种才有自我意识。目前的大模型均没有看到主观意识的影子。

与会嘉宾合影。

当超级AI的智能超过了人类,人类还能有效的控制超级AI吗?

许多嘉宾都认为人工智能会超过人类智能,不管从技术和产品的角度来说都是有可能的。虽然在现在的时间点,有很多是AI仍做不到的,但这不代表后面AI是做不到的,我们不能仅仅以现在的认知来判断人工智能是否能超过人类智能,机器的进化比人类的进化要快很多。也有嘉宾指出人工智能会不会越人类智能这一问题,我们需要先搞清楚人类智能到底表现在哪一些方面。即使它超越了,它也不会消灭人类的文明。我们是生产者,为大模型的存在奠定基础。大模型是依赖于人类产生的数据,就像我们人类依赖大自然一样。

0
下载时刻客户端浏览更多新闻