财经三人谈:AI安全峰会再开,各国担忧什么?

编者的话:伴随着AI技术日新月异的发展,人类对AI的感受总是期待伴随着焦虑,惊叹夹杂着不安全感。近日,第二届全球人工智能(AI)安全峰会在韩国首尔召开,来自全球政治、经济、科技界人士再次聚首,共话AI安全相关话题。本次峰会距首届峰会召开和会议成果——《布莱奇利宣言》的签署发布仅过去半年。各国在担忧什么?有哪些AI安全议题值得关注?

潜在风险加深不安全感 

李志起

“AI风险防范”始终是AI治理工作的重中之重。技术的“双刃剑效应”在AI领域尤为明显,它为我们带来便利的同时,诸多潜在风险也在不断加深作为普通用户的不安全感:从个人隐私泄露到算法偏见,再到无法预料的决策失误,对这些风险的担忧无处不在。正因如此,更为严格的风险评估机制、可执行性更高的风险防范措施、全球各国更及时的合作交流才显得更为重要。

风险防范之外,全球AI治理还涉及多个重要议题,它们共同构成了AI发展的多维框架。这些议题同样需要重点关注,具体如下:

首先是AI技术的伦理道德、标准规范以及创新发展等。在伦理道德方面,应推动制定全球通用的AI伦理准则,规范AI技术的研发和应用行为,确保其符合人类价值观和道德标准。在标准规范方面,各国应携手制定AI技术的国际标准和规范,以提升技术的互操作性和降低应用风险。同时,鼓励和支持AI技术的创新与发展也至关重要,通过政策引导、资金投入和人才培养等措施,推动AI技术在各个领域实现突破与进步。

其次,AI技术带来的就业与社会影响同样是我们必须正视的重要问题。随着AI技术的不断发展和普及,越来越多的传统岗位面临着被自动化取代的风险。这种取代不仅可能导致大量劳动力失业,还可能对社会的经济结构和稳定性造成深远影响。例如,一些重复性高、技能要求相对较低的工作岗位,如数据录入员、客服代表等,很可能会被智能机器人或自动化系统所替代。因此,在全球AI治理的进程中,各国政府必须高度关注AI技术对就业市场的具体影响。为了应对这些挑战,政府需要制定相应的政策和措施,旨在保障劳动者的合法权益,减轻因技术进步而带来的就业压力。这可能包括提供职业培训项目,以帮助工人提升技能,适应新的就业环境;创造更多与AI技术相关的新兴就业岗位,以吸纳因自动化而失业的劳动力;以及完善社会保障体系,为受影响的工人提供必要的生活保障。

再次,数据隐私与保护也应该成为全球AI治理中的重要议题。AI技术的训练和应用离不开大量数据,而数据的收集和使用往往涉及个人隐私保护的问题。因此,各国在参与全球人工智能治理时,应加强对数据隐私的保护,制定严格的数据安全法规,以防止数据泄露和滥用。(作者是北京市政协经济委员会副主任,振兴国际智库理事长)

发展中国家需要更多参与

李 峥

短短半年,西方主要国家政府及全球顶尖AI企业已两次专门就AI治理问题召开专门会议,体现出各国对于当前AI全球治理发展进度缓慢的担忧。近半年内,AI技术又出现了一些新的变化,主要体现在三方面。一是生成式AI持续高速发展,在多模态领域取得显著技术进步和应用发展。多模态的生成式AI意味着该技术能够在不同种类信息中自由切换,更自如地生成和理解数字社会和人类文明。AI生成的内容更加丰富和准确,这一进步将让生成式AI显著扩大其应用领域。与此同时,甄别AI生成内容的难度也在不断增加,信息伪造更加泛滥。如果缺乏更加严格的治理和标准,管控生成式AI不被滥用将成为不可能任务。

第二,先进AI越发广泛地运用于生物技术、化学材料、军事安全等实体领域,AI与制造业的结合正变得愈发紧密。这一趋势意味着AI的影响将不限于数字和虚拟空间,将成为一国生产力、军事工业能力以及前沿技术发展的倍增器。这场AI革命对于各国而言机遇和挑战并不相同。

三是AI产业开发的成本、基础条件和制约因素愈发清晰。近半年来,业界愈发关注AI产业化后对能源、水资源、人才、环境、硬件等领域的需求和影响。业界普遍认为,AI高能耗、需要巨大初始投入、后期迭代成本高的特点将难以发生变化。这意味着建设AI产业集群的门槛较高,大多数国家难以支撑初始研发或完全技术自主的成本。AI产业的未来极有可能仍然是中心化形态,即少数企业和国家在全球AI技术生态中处于无法替代的地位。这种情况让中等发达国家尤为担忧,担心该技术可能进一步拉大这些国家与主要大国之间的差距。

从首尔峰会的情况看,当前AI技术进步显著快于全球治理进度,AI安全主要依赖少数头部企业自身承诺,以及广大AI发展滞后国家的诉求未被充分接纳是困扰当前全球AI安全治理进程的三大问题。除了此次峰会上提出的所谓“底线原则”以及头部企业的承诺之外,全球AI治理更需要尽量包容采纳发展中国家的整体诉求,采取实际措施解决AI的发展鸿沟问题。该进程需要有更多发展中国家引领和参与。(作者是中国现代国际关系研究院美国研究所所长助理)

应对“超速技术综合征”

沈 阳

在AI如影随形的时代,公众对未来AI的安全性充满不确定和焦虑。机器是否会取代人类的工作?个人隐私是否能得到保护?AI的决策是否可控?从去年11月首届全球AI安全峰会到本周的第二届峰会,人们对AI技术的关注已从单模态内容生成(如文本数据)走到了多模态内容生成(如视频数据)。AI的发展可谓一浪高过一浪。这不仅仅是技术的跃进,更是一场全球性、人类共同应对挑战与机遇的双重奏。

在后现代社会的人类焦虑中,技术的发展速度正在超越社会和法规的适应能力,并引发伦理、安全及社会等层面的多维问题,针对这个现象,我们可以称之为:超速技术综合征。

在AI领域,“超速技术综合征”可具体投射在如下维度:比如,AI的快速迭代不仅重塑了商业模式,带来了前所未有的便捷,同时也暴露了数据安全、算法偏见及自动化引发的失业等问题。又如,AI的进步加速了数字鸿沟,技术红利和风险在全球范围内的不均衡分配,使得发达国家和技术巨头可能进一步扩大与发展中地区的差距。再如,技术发展的双刃剑效应日益明显,AI在优化资源分配、提高生产效率方面的积极作用不言而喻,然而它也可能导致资源分配不公、劳动力市场的动荡,等等。

如何应对“超速技术综合征”,为全球社会注入一针镇定剂?跨国合作和全球统一的行业标准制定显得尤为关键。全球合作与横跨政治、经济和商业实体之间的安全承诺,实质上是在为AI发展筑起了一道安全屏障,试图营造一个更可预测、更安全的技术生态,以减缓由技术引发的社会焦虑。以近期在首尔召开的AI安全峰会为例,本次发布的《首尔宣言》就指出,人工智能安全、创新、包容是相互关联的目标,国际社会有必要将其列为全球AI治理结构的首要议题。各方敦促通过以人为本的AI技术解决全球性难题,以增进民主、法治、人权、自由等价值,加大隐私保护力度,消除数字和AI鸿沟,提升人类福利水平。

消除“超速技术综合征”需要更多全球技术企业和政府之间的对话,也需要科技与社会的妥协与合作。通过国际间的协作,我们可以更有效地应对技术带来的挑战,确保AI成为推动人类社会进步的正能量。(作者是清华大学教授,跨学科知名学者)

热门相关:狂飙最强大嫂   她们的果汁   同班同学   天降豪门   神预圣尊重生