参考消息网10月16日报道 美国布鲁金斯学会9月10日刊登题为《检查先进人工智能系统的能力和风险》的文章，作者是布鲁金斯学会技术革新中心研究员希纳莎·奥科洛，内容编译如下：
2023年11月，英国主办了首届全球人工智能(AI)安全峰会，召集了一个由各国领导人、技术专家、学者和民间社会团体组成的多元化联盟，以加快安全和负责任地发展前沿人工智能的国际行动。除了发表关于人工智能安全的《布莱奇利宣言》，峰会还委托撰写了一份“科学状况”报告，以帮助就通用人工智能目前及未来潜在的风险、机遇和能力达成国际共识。这一国际合作的临时版本是在2024年5月的人工智能首尔峰会上公布的。我就人工智能系统中文化代表性不足的当前问题——这在一定程度上导致了人工智能鸿沟的扩大——撰写了一份分析报告，并分析了人工智能偏见的各个方面。
这份报告强调了在定义人工智能风险和制定强有力的减轻方案方面，有必要开展更广泛的全球合作。随着英国政府准备在2025年2月法国人工智能行动峰会之前发表最终报告，有必要共同努力改善人工智能方面的国际合作，尤其要通过纳入来自全球南方国家政府、研究人员和民间社会倡导者。公平地纳入不同观点对于应对人工智能的风险和危害以及使这些系统的益处民主化至关重要。
代表性不足导致偏见 早在当前的人工智能热潮之前，人工智能系统中的有害偏见和代表性不足就已经成为挑战。这些问题一直存在于通用人工智能系统中，在可预见的未来很可能仍将存在。如果人工智能输出基于受保护的特征(如性别、种族或宗教)而产生偏差，那么它们就是有偏见的。当这些输出为高风险决策提供信息时，就会产生不公平的结果，在从招聘到金融贷款再到医疗保健等领域对边缘化群体成员造成切实伤害。人工智能偏见的一个突出来源是训练数据中的代表性不足，即某些群体在数据集内的数据有限或不存在，导致模型预测质量较低，或反映出先前存在的人类偏见。用于训练通用大型语言模型的大多数语言数据集都以英文表达并主要代表西方文化，这会降低以非西方文化和社会为参考的提示的表现。此外，人工智能系统还可能会表现出交叉偏见。尽管进行了广泛的研究，但仍然难以找到可靠的方法来完全减轻这种歧视。
全球鸿沟凸显不平等 人工智能不仅会给个人和人口群体带来不平等的结果，还会加剧国家之间的不平等。前沿人工智能的研发主要发生在发达国家，全球南方国家从人工智能的持续发展中获得的利益较少。这种“人工智能鸿沟”主要沿着现有的全球社会经济差距的断层线出现，如果不刻意分享人工智能的好处，就会加剧这些差距。阻碍这些国家从通用人工智能中获益的重大障碍包括：较低的数字技能素养、获取重要计算资源的机会有限、基础设施挑战以及在经济上对高收入国家实体的依赖。由于通用人工智能开发由少数公司主导，全球使用的系统很可能反映的是大公司的价值观、文化和目标。此外，最近开发更大、更强通用人工智能模型的趋势也会加剧全球供应链不平等，对能源的使用提出要求，并导致有害的气候影响，这也加剧了全球不平等。
高速发展与风险并存 总的来说，根据许多衡量标准，通用人工智能的能力正在迅速发展。目前没有争议的能力包括帮助人类编写代码、保持条理清晰的对话、解决教科书上的数学和科学问题。研究人员正在争论因果推理等基本问题是否取得了重大进展。专家们对通用人工智能的能力在未来发展的预期速度持不同意见，他们分别支持缓慢、快速或极快的发展可能性。总体而言，人们对通用人工智能系统的能力和内部工作原理的了解有限，尤其是当它们适合产生其他外部危害的情况下。
例如，恶意行为者有可能利用人工智能大规模传播虚假信息和实施影响力行动、欺诈和诈骗。通用人工智能的故障也可能造成伤害，例如，通过在种族、性别、文化、年龄和残疾等受保护特征方面做出有偏见的决定。通用人工智能的未来发展可能会带来系统性风险，包括劳动力市场混乱和经济权力不平等。专家们对人类失去对人工智能的控制并可能导致灾难性后果的风险持有不同看法。
这份报告的最终版本定于2025年2月在法国人工智能行动峰会上发布。这一不断发展的领域的最新共识将在未来一年有力地塑造全球人工智能治理战略。
10月7日，在阿富汗喀布尔举办的贸易博览会上，一家机器人和人工智能开发公司展示其产品。(法新社)
