在科技界瞩目之下，第27届联合国科技大会于瑞士日内瓦盛大举行，一场围绕“塑造AI的未来”的主题边会成为了全球关注焦点。在这场盛会中，世界数字技术院（WDTA）发布了具有里程碑意义的《生成式人工智能应用安全测试标准》与《大语言模型安全测试方法》两项国际标准，标志着全球人工智能安全评估与测试步入了全新的标准化时代。

　　大语言模型，作为人工智能领域的核心驱动力，其在各行业的广泛应用已使其成为社会基础设施的重要组成部分。然而，其复杂性与潜在风险也引发了对安全问题的深切关注。正如WDTA人工智能安全可信负责任工作组组长黄连金所强调：“面对日益不可或缺的大语言模型，制定全面的安全标准以应对相关挑战至关重要。”此次发布的两项国际标准，正是汇聚全球AI安全专家智慧，填补了大模型与生成式AI应用安全测试的空白，为全球AI产业构建起统一的测试框架与明确的测试路径，有力推动了人工智能系统的安全性提升、技术负责任发展及公众信任度增强。

　　《生成式人工智能应用安全测试标准》由WDTA主导编制，为生成式AI应用的安全验证提供了系统化的测试框架。该标准细致地规定了AI应用架构各层次的安全测试范围，涵盖基础模型选择、嵌入与矢量数据库等环节，确保从底层到应用层全方位接受严格的安全与合规审查，从而有效防止全生命周期内的安全威胁与漏洞。

　　《大语言模型安全测试方法》则由蚂蚁集团引领制定，为大模型自身安全评估提供了前所未有的全面、严谨且实用的结构化方案。这一方法创新性地提出了大模型安全风险分类、攻击分类分级体系，以及针对四种不同攻击强度的手法分类标准，配以严谨的评估指标与测试流程。通过这套方法，开发者与组织能精准识别并有效缓解大模型潜在的安全漏洞，显著提升基于大模型构建的AI系统的安全性和可靠性。

　　蚂蚁集团机器智能部总经理兼蚂蚁安全实验室首席科学家王维强在大会上发言时表示：“生成式AI将释放巨大生产力，同时我们必须对伴随而来的新型风险保持高度警觉。”他呼吁大型科技企业应担起责任，利用自身优势推动生成式AI安全、负责任的发展，包括制定行业标准与指南，研发并共享安全工具，形成产业共治格局，构建一个将安全、隐私与道德置于首位的AI生态系统。

　　蚂蚁集团在AI安全领域的贡献远不止于此。自2015年起，集团便积极投身可信AI技术研发，现已建立起完善的大模型综合安全治理体系。自主研发的全球首个大模型安全一体化解决方案——“蚁天鉴”，集成了AIGC内容安全与真实性评测、大模型智能化风控、AI鲁棒性与可解释性检测等功能，为AI安全设下坚实防线。此次发布的《大语言模型安全测评方法》，即源自“蚁天鉴”实践经验与全球合作伙伴的智慧结晶。

　　作为WDTA的成员之一，蚂蚁集团积极参与并推动AI STR（安全、可信、负责任）计划，与华为、科大讯飞、国际数据空间协会（IDSA）、弗劳恩霍夫研究所、中国电子等全球知名机构携手，共同致力于提升人工智能系统的安全性、可信性与责任性。这一系列行动，展现了蚂蚁集团在AI安全领域的前瞻视野与深度实践。

　　在全球范围内，各国政府纷纷加大对大模型安全的研究与监管力度。中国已相继出台《全球人工智能治理倡议》、《生成式人工智能服务管理暂行办法》、《生成式人工智能服务安全基本要求》等政策文件，旨在引导生成式AI安全可信发展，推进全球人工智能治理合作。

　　联合国科技大会期间发布的两项国际大模型安全标准，不仅彰显了国际社会对AI安全问题的高度重视，也揭示了蚂蚁集团在该领域的领军地位与卓越贡献。这些标准与实践，为全球AI产业树立了新的安全基准，为人工智能的健康、可持续发展奠定了坚实基础。在AI安全的新里，我们期待更多企业和机构遵循标准，共筑AI安全屏障，让人工智能真正成为赋能人类社会、造福全球民众的可靠力量。