行业新闻与博客

英国人工智能安全研究所已于 2024 年 5 月 10 日向全球人工智能社区开放其人工智能测试和评估平台。

据人工智能安全研究所和科学、创新与技术部 (DIST) 称，该平台名为 Inspect，旨在为人工智能模型的安全创新铺平道路。

该研究所表示，通过向全球社区提供 Inspect，它正在帮助加快国际上开展的人工智能安全评估工作。目的是更好地进行安全测试并开发更安全的模型。

它还允许在世界各地采用一致的人工智能安全评估方法。据政府称。

Inspect 是一个软件库，使测试人员（从初创企业、学术界、人工智能开发人员到国际政府）能够评估各个模型的特定功能，然后根据结果给出分数。

Inspect 可用于评估一系列领域的模型，包括其核心知识、推理能力和自主能力。通过开源许可证发布，这意味着 Inspect 现在可以免费供 AI 社区使用。

AI 安全研究所主席 Ian Hogarth 评论道：“我们受到了一些领先的开源 AI 开发人员的启发，尤其是 GPT-NeoX、OLMo 或 Pythia 等项目，这些项目都拥有公开可用的训练数据和 OSI 许可的训练和评估代码、模型权重和部分训练的检查点。这是我们回馈社会的努力。”

“我们希望看到全球人工智能社区不仅使用 Inspect 进行自己的模型安全测试，而且帮助适应和构建开源平台，以便我们能够全面进行高质量的评估。”

英国首相 Rishi Sunak 于 2023 年 11 月在英国布莱切利公园举行的人工智能安全峰会上宣布成立英国人工智能安全研究所。

当时，苏纳克表示，英国政府对这个新实体的目标是使其成为一个全球中心，负责测试新兴人工智能类型的安全性。