行業新聞與博客

英國人工智能安全研究所已於 2024 年 5 月 10 日向全球人工智能社區開放其人工智能測試和評估平台。

據人工智能安全研究所和科學、創新與技術部 (DIST) 稱，該平台名為 Inspect，旨在為人工智能模型的安全創新鋪平道路。

該研究所表示，通過向全球社區提供 Inspect，它正在幫助加快國際上開展的人工智能安全評估工作。目的是更好地進行安全測試並開發更安全的模型。

它還允許在世界各地採用一致的人工智能安全評估方法。據政府稱。

Inspect 是一個軟件庫，使測試人員（從初創企業、學術界、人工智能開發人員到國際政府）能夠評估各個模型的特定功能，然後根據結果給出分數。

Inspect 可用於評估一系列領域的模型，包括其核心知識、推理能力和自主能力。通過開源許可證發佈，這意味着 Inspect 現在可以免費供 AI 社區使用。

AI 安全研究所主席 Ian Hogarth 評論道：“我們受到了一些領先的開源 AI 開發人員的啓發，尤其是 GPT-NeoX、OLMo 或 Pythia 等項目，這些項目都擁有公開可用的訓練數據和 OSI 許可的訓練和評估代碼、模型權重和部分訓練的檢查點。這是我們回饋社會的努力。”

“我們希望看到全球人工智能社區不僅使用 Inspect 進行自己的模型安全測試，而且幫助適應和構建開源平台，以便我們能夠全面進行高質量的評估。”

英國首相 Rishi Sunak 於 2023 年 11 月在英國布萊切利公園舉行的人工智能安全峯會上宣佈成立英國人工智能安全研究所。

當時，蘇納克表示，英國政府對這個新實體的目標是使其成為一個全球中心，負責測試新興人工智能類型的安全性。