行業新聞與部落格

英國人工智慧安全研究所已於 2024 年 5 月 10 日向全球人工智慧社群開放其人工智慧測試和評估平臺。

據人工智慧安全研究所和科學、創新與技術部 (DIST) 稱，該平臺名為 Inspect，旨在為人工智慧模型的安全創新鋪平道路。

該研究所表示，透過向全球社群提供 Inspect，它正在幫助加快國際上開展的人工智慧安全評估工作。目的是更好地進行安全測試並開發更安全的模型。

它還允許在世界各地採用一致的人工智慧安全評估方法。據政府稱。

Inspect 是一個軟體庫，使測試人員（從初創企業、學術界、人工智慧開發人員到國際政府）能夠評估各個模型的特定功能，然後根據結果給出分數。

Inspect 可用於評估一系列領域的模型，包括其核心知識、推理能力和自主能力。透過開源許可證釋出，這意味著 Inspect 現在可以免費供 AI 社群使用。

AI 安全研究所主席 Ian Hogarth 評論道：“我們受到了一些領先的開源 AI 開發人員的啟發，尤其是 GPT-NeoX、OLMo 或 Pythia 等專案，這些專案都擁有公開可用的訓練資料和 OSI 許可的訓練和評估程式碼、模型權重和部分訓練的檢查點。這是我們回饋社會的努力。”

“我們希望看到全球人工智慧社群不僅使用 Inspect 進行自己的模型安全測試，而且幫助適應和構建開源平臺，以便我們能夠全面進行高質量的評估。”

英國首相 Rishi Sunak 於 2023 年 11 月在英國布萊切利公園舉行的人工智慧安全峰會上宣佈成立英國人工智慧安全研究所。

當時，蘇納克表示，英國政府對這個新實體的目標是使其成為一個全球中心，負責測試新興人工智慧型別的安全性。