【智快網】10月27日消息，英國首相蘇納克日前宣布了一項雄心勃勃的計劃，即成立世界上首個AI安全研究所，旨在推動AI安全研究和國際合作，以降低AI技術所帶來的潛在風險。此次計劃還包括舉辦AI安全峰會，計劃于11月1日至2日舉行。

據智快網了解，這次AI安全峰會將聚集來自世界各國的AI公司、政府代表、民間團體以及相關領域的專家，旨在探討通過國際協調行動來減少AI技術可能引發的各種風險。蘇納克在演講中強調，新成立的研究所將扮演推動全球對AI安全的認知的角色，并將對新型AI技術進行深入研究、評估和測試，以了解其潛在能力，不僅僅是在社會層面的“偏見和誤導”，還包括可能帶來的“最極端的風險”。

蘇納克指出，“AI技術有可能讓制造化學或生物武器變得更容易，同時也可能被犯罪分子濫用。在極端情況下，甚至可能出現AI技術超越人類控制的情況，有時被稱為‘超級智能’。”

此外，據了解，蘇納克還將在下周即將召開的AI安全峰會上提出成立一個“真正全球化的專家小組”，該小組的成員將由與會國家和組織提名，同時將發布一份AI科學現狀報告，以推動全球AI安全研究和合作。

此前，英國反壟斷監管機構CMA(競爭與市場管理局)已經提出了管理AI模型的新標準，包括問責、透明度等重要事項。這些監管原則要求AI開發者和部署者對其技術的輸出內容負有責任，并禁止從事反競爭行為，為確保AI技術的道德和合法使用提供了重要方向。