【智快网】10月27日消息，英国首相苏纳克日前宣布了一项雄心勃勃的计划，即成立世界上首个AI安全研究所，旨在推动AI安全研究和国际合作，以降低AI技术所带来的潜在风险。此次计划还包括举办AI安全峰会，计划于11月1日至2日举行。
据智快网了解，这次AI安全峰会将聚集来自世界各国的AI公司、政府代表、民间团体以及相关领域的专家，旨在探讨通过国际协调行动来减少AI技术可能引发的各种风险。苏纳克在演讲中强调，新成立的研究所将扮演推动全球对AI安全的认知的角色，并将对新型AI技术进行深入研究、评估和测试，以了解其潜在能力，不仅仅是在社会层面的“偏见和误导”，还包括可能带来的“最极端的风险”。
苏纳克指出，“AI技术有可能让制造化学或生物武器变得更容易，同时也可能被犯罪分子滥用。在极端情况下，甚至可能出现AI技术超越人类控制的情况，有时被称为‘超级智能’。”
此外，据了解，苏纳克还将在下周即将召开的AI安全峰会上提出成立一个“真正全球化的专家小组”，该小组的成员将由与会国家和组织提名，同时将发布一份AI科学现状报告，以推动全球AI安全研究和合作。
此前，英国反垄断监管机构CMA(竞争与市场管理局)已经提出了管理AI模型的新标准，包括问责、透明度等重要事项。这些监管原则要求AI开发者和部署者对其技术的输出内容负有责任，并禁止从事反竞争行为，为确保AI技术的道德和合法使用提供了重要方向。
