英國首相Rishi Sunak揭開英國人工智慧安全研究所的面紗

• 資訊


總理Rishi Sunak宣佈英國AI安全研究所的成立，這是展示英國致力於負責任發展人工智慧(AI)的重要一步。

一個開創性的人工智慧安全機構

這個開創性的研究所將成為世界上第一個旨在解決與人工智慧相關的各種風險的機構，從產生錯誤資訊到人工智慧可能構成生死存亡的威脅。Sunak的聲明是在全球人工智慧安全峰會之前宣佈的，該峰會計劃在歷史悠久的布萊切利公園舉行。

值得注意的是，英國政府已經以其前沿AI工作組的形式建立了安全研究所的原型，該工作組今年早些時候開始審查尖端AI模型的安全性。

政府的願望是將該研究所發展成為人工智慧安全方面的國際合作平臺。此舉符合全球共同努力應對人工智慧風險和確保負責任使用人工智慧技術的必要性。

Sunak宣佈的一個值得注意的方面是，政府拒絕支持暫停先進的人工智慧開發。當被問及支持暫停或禁止開發包括人工通用智慧(AGI)在內的高能力人工智慧系統時，Sunak表示，“我不認為這是可行的或可執行的。”

在美國方面，美國證券交易委員會主席加裡·詹斯勒表達了濃厚的興趣在利用人工智慧的能力和適應現行證券法的必要性方面。

正在進行的人工智慧發展辯論

圍繞人工智慧安全和發展的辯論最近達到了新的高度。今年3月，包括埃隆·馬斯克在內的數千名知名科技界人士簽署了一封公開信呼籲立即暫停創建“巨型”人工智慧機構至少六個月。

英國政府風險評估中強調的一個關鍵問題是人工智慧，特別是先進的人工智慧系統，可能構成生存威脅。這種承認了預測人工智慧發展的重大不確定性，以及高能力人工智慧系統如果失調或控制不當，確實可能成為存在的威脅。

政府風險檔案中詳細描述的其他威脅包括人工智慧設計生物武器的潛力，產生高度定向的虛假資訊，以及大規模擾亂就業市場。

聯系郵箱：0xniumao@gmail.com






赞 (0)
上一篇 2023年10月28日 pm1:01
下一篇 2023年10月28日 pm1:01

相关推荐