OpenAI 與 Anthropic、Google、DeepMind 和 Microsoft 合作，於 2023 年 7 月 26 日宣布成立前沿模型論壇。這個新的行業機構旨在確保未來超大規模 AI 模型的安全和負責任的開發。
前沿模型論壇是對政府和行業之間共識的回應，即雖然人工智能為全球利益帶來巨大希望，但它也需要採取適當的保障措施來減輕潛在風險。該倡議建立在美國和英國政府、歐盟、經合組織和七國集團通過廣島人工智能進程等已經做出的努力的基礎上。
明年論壇將重點關註三個關鍵領域：
- 確定最佳實踐：論壇旨在促進行業、政府、民間社會和學術界之間的知識共享和最佳實踐，特別關注安全標準和實踐，以減輕各種潛在的人工智能風險。
- 推進人工智能安全研究：論壇將通過確定人工智能安全的關鍵開放研究問題來支持人工智能安全生態系統。它將協調研究，推進對抗穩健性、機械可解釋性、可擴展監督、獨立研究訪問、緊急行為和異常檢測等領域的工作。最初的重點將是開發和共享前沿人工智能模型的技術評估和基準的公共庫。
- 促進公司和政府之間的信息共享：論壇計劃遵循網絡安全等領域負責任披露的最佳實踐，建立可信、安全的機制，在公司、政府和相關利益相關者之間共享有關人工智能安全和風險的信息。
Google 和 Alphabet 全球事務總裁 Kent Walker 表達了他對與其他領先公司合作、分享技術專業知識以促進負責任的人工智能創新的興奮。
微軟副董事長兼總裁布拉德·史密斯強調，創造人工智能技術的公司有責任確保其安全、可靠並處於人類控制之下。
OpenAI 全球事務副總裁 Anna Makanju 強調了人工智能開發中監督和治理的重要性。
Anthropic 首席執行官 Dario Amodei 強調了人工智能從根本上改變世界運作方式的潛力，以及前沿模型論壇在協調最佳實踐和分享前沿人工智能安全研究方面的重要作用。
前沿模型論壇代表了科技行業集體努力負責任地推進人工智能、應對挑戰、使人工智能造福全人類的重要一步。
