9月29日公開的《白宮超級智能協議》,要前沿模型公司在原有預防之外做四層管控:內部監控、內部團隊、外部獨立審計,以及董事會的獨立委員會。路透引述總統稱這份一頁文件具有道德約束力;刊出的全文則把四層寫成各公司應該做的步驟,並寫明日後或會寫進法例。
協議正文寫了哪四層
全文先寫:每一家訓練和部署前沿模型的公司,都要有穩健的內部程序和管控,讓技術按預期運作,問題也能盡快被發現和處理。接着列出四層。
- 內部管控。在訓練和部署期間監察模型的能力與對齊,範圍包括網絡安全、生物安全、化學威脅,並確保模型不會以非預期方式入侵或存取技術系統。
- 內部團隊。有人負責確認管控、監察和偵測都在按預期運作,發現的問題要補救。
- 外部審計。與獨立的外部審計或評估方合作,由對方判斷上述機制是否真的在運作。
- 董事會委員會。指定一個獨立的董事委員會,接收負責管控的團隊以及內外部審計的報告,並確保已指出的問題得到補救。
正文最後寫,這四步是為了讓公司、客戶和公眾都有依據相信技術在按預期運作。參與的公司還會定期開會,訂立標準和較好的做法。
| 層 | 協議要公司做的事 |
|---|---|
| 1 | 內部管控:監察能力、對齊,以及非預期的系統存取 |
| 2 | 內部團隊跟進,確認機制在運作並補救問題 |
| 3 | 獨立外部審計或評估 |
| 4 | 董事會獨立委員會接收報告並跟進 |
這是法例,還是各公司的承諾
刊出的全文沒有寫成立即生效的法律。它用的句式是「我們相信每一家公司應該」實行這四層。後段寫,日後把這些步驟寫進法律或規例或許說得通;無論是否被要求,各公司都承諾去做。
路透報道的是總統對這份文件的形容:具有道德約束力,並提到當局在考慮成立一個約十人的委員會去看整個領域。那句話出自總統對記者的說法,協議正文沒有寫進條文。
《華盛頓審查者》列出的簽署人,是 Google、Meta、Anthropic、SpaceXAI、Nvidia 的行政總裁,以及 OpenAI 的總裁。協議把這幾家公司的承諾放在同一頁。它沒有寫罰款、沒有寫違約之後誰去執法,也沒有公布各公司現有管控的檢查結果。
同一天的 GPT-6.1 Sol 放在哪裡
OpenAI 在 9月29日的產品頁推出 GPT-6.1 Sol,稱為 GPT-6 Sol 的升級。官方寫它在代理式寫程式、電腦操作和專業工作上接近 GPT-6 Astra,標準輸入和輸出 token 的價格約為 Astra 的五分之一。
應用程式介面的模型名稱是 gpt-6.1-sol。標價以美元計,每百萬 token 為輸入 2 美元、快取輸入 0.10 美元、輸出 10 美元。快取輸入比標準輸入低 95%,也比 GPT-6 Sol 的快取輸入低一半。官方說即日起向 Plus、Pro、Business、Enterprise 和 Edu 用戶開放於 ChatGPT Work 和 Codex,尚未進入 Chat。Codex 之後會另有 Ultrafast,官方稱生成速度最高可達標準的 8 倍。
官方舉的一個事實性例子:在刻意挑選、容易出錯的提示上,低推理力度的事實錯誤比例由 GPT-6 Sol 的 11.4% 降到 7.7%。頁面同時寫明,這類測試刻意挑選容易出錯的對話,不能代表日常錯誤率。DeepSWE 等程式測驗的分數來自官方自己的對照,用來說明接近 Astra、成本低一截。
dots 是什麼,誰可以先用
同一天的 DevDay 回顧還推出 dots。OpenAI 寫這是由 GPT-6 Astra 驅動的全日代理人:自備雲端電腦和瀏覽器,可經插件連接逾 4,000 個應用,透過 ChatGPT、Slack 或 Teams 聯繫。短訊仍寫「即將推出」。用戶可以打開它的電腦看它在做什麼;若另行授權,它也可以連接你的手提電腦。
推出範圍寫得很窄。Pro 和 Business Premium 在合資格市場可以建立第一個 dot,包含在現有計劃裡,不另收費;計劃另有較深入工作的用量,首月放寬。Enterprise、Edu 和 Healthcare 要等工作區管理員開啟測試版,預設是關的。與 dot 的對話不計入 ChatGPT 用量上限;若要它在 Codex 或 ChatGPT Work 啟動任務,那些任務照常計入上限。
無人看管時,它會做官方稱為主動研究的背景工作,但工具限制為唯讀:不能發訊息、不能改應用內容、不能控制瀏覽器或電腦。監測到安全問題,系統可以暫停或停止。改密碼一類敏感操作仍留在用戶手上。官方頁沒有列出香港是否屬於合資格市場,這一點要以說明中心的市場名單為準。
相關討論
總結
這輪最值得先讀的,仍是那份四層協議:它把內部管控、內部團隊、外部審計和董事會委員會寫進同一頁,正文也寫明這些步驟尚未成為法例。GPT-6.1 Sol 和 dots 是同一天的產品頁,分別回答較便宜的一檔放在 ChatGPT Work 和 Codex、以及全日代理人先向哪類計劃開放。Sol 尚未進入 Chat;dots 的企業版預設關閉。兩則都要對着 OpenAI 的頁面看。協議裡的承諾,不能代替產品頁上的安全測試結果。
