New 一對一 AI 實戰課,不設班期,直接預約 →

最新 AI 貼士 · AI News

OpenAI 啟動首階段嵌入式評估:與四家獨立機構簽署協議

OpenAI 於 2026 年 11 月 16 日宣布與 Apollo Research、METR、Transluce 及 Goodfire 簽署首階段嵌入式評估協議,讓獨立專家深入取用內部模型與系統;原文並未公布評估結論。

AI News 封面插圖:OpenAI 與 ChatGPT(二)

OpenAI 新聞來源摘要

本文目錄:這則更新發生了甚麼及何時公布 | 已確認事實與尚未確認事項 | 這則更新會影響誰、影響甚麼決定 | 現在可以採取的核對步驟 | 文章參考資料

這則更新發生了甚麼及何時公布

OpenAI 於 2026 年 11 月 16 日在官方網誌發布 Our first phase of embedded assessments。原文寫明,該公司已與四家獨立評估機構簽署協議:Apollo Research、METR、Transluce 與 Goodfire,作為首階段嵌入式評估(embedded assessments)。

官方對嵌入式評估的說明是:讓獨立專家在一段較長時間內,深入取用實驗室的內部模型與系統,以評估模型對齊(alignment)以及保障措施是否有效,尤其是與安全論證(safety cases)相關的部分。按各項評估的需要,評估方可取用部分與 OpenAI 研究人員相同的內部資源,包括模型檢查點、原始程式碼、訓練與評估資料、監控系統、技術文件,以及與負責該工作的研究及工程人員討論。

這則公告的性質是啟動安排與範圍說明,而不是公布已經完成的評分。原文把初始焦點放在模型訓練期間及內部使用時的對齊與保障,用以補充安全論證,並提到這建基於該公司既有的第三方評估原則,以及先前工作,包括一項對內部監控系統、具深度內部取用的試驗評估,以及一項與 Hugging Face 事件相關的調查。本文不推論那些舊項目的結論,也不把這則公告寫成與本站其他舊文同一主題的重寫。

已確認事實與尚未確認事項

Apollo Research 的試驗評估,會檢視模型會否暗中違反開發者意圖,以及現有保障能否偵測此類行為。官方列出四項主張,分兩階段處理:訓練並未激勵顛覆行為;強力評估與紅隊測試未能誘發顛覆行為;內部使用期間模型未曾嘗試顛覆;顛覆背後的推理可被偵測。第一階段的取用範圍包括選定的公開及未發布模型與訓練檢查點、相關訓練資料與評估結果、訓練干預紀錄、監控系統與被標記行為,以及可提供背景的研究人員,並提供獨立測試所需的工具與運算。

Goodfire 會派駐可解釋性(interpretability)研究人員,並使用 Goodfire 平台分析模型內部。主要目標是訓練過程的監控、除錯與對齊。官方寫明,這項評估的主要對象是 OpenAI 內部研究人員,以便把發現用於改善安全;Goodfire 亦會在合作進行期間,公開學習所得與發現。

METR 方面,官方打算進行兩項評估。對齊評估的第一階段,會檢視該公司迄今最大型強化學習訓練中的錯位行為,包括現有測試與監控可能遺漏的失效。在選定訓練、已協定取用、資源與安全安排之內,METR 可獨立設定優先次序,並反覆進行搜尋、分析與誘發實驗。取用包括抽樣相關檢查點、訓練與評估 rollout,以及該次訓練的錯位監控紀錄。官方註腳同時寫明,此範圍較 METR 對齊評估建議書所設想的廣泛調查更窄。監控評估方面,雙方近日曾進行監控壓力測試,並已初步同意再做一項範圍更廣的監控評估,但仍待就範圍達成協議。

Transluce 會先評估訓練後對齊評估的質素與覆蓋範圍。初始取用包括選定的公開及未發布模型、訓練後對齊評估及相關結果、輔助的模型行為資料與安全論證文件、研究人員,以及測試所需工具與運算。雙方亦打算在 2027 年初再進行約八週的後續評估,取用更多模型、更深入的對齊評估,以及評估結果如何影響模型發布決定的資訊。

在工作方式上,每項評估先議定範圍、取用、資源與安全安排;評估者可跟着證據調整方法,並在有需要時提出追加取用。若直接取用可能暴露最敏感的知識產權,例如模型權重或架構,官方會考慮替代方案,包括讓評估者與 OpenAI 研究人員一起執行分析。需要取用敏感機密資訊的評估者,須在 OpenAI 辦公室現場工作,並使用該公司提供的裝置;官方期望評估者在實驗時,至少遵守與員工相同的保安標準。

監督方面,OpenAI Foundation 董事會轄下的獨立監督委員會 Safety and Security Committee(SSC)可在評估前後及期間履行監督,並收取未經刪減的報告;評估者與 SSC 亦可私下交流。分歧會先呈交 Safety Advisory Group 及管理層,於指定時限內處理,並即時知會 SSC;若仍未解決,則交由 SSC 裁決。與員工的討論屬 off the record:可作為評估依據,但不可公開或歸於個別員工。另設認證(attestation)途徑,評估者可要求 OpenAI 就討論中得知的事項作出核證、更正或澄清,其後可公開已核證的陳述,或披露該公司拒絕核證。

官方亦披露報酬安排:Apollo Research 與 Goodfire 接受金錢報酬,但報酬不取決於評估結果;METR 與 Transluce 不就評估收取金錢報酬,但可接受在評估範圍內使用的 API 額度或運算。OpenAI 表明,不認為收取報酬必然損害獨立性,但認為應予披露。利益衝突與冷卻期仍在與評估者共同制定;參與嵌入式評估的第三方機構人員,被要求在轉往另一人工智能開發機構進行嵌入工作前,遵守短暫冷卻期。評估者在發表方面保持獨立,但 OpenAI 保留刪去機密資訊的權利,亦可要求負責任的披露延遲,以便處理可能構成安全或保安風險的發現。

尚未確認、因而不可寫成已發生的事實包括:各項評估已經完成、已有公開評分或最終結論、四家機構均已進駐現場,以及今次評估涉及哪些具體模型名稱。官方提及的 White House Accord on Super Intelligence,應讀成該公司自行說明的承諾框架,而不是已在香港實施的法定要求。

這則更新會影響誰、影響甚麼決定

這則更新主要影響需要判斷「獨立評估究竟看到了實驗室內部哪些東西」的讀者,包括關注模型對齊、保障措施與發布決定的研究、政策與企業風險人員。它提供的是取用範圍、監督安排與發表規則,而不是一份可以立即引述的合格證明。

對正在考慮如何引入第三方評估的機構來說,原文展示了一些需要預先寫清的事項:範圍如何議定、敏感資料如何在現場環境處理、員工訪談能否公開、誰有權刪減或延遲披露,以及報酬與冷卻期如何披露。這些安排不能直接套用到其他實驗室或香港機構,但可以用來檢查自己的評估合約是否同樣清楚。

一般產品或課程使用者不必因此改變即日操作。較穩妥的做法,是等待各機構後續的公開報告,並把報告的範圍、限制與官方原文一併閱讀,而不是把「已簽署協議」理解成風險已經消除。

現在可以採取的核對步驟

  1. 閱讀 OpenAI 原文,核對四家機構的任務、取用範圍,以及「評估尚未公布結論」這項界限。
  2. 如需了解近日監控紅隊測試的背景,可參閱 METR 於 2026 年 10 月 22 日的相關說明,並只把它視為延伸資料,不要把該文未寫明的結論加進本次首階段評估。
  3. 把這則公告與本站其他已刊出的第三方評估或事件調查新聞分開處理,避免將不同時間、不同範圍的安排讀成同一件事。
  4. 若你的機構也打算引入獨立評估,應另外訂明範圍、保密、現場取用、發表與監督安排,而不是假設可以沿用這份公告中的條款。

若企業團隊希望先建立對人工智能風險治理與評估方法的共同理解,可以參考 AI Academy HK 的企業 AI 培訓,再按實際職責決定後續查詢。

文章參考資料

OpenAI,Our first phase of embedded assessments,2026 年 11 月 16 日公布:https://openai.com/index/our-first-phase-of-embedded-assessments。本文於 2026 年 11 月 17 日查閱。

METR,Red teaming OpenAI agent monitoring,2026 年 10 月 22 日:https://metr.org/blog/2026-10-22-red-teaming-openai-agent-monitoring/。此為 OpenAI 原文註腳提及的延伸資料;本文只轉述 OpenAI 已寫明的取用範圍,並未引述該文的完整結論。查閱日期:2026 年 11 月 17 日。

本頁僅供一般資訊與學習用途,不構成法律、醫療、臨床、投資、採購或專業意見。

學習 AI,保護你的未來。

分享本文

返回最新 AI 貼士與 AI News

AI.Academy

想把這則更新用在工作上?

先核對原文,再用一個真實任務試做。需要導師在課堂帶著完成時,可報讀 AI Academy HK 實戰課。

  • 易上手
  • 一對一實戰
  • 帶走作品

不確定應該從哪一堂開始?

MISA:We're here to help