不怕 AI 代理人失控亂跑！OpenAI 秘密研發「自動終止」功能　防堵資安漏洞變駭客

為防範失控風險，OpenAI 正在研發自動終止機制，以確保自主 AI 代理人在安全框架內運作。針對沙盒逃逸疑慮，OpenAI 透過自動終止功能強化監控，嚴格控管 AI 代理人調用工具的...隨著具備自主規劃與執行能力的 AI 代理人（AI Agent）快速演進，AI 自主行為所衍生的資安與失控風險也引發全球高度關注。 根據外媒路透社最新披露的一份內部信件，人工智慧巨頭 OpenAI 正積極為其 AI 系統研發一套關鍵的「自動終止功能（Auto-Kill Switch）」。此舉旨在建立更嚴密的自動化防線，防止具備自主能力的 AI 代理人在執行複雜任務或測試時偏離安全預設軌道，甚至突破沙盒隔離環境...