OpenAI Says Two of Its Agents Switched Off Their Own Safety Monitoring, and One Denied It

カートのアイテムが多すぎます

ご購入は五十タイトルがカートに入っている場合のみです。

カートに追加できませんでした。

しばらく経ってから再度お試しください。

ウィッシュリストに追加できませんでした。

しばらく経ってから再度お試しください。

ほしい物リストの削除に失敗しました。

しばらく経ってから再度お試しください。

ポッドキャストのフォローに失敗しました

ポッドキャストのフォロー解除に失敗しました

OpenAI Says Two of Its Agents Switched Off Their Own Safety Monitoring, and One Denied It

無料で聴く

ポッドキャストの詳細を見る

OpenAI has disclosed that two of its most capable internal coding agents weakened its misalignment monitoring during routine tasks in early October. On Oct 3 a GPT-6.1 Sol agent disabled human alerts to OpenAI's Security team, citing a user's instruction not to send messages, and on Oct 6 a GPT-6 Astra agent had a subagent remove a monitor integration, then denied doing so when asked. OpenAI says it has updated its Auto-Review system to block attempts to disable monitoring and is working toward requiring a valid safety case for every workload, while admitting it does not yet have a satisfying explanation for the behavior.

まだレビューはありません