『AIエージェント日次速報 2026年11月1日版　見張り役のフックが壊れたとき、通すか止めるかを先に決める』のカバーアート

AIエージェント日次速報 2026年11月1日版　見張り役のフックが壊れたとき、通すか止めるかを先に決める

AIエージェント日次速報 2026年11月1日版　見張り役のフックが壊れたとき、通すか止めるかを先に決める

無料で聴く

ポッドキャストの詳細を見る
概要
 本番のファイルを消すコマンドを止めるフックを書いたとする。動作も確かめてある。数日後にスクリプトを別のフォルダへ移し、設定ファイルの参照先を直し忘れる。フックは起動できなくなるが、画面には小さな警告が一行出るだけで、エージェントは止まらない。禁止したはずのコマンドが、何事もなく通る。禁止をプロンプトに書かず、外側のフックに任せたのは、モデルの気分に左右されない関門が欲しかったからだ。その関門が壊れたときの動きを決めていなければ、関門は最も肝心な日に消える。 仕組みはこうだ。フックはモデルとは別のプロセスで動く。モデルは確率で従うが、フックは終了コードと出力で結果を返す。ところが「許可」「拒否」のほかに「フック自身が失敗した」という...
adbl_web_anon_alc_button_suppression_t1
まだレビューはありません