『株式会社ずんだもん技術室AI放送局 podcast 20250603』のカバーアート

株式会社ずんだもん技術室AI放送局 podcast 20250603

株式会社ずんだもん技術室AI放送局 podcast 20250603

無料で聴く

ポッドキャストの詳細を見る

このコンテンツについて

 関連リンク MCPにおけるセキュリティ考慮事項と実装における観点（後編） この記事は、生成AIと外部の機能（ツールやデータ）を連携させるための技術仕様であるMCP（Model Context Protocol）のセキュリティについて、攻撃者の視点と、MCP Serverを提供する開発者が取るべき対策を中心に解説しています。前編では利用者の視点からセキュリティを考えましたが、後編では開発・運用側の視点に立ちます。 なぜMCPのセキュリティが重要かというと、MCP Serverは実行環境上でファイル操作やコマンド実行、外部サービスとの通信など、比較的広い権限を持って動作することが多いため、攻撃者に狙われやすいからです。攻撃されると、機密情報が盗まれたり、クラウド上のリソースを勝手に操作されたり、ひどい場合はシステムを踏み台にされてマルウェアを拡散されるといった被害が起こりえます。 攻撃者は主にMCPを構成する部分（生成AIアプリ、連携部分、サーバー）やその実行環境を狙います。具体的には、ユーザーに悪意のあるMCP Serverを誤って実行させたり、MCP Serverが利用する外部のデータを汚染したり、ファイルに仕込んだ見えない命令を使って意図しない操作をさせたりします。また、Streamable HTTP形式で動作するMCP Serverに対しては、ブラウザの仕組みを悪用したり、認証・認可が不十分なサーバーに直接アクセスしたりといった手口も考えられます。 これらの脅威に対し、開発者が行うべき基本的な対策はいくつかあります。まず、一般的なWebアプリケーションと同じように、ユーザーからの入力値（ファイルパスやURLなど）をしっかり検証・無害化し、Path TraversalやSSRF、コマンドインジェクションといった脆弱性を防ぐことが重要です。また、MCP特有の対策として、Toolの説明などをそのまま生成AIのプロンプトに含めず構造化情報として渡す工夫や、Tool実行時にはユーザーに確認を求める仕組みを入れることで、意図しない機能実行を防ぐことができます。 Streamable HTTP形式でローカルで動かす場合は、外部からアクセスされないようにlocalhostのみにバインドすること、Originヘッダで通信元を確認すること、不要なCORS設定をしないことが対策になります。もしMCP Serverをリモートで公開する場合は、通信をHTTPS化し、アクセス制御（IP制限や認証/認可）をしっかり導入することが必須となります。特に認可にはOAuth 2.1に準拠した仕組みを導入し、外部サービスとの連携時にはSession Bindingを考慮した安全な実装が必要です。 MCPのセキュリティ対策はまだ発展途上であり、新しい攻撃手法も出てくる可能性があります。記事の付録には実装者向けのチェックリストも載っているので、ぜひ活用しながら、常に最新の情報をキャッチアップして安全なMCPの実装・運用を目指しましょう。 引用元: https://blog.flatt.tech/entry/mcp_security_second Beyond the Black Box: Interpretability of LLMs in Finance この論文は、金融分野で活用が広がる大規模言語モデル（LLM）の「解釈可能性」、つまり「なぜAIがその結果を出したのか」を理解することの重要性とそのための技術について論じています。 LLMは現在、金融業界において、レポート作成、顧客対応チャットボット、市場センチメントの分析、規制遵守のチェック、投資アドバイス、情報の検索や要約など、様々なタスクで優れた能力を発揮しています。しかし、LLMは非常に複雑な構造を持つため、内部の動作原理が分かりにくい「ブラックボックス」状態になりやすいという大きな課題があります。 金融業界は、その性質上、極めて厳格な規制があり、システムに対する高いレベルの透明性、公平性、そして何か問題が起きた際に責任を明確にするための説明責任が不可欠です。「AIがなぜその判断を下したのか」を説明できなければ、特に人の財産や重要な判断に関わる場面で、安心して利用することが難しいのです。 この論文では、この課題を解決するために、「機構的解釈可能性（Mechanistic Interpretability）」という比較的新しい技術アプローチを、金融分野で初めて応用した事例として提示しています。機構的解釈可能性とは、LLMの内部構造や動作を文字通り「分解して...

株式会社ずんだもん技術室AI放送局 podcast 20250603に寄せられたリスナーの声

カスタマーレビュー：以下のタブを選択することで、他のサイトのレビューをご覧になれます。

Audible.co.jp

Amazon.co.jp
レビューはまだありません。