『株式会社ずんだもん技術室AI放送局 podcast 20250910』のカバーアート

株式会社ずんだもん技術室AI放送局 podcast 20250910

株式会社ずんだもん技術室AI放送局 podcast 20250910

無料で聴く

ポッドキャストの詳細を見る

このコンテンツについて

 関連リンク SafetyKit’s blueprint for scaling risk agents with OpenAI’s most capable models 新人エンジニアの皆さん、こんにちは！今回は、OpenAIの最新AIモデル、特にまだ未公開の「GPT-5」が、オンラインの安全を守るためにどのように活用されているかをご紹介します。 「SafetyKit」という会社は、オンラインマーケットプレイスや決済サービス、金融テック企業（フィンテック）が抱える、詐欺や規約違反といった問題に対処するAIエージェントを開発しています。彼らのAIは、テキストだけでなく画像や取引データなど、さまざまな種類の情報（マルチモーダル）を分析し、人間では見逃しやすいような複雑なルール違反（例えば、詐欺画像に隠された電話番号や地域ごとの特別な規制など）を検出します。これにより、ユーザーは安心してサービスを使え、企業は法規制違反のリスクを減らせるだけでなく、人間が不快に感じるようなコンテンツのチェック作業から解放され、より高度な判断業務に集中できるようになります。 SafetyKitは、OpenAIの強力なAIモデルを、タスクの特性に合わせて賢く使い分けています。 GPT-5：複数の情報源（テキスト、画像、UIなど）を横断的に分析し、複雑な状況から隠れたリスクを深く推論して、精密な意思決定を支援します。まるで探偵がさまざまな証拠を合わせて事件を解決するようなイメージです。GPT-4.1：大量のコンテンツを効率的に処理し、詳細な利用規約（ポリシー）に厳密に沿ったモデレーションを安定して行う役割を担います。 これらのモデルに、AIの精度を高める「強化学習によるファインチューニング」や、自動でオンライン調査を行う「Computer Using Agent (CUA)」といった技術を組み合わせることで、95%以上の高い精度で、すべてのコンテンツを網羅的にレビューできる体制を構築しています。 特に、グレーゾーンで判断が難しい場面ではGPT-5の能力が光ります。例えば、ある商品が特定の地域で販売される際に、法律で定められた注意書きが必要かどうかを判断する場合、GPT-5はポリシーの細かなニュアンスを理解し、記載内容が適切かを精密に評価します。これにより、従来のシンプルなルールでは見分けられないような、複雑で微妙な判断も正確に行えるようになりました。 SafetyKitは、OpenAIが新しいAIモデルをリリースすると、すぐにその性能を検証し、効果があれば自社のシステムに迅速に導入しています。このスピード感が、常に進化する詐欺の手口やリスクに対応し続ける原動力となっています。実際に、彼らが処理するデータ量は短期間で大幅に増加しており、支払リスク、詐欺、不適切なコンテンツ対策など、さまざまな分野でその適用範囲を広げています。 このように、SafetyKitはOpenAIの最先端AI技術を巧みに組み合わせることで、私たちのデジタル生活をより安全で信頼できるものにしています。AIエージェントが、複雑なオンライン環境における「目に見えない守り手」として活躍する、先進的な事例と言えるでしょう。 引用元: https://openai.com/index/safetykit AIAgentにAI最新情報まとめ資料を作ってもらう会【LangGraph&LangSmith】 この記事では、AIエージェントが最新のAI情報を集め、自動でプレゼンテーション資料を作成するPoC（概念実証）について、具体的な実装を通して解説しています。Pythonを使って、LangChain、LangGraph、LangSmithといった主要なAI開発ツールを組み合わせた事例で、新人エンジニアの方でもAIエージェント開発の全体像と各ツールの役割を理解しやすい内容です。 資料作成の自動化フローは、以下のステップで構成されます。 情報収集 (collect_info): Web検索API「Tavily」を使って、AI関連の最新情報を自動で集めます。アウトライン生成 (make_outline): 収集した情報を基に、スライドの骨子（重要ポイントの箇条書き）を作成します。目次生成 (make_toc): アウトラインから、スライドの章立て（目次）を生成します。スライド本文生成 (write_slides): MarpというMarkdownベースのスライド作成ツールを活用し、情報と目次に基づいてスライドの本文を作成します。自動評価とリトライ (evaluate_slides): 生成されたスライドの品質を自動で評価します。...
まだレビューはありません