『株式会社ずんだもん技術室AI放送局 podcast 20251224』のカバーアート

株式会社ずんだもん技術室AI放送局 podcast 20251224

株式会社ずんだもん技術室AI放送局 podcast 20251224

無料で聴く

ポッドキャストの詳細を見る

このコンテンツについて

youtube版(スライド付き) 関連リンク Googles year in review: 8 areas with research breakthroughs in 2025 2025年は、AIが単なる「便利な道具」から、自ら考え、行動し、人間と共に探求する「実用的なエージェント(Utility)」へと進化した、エンジニアにとって非常に刺激的な1年となりました。Googleが発表した8つの主要分野におけるブレイクスルーを、若手エンジニア向けに要約して紹介します。 1. 基盤モデルの飛躍:Gemini 3の登場 2025年の最大の成果は、推論能力と効率性が劇的に向上した「Gemini 3」シリーズのリリースです。最上位の「Gemini 3 Pro」は、人間のような深い思考をテストする複雑なベンチマークで最高スコアを記録しました。特筆すべきは「Gemini 3 Flash」で、前世代のProモデルを凌駕する性能を持ちながら、圧倒的な低遅延と低コストを実現しています。「次世代のFlashは前世代のProを超える」という進化のサイクルが確立されました。 2. 開発体験の変革:エージェント型AIの普及 開発者向けのツールは、コード補完を助ける段階から、開発者と協力してシステムを構築する「エージェント型」へと進化しました。新たな開発支援システム「Google Antigravity」の登場は、AIが自律的にタスクを遂行する新しいソフトウェア開発時代の幕開けを象徴しています。 3. 科学と数学におけるパートナーとしてのAI AIが科学者の「共同研究者」として定着しました。タンパク質構造予測の「AlphaFold」は5周年を迎え、300万人以上の研究者に活用されています。また、Geminiに搭載された「Deep Think」機能は、国際数学オリンピックや競技プログラミング(ICPC)でゴールドメダル級の成績を収め、高度な抽象的推論が可能であることを証明しました。 4. コンピューティングとハードウェアの進化 AIモデルを支えるインフラも進化しています。AIチップの設計自体をAI(AlphaChip)が行う手法により、推論に特化した新型TPU「Ironwood」が開発されました。また、量子コンピューティング分野ではGoogleの研究者がノーベル物理学賞を受賞するなど、実用化に向けた理論と技術の両面で大きな前進がありました。 5. オープンモデル「Gemma 3」と責任ある開発 Googleは、単一のGPUやTPUでも動作する軽量なオープンモデル「Gemma 3」を公開し、誰もが最先端技術に触れられる環境を整えました。同時に、AIが生成した動画や画像の検証機能の強化など、安全性(AI Safety)への取り組みも最優先で行われています。 2025年の動向は、AIを「いかに使いこなすか」だけでなく、AIを「いかにエージェントとしてシステムに組み込むか」が重要になったことを示しています。新人エンジニアの皆さんは、これらの新しいAPIやエージェントの概念をぜひ積極的にキャッチアップしてみてください。 引用元: https://deepmind.google/blog/googles-year-in-review-8-areas-with-research-breakthroughs-in-2025/ GPT-1 から GPT-5.2 まで: LLM の特殊トークン徹底解説【2025年12月最新】 本記事は、大規模言語モデル(LLM)の内部で重要な役割を果たす「特殊トークン」の変遷について、黎明期のGPT-1から最新のGPT-5.2までを技術的に解説したドキュメントです。新人エンジニアの方に向けて、LLMがどのように進化し、どのような仕組みで私たちの意図を汲み取っているのかを解き明かします。 1. 特殊トークンとは何か LLMはテキストを「トークン」という単位に分割して処理しますが、通常の単語以外に「ここから会話開始」「ここで思考を終了」といった制御情報をモデルに伝えるための予約されたトークンが存在します。これが特殊トークンです。 2. トークナイズ方式の基礎知識 モデルが文字を認識する仕組みには、以下の主要な方式があります。 WordPiece: BERT等で採用。単語をサブワードに分解する。BPE (Byte Pair Encoding): GPT系で採用。出現頻度の高い文字の組み合わせを統合する。バイトレベル BPE: GPT-2以降で採用。UTF-8のバイト単位で処理するため、未知語(語彙にない文字)が発生しません。 3. 歴史に見る特殊トークンの進化 黎明期(GPT-1, BERT): 文末を示す<|endoftext|>や、BERTの穴埋め問題用[MASK]など、文章構造を示すシンプルなものでした。チャットの登場(GPT-3.5): 単なる「続きの予測...
まだレビューはありません