
#23 富士通の「生成AI再構成技術」(1ビット量子化/特化型AI蒸留)を徹底解説
カートのアイテムが多すぎます
カートに追加できませんでした。
ウィッシュリストに追加できませんでした。
ほしい物リストの削除に失敗しました。
ポッドキャストのフォローに失敗しました
ポッドキャストのフォロー解除に失敗しました
-
ナレーター:
-
著者:
このコンテンツについて
富士通の「1ビット量子化」と「特化型AI蒸留(Takane LLM)」によって、大型LLMのメモリ使用量を94%削減しつつ、推論速度を3倍に向上させ、精度89%を維持する手法を分かりやすく解説します。その背景にある量子化・蒸留・組合せ最適化の技術的チャレンジと、その克服方法を丁寧に掘り下げ、エッジAIや現場AIアシスタントの未来像について展望します。補足:1ビット量子化について 1ビットは「+か−」しか表せない極限の圧縮で、普通なら誤差が溜まって精度が落ちやすいです。そこで富士通は誤差伝播を補正したり、符号の扱いを工夫することで1ビットでも実用レベルにしています。 PQQAの並列について 動画では触れられませんでしたが、PQQAの“並列”はポイントです。複数の探索を同時に走らせ、それぞれが情報をやり取りしながら進む仕組みで、局所解にハマらずに高速に最適解へ近づけるようになっています。※本動画は上記資料をもとに制作者が独自に要約・解説したものであり、各機関・企業の公式見解を示すものではありません。動画の内容は学術的な紹介・教育的解説を目的としたものであり、誤りがある場合もあります。正確な情報は必ず原典をご参照ください。SingularRadio(シンギュラーラジオ) は、テクノロジー、イノベーション、社会の未来について、深い知識と洞察を提供するポッドキャストです。 海外大(ブリティッシュコロンビア大学)でコンピュータサイエンスを専攻するKeisukeとTakeshiのホスト二人が、AI、ロボティクス、スタートアップ、経済などの最前線で起きている出来事を掘り下げ、知的好奇心を刺激する内容をお届けします。 TIMESTAMPS:(00:00:00) オープニング(00:00:57) 「生成AI再構成技術」とは(00:02:18) LLM肥大化の問題(00:03:21) 量子化と蒸留の基本概念(00:05:10) 量子化の仕組み(00:08:25) 量子化はなぜ難しい?(00:10:25) 量子化誤差伝搬法 - QEP (Quantization Error Propagation)(00:12:48) 並列擬似量子アニーリング - PQQA (Parallel Quasi-Quantum Annealing)(00:17:05) 富士通の量子化技術まとめ(00:22:02) 特化型AI蒸留(00:26:10) まとめ - どんな未来が来るか富士通の元記事(2025年9月8日リリース)はこちら:https://global.fujitsu/ja-jp/pr/news/2025/09/08-01QEP論文:Arai, Y., & Ichikawa, Y. (2025). Quantization Error Propagation: Revisiting Layer-Wise Post-Training Quantization. arXiv. https://doi.org/10.48550/arXiv.2504.09629PQQA論文:Ichikawa, Y., & Arai, Y. (2025). Optimization by Parallel Quasi-Quantum Annealing with Gradient-Based Sampling. In ICLR 2025 Poster. Retrieved from https://openreview.net/forum?id=9EfBeXaXf0▼運営会社(株式会社日本自動化技術)はこちら https://japan-automation-technology.vercel.app お仕事の御依頼は上記HPのお問い合わせフォームまたはsingularradio01@gmail.comまでご連絡ください。 Apple Podcast: https://podcasts.apple.com/us/podcast/id1809437976 Spotify: https://open.spotify.com/show/2nOYrpc9PhKQ5v7s81KzCW X (Twitter) アカウント:https://x.com/SingularRadio #量子化 #1ビット量子化 #富士通レッドウェーブ 富士通 #takanellm #生成AI再構成技術 #蒸留 #特化型AI蒸留 #singularradio