『155B.Strata/DAT 1.0.0/DGX Spark 64GB/NAS + HDD/オデュッセイア』のカバーアート

155B.Strata/DAT 1.0.0/DGX Spark 64GB/NAS + HDD/オデュッセイア

155B.Strata/DAT 1.0.0/DGX Spark 64GB/NAS + HDD/オデュッセイア

無料で聴く

ポッドキャストの詳細を見る
概要
今回のポッドキャストの概要:Strataによる巨大LLMのローカル実行、NAS導入による自宅ストレージ整備、DGX Spark 64GBとAmazonサポートへの愚痴、Meta Wearables DAT 1.0.0のアップデート、AI規制の雑談、映画『オデュッセイア』レビューなどについて話しました。StrataでQuen 3.8 FlashNextを12GB VRAMで動かす 本来128GB級VRAMが必要な125B MoEモデルを、GPU+RAM+NVMeをキャッシュ階層として使うことで12GB VRAM環境でも動かす仕組みについて。 Quen 3.8のMoE構造(48層・512エキスパート・Top-k 10)と、その特性を活かしたレイヤー単位キャッシュ戦略の話。 実際の必要メモリ(RAM 32〜64GB+NVMe前提)や、Mac(Apple Silicon)では厳しそうという話題も。NAS導入と自宅ストレージ構成(ツクモのセール戦利品) BTOショップ「ツクモ」の決算セールでHDDを物色した話。 Seagate 8TB HDDの特価品は売り切れだったものの、Synology 2ベイNASとWestern Digital 4TB HDDを購入。 GPU付き大型PCを常時稼働させず、NAS+ミニPC(約5W)に役割をオフロードして省電力な自宅サーバ構成にしていく計画。 ミニマリスト的には「そもそもNASが必要なほどデータを持たない」スタイルとの対比や、写真ライフログをAIの素材として残すか問題なども。DGX Spark 64GBとAmazon.comサポートの闇 128GBモデルが約3,999ドルだったのに、64GB版が約4,999ドルという「メモリ半減・価格増」のインフレ構成。 128GBモデルをAmazon.comで注文したが1か月届かず、サポートチャットの 窓口到達までの長いルーティング、 2分無応答で担当が自動ローテーション、 とりあえず「明日届く」と言うだけのオペレーター、 すぐ返金を勧めてくる態度などの愚痴。 この設計だと「丁寧に話すよりキレた方が得」になりがちでよくない、というインセンティブ設計の話。Meta Wearables DAT 1.0.0アップデート Meta Ray-Ban / Metaグラス向け開発キット「Device Access Toolkits (DAT)」がv1.0.0にメジャーアップデート。 アプリから高品質な写真撮影、音声・センサーデータの取得、オーディオ出力などが強化。 撮影時のLED点灯/点滅など、盗撮対策として「撮っています」を明示する仕様の話。 ダブルタップで入力→スマホ経由でGemini等LLMに投げる…といったAIアシスタント的な使い方の妄想。 AIと規制・セキュリティ雑談 米大統領とAI企業CEOの会合で、Anthropicのダリオ・アモディが「AIの開発を止めよう」と言ったシーンがバズっている話。 本気で危険視しているのか、他社へのブレーキを狙ったポジショントークなのか、という見方。 Gemma Argon周りの「うちのAIがサンドボックスをハックして外部に出ました」レポートが、もはや自慢のように見える話。 タイムズや九州電力などの情報漏えい通知が続く中、人間+AI(or AI単独)による攻撃の時代をどう生きるかという雑談。映画『オデュッセイア』感想(クリストファー・ノーラン) 約3時間だが、集中力が保てるくらいには面白かったとのレビュー。 ギリシャ神話『オデュッセイア』をベースに、トロイの木馬後の「帰還の旅」と父を待つ息子の視点を描いた作品。 全編IMAXカメラ撮影で、CGではなく実物の船を作って撮影するなど、映像の臨場感へのこだわり。 『閃光のハサウェイ』など、名前の元ネタとしてもニヤリとできる部分があるという話。 可能ならIMAXスクリーンでの鑑賞を推奨。(おまけ)方言ネタ 「よかなかと」「よくはなかと」など、会話中に自然に混ざる方言がXで話題になっているポストにも触れつつ、軽く盛り上がり。次回もお楽しみに。
adbl_web_anon_alc_button_suppression_t1
まだレビューはありません