『152 - KI-Modellbezeichnungen』のカバーアート

152 - KI-Modellbezeichnungen

152 - KI-Modellbezeichnungen

無料で聴く

ポッドキャストの詳細を見る

今ならプレミアムプランが3カ月 月額99円

2026年5月12日まで。4か月目以降は月額1,500円で自動更新します。

概要

In dieser Folge des KI-Gilde Podcasts entschlüsseln wir die kryptischen Dateinamen lokaler KI-Modelle, die auf den ersten Blick wie zufällige Zeichenketten wirken.Am Beispiel eines komplexen Namens wie "Qwen3.6-35B-A3B-UD-IQ4_NL_XL.gguf" erklären wir die genaue Bauanleitung hinter den Modellen:

    • Parameter und Mixture of Experts: Was der Unterschied zwischen den gesamten 35 Milliarden und den aktiv genutzten 3 Milliarden Parametern ist.
    • Intelligente Komprimierung: Wie nichtlineare Quantisierung funktioniert, um den gigantischen Speicherbedarf (VRAM) massiv zu senken, ohne dass das Modell seine logischen Fähigkeiten verliert.
    • Das GGUF-Format: Warum dieses universelle Dateiformat Hardwaregrenzen austrickst und Abstürze verhindert, indem es bei VRAM-Mangel nahtlos den Hauptprozessor (CPU) und normalen Arbeitsspeicher zur Hilfe nimmt.
adbl_web_anon_alc_button_suppression_c
まだレビューはありません