『智慧竟然可以傳播還可以客製化訓練!GGAI→SGAI誤解澄清!AI x ESG x ASMV 先進人才養成班 第1季第5集 GGAI通用生成式人工智慧→SGAI專用生成式人工智慧 非常重要但是有太多的誤解!』のカバーアート

智慧竟然可以傳播還可以客製化訓練!GGAI→SGAI誤解澄清!AI x ESG x ASMV 先進人才養成班 第1季第5集 GGAI通用生成式人工智慧→SGAI專用生成式人工智慧 非常重要但是有太多的誤解!

智慧竟然可以傳播還可以客製化訓練!GGAI→SGAI誤解澄清!AI x ESG x ASMV 先進人才養成班 第1季第5集 GGAI通用生成式人工智慧→SGAI專用生成式人工智慧 非常重要但是有太多的誤解!

無料で聴く

ポッドキャストの詳細を見る
VCP-AIxESGxASMV-0005 第1季第5集 智慧竟然可以傳播還可以客製化訓練!GGAI→SGAI誤解澄清!GGAI通用生成式人工智慧→SGAI專用生成式人工智慧 非常重要但是有太多的誤解! 我先承認我以前講錯了!當年我在講授多媒體傳播的DIKW(資料、資訊、知識、智慧)模型的時候說:知識無法直接傳播,必須利用資料或資訊透過媒體傳播,而智慧不能傳播,只能靠頓悟,不然就是要自己體驗萃煉!但是今天人工智慧的發展,讓智慧可以傳播了!這個可以傳播的智慧就是【LLM大型語言模型】的【PTM預訓練模型】! 【PTM預訓練模型】就是模擬人類智慧的【竅門】不是收集人類所有知識!也就是用【注意力模式】提煉萃取出智慧!大概數百GB而已!包含【理解能力(ENcoder編碼器)】(BERT只是用填空題), 跟【表達能力(DEcoder解碼器)】(GPT只是文字接龍),也就是【相對少量資料/數百GB】大小而已!有一個叫做稀疏量化表示 (SpQR) 的新型模型壓縮法可以在損失1%精度的前提下最多把模型大小壓縮到二十五分之一,讓330億個參數的大型語言模型可以塞到一個24GB大小VRAM的GPU上執行。這個壓縮超強,但是這樣大家也能理解真正資料量有多大!一般只能壓縮到五分之一!24GB代表可以用個人的CPU+GPU顯卡跑得動! 然後針對特定的【Domain knowledge領域知識】(稱為 Specialize tasks 特殊化任務)去進行特定的訓練,這個需要的資源比預訓練小的多可能只需要1%以下的資源,這是【ST特殊化訓練】通常是在【PTM預訓練模型】的基礎上,加上【Adapter插件】配合【Label Data人工標記資料】進行【fine-tune微調】例如寫程式或整理重點或翻譯等,這會產生【STM特殊化模型】,最後再根據特定的需求進行【CFT客製化微調】變成企業跟個人的【SGAI客製化專用生成式人工智慧】來處理【Downstream tasks下游任務】(例如 客戶輸入問題,我們的人工智慧是24小時服務的資深客服人員,甚至能替客戶產生 企劃書)。 1. 【PTM預訓練模型】就是模擬人類智慧的【竅門】不是收集人類所有知識!這是【注意力機制 attention】! 也就是說這是一種方法找到人類智慧的關鍵趨勢!而且是使用大量無標記資料提煉萃取出來的! 2. 大家是用 已經訓練好的【LLM大型語言模型】的【PTM預訓練模型】不是自己從頭訓練起! 3.【PTM預訓練模型】需要大量的資源(人工智慧電腦/GPU/大量記憶體)+大模型(AI人工智慧程式)+大資料(巨量的來源資料)+大量的時間不斷訓練改進等,這不是人人可以做的! 3.例如 Transformer/BERT/GPT 都是 LLM 的預訓練模型。而 chatGPT 則是利用 GPT的個LLM的 GGAI通用(目的)生成式人工智慧 4.目前的chatGPT或BARD等GAI,都還是 通用性GAI = GGAI,而人類真正需要的是 特殊化GAI = SGAI【專用生成式人工智慧】! 5.但是這個特殊化要多特殊,就是關鍵! A.要特殊到自己從頭訓練起,也可以! B.或者要用現成的【PTM預訓練模型】來特殊化訓練成自己企業專屬的SGAI到可以申請創新科專補助的程度, C.或者 只是利用現成的【PTM預訓練模型】+現成的【Adapter插件】配合【Label Data人工標記資料】進行【fine-tune微調】成為 SGAI, D.甚至只是利用GGAI的PROMPT提式,進行微調【PFT Prompt fine-tune 提示微調】 都有很多不同的對策!而且這其實還有很多需要學習的內容,我會逐漸展開來跟大家介紹! 尤其分為兩大類的微調【理解能力(ENcoder編碼器)】微調(BERT家族) 跟【表達能力(DEcoder解碼器)】(GPT家族)跟 各家業者提供的各種平台(例如 GOOGLE OpenML, 微軟的 Azure 應用 AI 服務/Azure Machine Learning,NVIDIA 的 OMIverse平台,亞馬遜的 AWS ML雲端服務 等等) 跟 各種軟體方法,這都需要大家要學會喔! 這才是目前台灣最需要了解跟處理的領域,也是會需要大量人才的人工智慧領域! 但是我必須說明:要發展SGAI不是隨便應徵一個人工智慧工程師或外包給人工智慧軟體團隊就可以了,因為其中最困難的是【Domain knowledge領域知識】也就是 這個開發團隊,或者企業內部的外包人員或主管,必須充分了解本身企業營運的領域知識,還要了解人工智慧的原理,才有可能正確有效的開發出真正符合企業需求的 【SGAI專用生成式人工智慧】 所謂 【SGAI專用生成式人工智慧】也就是說 企業或政府等組織,甚至個人,必須【訓練特化自己專屬的GAI】,這才是將來企業跟政府/國家的真正要投入人力物力發展的方向!
adbl_web_anon_alc_button_suppression_t1
まだレビューはありません