什麼是生成式 AI?
載入中
AI 的能力與限制 · 12 分鐘
摘要逐字稿
這部影片說明像 Claude 這樣的大型語言模型是如何建構與訓練的,以及這對於它們在您的業務中能夠——以及無法——可靠完成的事情,代表著什麼意義。
重點整理
- 生成式 AI 創造新內容,而不僅僅是分析現有數據。
- 三項發展 使現代大型語言模型成為可能:transformer 架構、龐大的訓練數據,以及龐大的運算能力。
- 訓練分為兩個階段: 預訓練(從數十億個範例中學習模式)與微調(學習以有幫助的方式遵循指令)。
- 目前的優勢 包括跨任務的多功能性、對話流暢性,以及與外部工具的連接能力。
- 目前的限制 包括知識截止日期、幻覺、上下文視窗大小,以及複雜的多步驟推理。
- 最佳的應用會結合人類與 AI 的優勢——您的判斷力、創造力與監督,搭配 AI 的速度與規模。
練習
測試邊界
這個練習讓您親身體驗生成式 AI 擅長什麼、又在哪些地方不足。您將以低風險的方式,運用自己專業領域的內容,探究影片中提到的幾項具體能力與限制——這樣一來,當您決定要信任 AI 處理什麼任務時,就有了基於自身觀察所建立的具體直覺判斷依據。
第一部分:自我反思(獨立進行)
選擇一個您熟悉的領域,一個如果供應商、廠商或客戶弄錯了,您會立刻發現錯誤的領域。寫下:
- 主題(例如:您的利潤率計算方式、當地的分區法規,或產業的執照規定)
- 兩到三項您認為任何可靠來源都應該能說對的事實
- 人們對此常見的一項誤解
- 一件確實很難解釋清楚的事情
這就是您的測試場域。您將看看 AI 如何處理一件您實際能夠驗證的事情。
第二部分:協作(與 AI 合作)
開啟與 Claude(或您偏好的任何 AI 助手)的對話,進行三次簡短的對話。每次對話結束後,寫下您注意到的事。
- 多功能性測試。 請 AI 在單一回應中以三種不同方式解釋您的主題:一次針對對您的服務一無所知的客戶、一次針對潛在的業務夥伴,以及一次針對正在培訓的新進員工。受眾的轉換是否真的到位,還是只是改變了詞彙?哪一個版本最出色?
- 幻覺測試。 請 AI 推薦兩到三項與您的主題相關的具體資源——例如貿易協會、產業出版物、監管機構,或知名供應商。接著至少抽查其中一項。該組織是否存在?網站是否正確?聯絡資訊是否準確?(在這裡,您會看到 AI 是否會自信地捏造一個聽起來可信、但實際上並不存在的來源。)
- 知識截止日期與推理檢查。 詢問 AI 一些具時效性或在地性的問題:您產業中最近的法規變動、某項關鍵材料的目前價格趨勢,或當地的執照規定。它是否告訴您其資訊可能已經過時?它是否會加上警語、進行猜測,或將過時的資訊當作最新資訊呈現——這類若您依此行動可能導致金錢損失的情況?接著請它解析您在第一部分中寫下的常見誤解。它是否真正解決了實際的混淆之處,還是只是重述正確的事實?
第三部分:反思
影片中提到的哪一項能力在您觀察到的結果中最為明顯?又出現了哪一項限制——如果這不是您熟悉的主題,您是否還能發現它?根據這些觀察,現在有哪一項任務您會放心交給 AI 處理,又有哪一項任務您會想更密切留意?
進階挑戰: 用第二個 AI 工具(不同的模型或平台)測試同一個主題。錯誤與優勢是否相同?
課程反思
- 了解這些系統的訓練方式,會如何改變您與它們合作的方式?
- 考量到生成式 AI 的運作方式及其不足之處,您會想到哪些倫理考量?
接下來
在下一課中,我們將透過與 AI 進行研究,探索「描述」與「鑑別」的內部循環。