AGI Bible

Bible Network Crypto DeFi Onchain RWA AI Agent Stablecoin Chain SAFU CryptoTax DeFAI AGI Claude Me Claude Skill Claude Design Claude Cowork

interpretability

黑箱問題

一個 AI 模型可以給出正確答案，卻沒有人（包括開發它的工程師）能用人類看得懂的方式，說明它為什麼會得出這個答案——這個「能力」跟「可解釋性」之間的落差，就是<a href="/zh/glossary/interpretability/black-box-problem/">黑箱問題</a>，也是目前稽核、除錯、究責 AI 系統時最根本的障礙。

beginner

稀疏自編碼器

一種訓練出來的小型神經網路，把 AI 模型內部糾纏在一起、難以理解的神經元活化訊號，拆解成大量各自對應單一、可辨識概念的「特徵」，是目前機制可解釋性研究裡最主要的工具之一。

intermediate