Description

科學雜談，快速聽文獻，掌握科研新動向

[EP06_破除AI 詛咒，向AGI世代邁進!]

---------------------------------------------------

相信大家對AI 都不陌生了，現在不管做什麼事，讀書、考試、工作、生活雜事都早已離不開AI。但目前AI 如chatGPT皆是以ransformer架構，需要大量的數據進行計算，如果要邁向AGI仍有一大段距離，為了實現更豐富的特徵表示和更複雜的自發行為，或著讓AI 有靈光一閃、頓悟的能力，許多AI 研究人員正不斷的思考研究各種可行的方案。

本篇研究提出了「維度與動態」的方法:

1.引入層內連結（增加網路高度和其他抽象維度）

2. 回饋迴圈（賦予網路動態，類似物理學中的相變）

期望用這新的概念讓AI學習能力和效率提升，能更朝向通用人工智慧(AGI)的目標邁進

--------------------------------------------------

**專有名詞:

• AGI(Artificial General Intelligence,通用人工智慧):具備與人類同等智慧型、或超越普通人類的人工智慧
• Transformer架構:是一種注意力機制的深度學習架構，這一機制可以按輸入資料各部分重要性的不同而分配不同的權重。
• KAN(Kolmogorov-Arnold Networks):一種新型神經網路架構，可學習的激活函數和在節點連接處而不是節點本身應用這些函數而聞名。
• Diffusion Models(擴散模型):採用多步迴圈 (multi-step loops) 的方式運作。核心機制是去噪-恢復迴圈 (noising-denoising loop)，擴散模型透過這種迴圈機制，產生了強大的動態性 (powerful dynamics)。
• Mamba(深度學習架構):一種狀態空間模型（state-space models)。它利用壓縮-恢復迴圈（compression-recovery loops）建模長程依賴性（long-range dependence)

• 圖神經網路 (GNNs):沿著學習圖中的邊緣在節點之間傳播資訊，並生成節點嵌入和邊緣預測

------------------------------------------------------------

**文獻:Wang and Fan, Dimensionality and dynamics for next-generation artificial neural networks, Patterns (2025)( IF:7.4)

**DOI: 10.1016/j.patter.2025.101231

-------------------------------------------------------------

**語音:notebooklm(AI語音)