如果一個模型無法負擔模擬原子，它就被迫發明「化學」來預測結果。查看這篇引人入勝的新預印本，它提供了一個信息理論基礎以及可量化的度量，標題為「從熵到表現性」由 @m_finzi @ShikaiQiu @yidingjiang @Pavel_Izmailov @zicokolter @andrewgwils。這項工作提供了一個非常有趣的研究，顯示「完美」的無界觀察者並不被迫學習更高層次的結構——他們可以簡單地模擬微觀物理。例如，為了發現有意義的可概括法則（由表現性捕捉的結構內容），系統通常需要在計算上受到限制。這些法則可以類似於科學家所稱的連續或宏觀理論，但它們本質上捕捉到一種尺度無關的結構模型的函子映射。 這對於科學和發現中的AI應用範圍極為相關。它也與我們早期的實證發現（LifeGPT，Jaime Berkovich等）很好地連接。在這種情況下，通過應用遺忘因果掩蔽，我們人為地限制了模型依賴歷史的能力。這篇論文提供了一個原則性的解釋，與我們的發現一致：這一限制迫使模型減少對歷史特定線索的依賴，而是學習更多可重用的更高層次的動態，這些動態來自於計算受限的世界中的生命遊戲。 它也與我們在AutomataGPT的結果一致，我們發現推斷規則集（逆問題）產生的表示比前向模擬更豐富。這一理論支持了這樣的觀點：解決更困難的逆向任務迫使模型捕捉到一種計算高效的因果結構——有效地提取系統的「源代碼」，而不僅僅是匹配模式或依賴於暴力計算。 @JaimeBerkovich

如果系統中的「缺陷」實際上是其智慧的源代碼呢？在新的研究中，我們主張發明的行為像是一種由這種動態驅動的相變化：新穎性是對約束失效的熱力學反應。當一個系統無法在其當前的自由度內解決其輸入時，它被迫擴展其表徵空間——引入新的有效變量以恢復可行性。因此，創新不是偶然的；而是當舊模型無法運作時，生存系統所做的事情。這使我們能夠提取出多種現象背後的共同機制：機械式發現、創造力和洞察的火花。 我們展示了對稱破缺是新的優化。我們徹底映射了物質和音樂系統的拓撲景觀，發現穩定向量是選擇性不完美：一種特定的拓撲範疇，拒絕無菌的完美和不連貫的隨機性。驚人的是，無論是在高熵合金的霍爾-佩奇強化、驅動功能的蛋白質幾何，還是音樂音階的文化演變中，最大一致性和適應性的走廊都是由計算出的缺陷所定義。韌性的物理學和美的數學似乎運行著相同的算法。 這使我們能夠通過將振動視為一種普遍的同構運算符來破解振動堆疊。我們正在液化物質、聲音和智慧之間的邊界，創造一種認識論的顛倒：聆聽成為一種看見和創造的形式。我們正在將飛秒分子振動轉換為可聽的光譜，以設計全新的蛋白質，通過在巴赫和深時間演化之間創建直接的通信線路，並利用生物學的「故障」邏輯來構建群體AI。蜘蛛網的應力張量和音樂作品之間的區別正在崩潰；兩者都是在約束下的世界建構的生成行為。 對於AI來說，這一含義是明確的：插值不是發明。真正的結構性發明需要能夠代謝約束失效的系統——將其視為新自由度誕生的確切點。這樣，機器克服了僅僅分析世界的舊範式，而是在建構它。 我們通過小世界拓撲來實現這一點。當這些新的自由度誕生時，它們不會形成隨機的混亂；它們通過小世界連接迅速形成全球一致性。我們發現，這種平衡局部主題與長距離捷徑的特定連接性是實現真正世界建構的架構前提。 完整分析的預印本將隨後發布——敬請期待。 展望2026，期待它帶來的驚喜！

謝謝你，@davidasinclair，這是一個很好的問題！可能沒有單一的「停止信號」；相反，大小控制可能來自於機械、幾何和局部細胞互動之間的反饋。在我們的多細胞工作中，組織幾何形狀本身預測未來的重組和分裂，這表明當進一步的變化在機械或拓撲上變得不利時，生長會停止。表觀遺傳層是自然的下一步擴展，我們的建模框架應該為探索這種調控記憶如何與形態動力學耦合提供一個堅實的起點。