KAN的核心團(tuán)隊(duì)令人震驚。中國MIT人首次用AI發(fā)現(xiàn)了一個(gè)全新的物理方程。
MaxxMax科學(xué)家剛剛提出KAN。 Tegmark和北京大學(xué)同學(xué)劉子鳴,又出現(xiàn)了一項(xiàng)重磅研究!團(tuán)隊(duì)發(fā)現(xiàn),他們用AI在物理學(xué)中找到了新的方程。從那以后,AI很可能被引入物理學(xué)研究領(lǐng)域,幫助人類科學(xué)家做出新的發(fā)現(xiàn)。
就在剛才,MIT科學(xué)家用AI發(fā)現(xiàn)了一個(gè)新的物理方程。
論文地址:https://arxiv.org/abs/2405.04484
作者說:本文沒有解決核聚變問題,價(jià)值數(shù)百萬美元,而是在更簡單的設(shè)置中引入了一個(gè)有前途的概念驗(yàn)證。
偏微分方程(PDE),可以算是科學(xué)家的面包和黃油,但是它們極為罕見,人類科學(xué)家僅靠紙筆是很難發(fā)現(xiàn)的。
所以,研究人員推出了一個(gè)名為OptPDE的AI系統(tǒng)。
利用這一AI,可以發(fā)現(xiàn)新的、從未見過的可積偏微分方程!
具體而言,在使用了5000個(gè)隨機(jī)初始化的PDE系數(shù)運(yùn)行OptPDE之后,研究人員發(fā)現(xiàn)了4個(gè)可積偏微分方程,其中一個(gè)已知,另外三個(gè)是全新的方程。
MIT科學(xué)家利用這一首創(chuàng)的機(jī)器學(xué)習(xí)方法,為物理學(xué)提供了一種全新的研究模式。
此后,人類可以向系統(tǒng)提供領(lǐng)域知識,AI可以產(chǎn)生希望的假設(shè),然后人類可以進(jìn)行解釋和驗(yàn)證。
這樣就實(shí)現(xiàn)了整個(gè)物理發(fā)現(xiàn)的閉環(huán)。
01 網(wǎng)民:AI將顛覆每一個(gè)科學(xué)領(lǐng)域
網(wǎng)民們對這項(xiàng)研究表示震驚。
「太燒腦了!如果我對他們的意思有一個(gè)正確的認(rèn)識,那么這個(gè)AI真的很強(qiáng)大很可怕!能夠根據(jù)需要生成模型庫模擬物理系統(tǒng)是一項(xiàng)非常巧妙的技能,可以從AI驅(qū)動的處理中節(jié)省大量的計(jì)算?!?/p>
「即使只是從這些角度來看,我們擁有的AI也可以為各個(gè)科學(xué)領(lǐng)域提供新的見解和想法,它將會變得更好!」
「我只是打開看看Max是不是? Tegmark大神的研究,果然如此?!?/p>
這個(gè)網(wǎng)友給出了更專業(yè)的解釋?!?/p>
本質(zhì)上,由于偏微分方程具有較多的CQs,并且自然系統(tǒng)遵循定律(例如熱學(xué)),所以它們在偏微分方程中應(yīng)用了獎勵(lì)函數(shù)。
這項(xiàng)工作非常有意義,因?yàn)榘l(fā)現(xiàn)這些偏微分方程通常非常困難,因?yàn)樗峁┝艘环N方法來加速計(jì)算杠桿的應(yīng)用。
這為生成類似OEIS(整數(shù)序列在線百科全書)的資源提供了機(jī)會。這允許任何領(lǐng)域的研究和搜索這些數(shù)據(jù)庫,看看類似的問題是否已經(jīng)解決,或者相關(guān)的序列或結(jié)構(gòu)是否已經(jīng)存在,而不需要重新開始。
02 迅速「入門」
在PDE有守恒量的情況下,它們可以積累(例如,能量是質(zhì)量彈簧的守恒量)。
所以,研究人員可以將OptPDE設(shè)計(jì)成一個(gè)兩部分的系統(tǒng),——
(1)計(jì)算任何PDE的守恒量(CQ)數(shù)量;
找出使n_CQ最大化的偏微分方程。
下面是(1)在一些熟悉的系統(tǒng)中的實(shí)際應(yīng)用。
因?yàn)檠芯咳藛T尋找n_CQ的方法是可以微分的,所以只需要在PDE中訓(xùn)練項(xiàng)指數(shù),通過SGD最大化n_CQ,就可以找到新的微分方程。
他們以u__為由x => u_xxx^三是以項(xiàng)目為基礎(chǔ),運(yùn)行5000次。
下面是3D解決方案 PCA——
研究人員發(fā)現(xiàn),他們得到的大部分解決方案都是四個(gè)偏微分方程家族的線性組合,其中一個(gè)是KdV方程的一種形式,另外三個(gè)方程完全是新的,沒有記錄在文獻(xiàn)中!
因此,研究人員決定,在這些新的可積偏微分方程中,至少有一個(gè)守恒量。
也就是說,在AI的幫助下,人類科學(xué)家發(fā)現(xiàn)了一些全新的可積偏微分方程!
然而,要解釋和分析這些發(fā)現(xiàn),仍然要依靠人類科學(xué)家。
研究人員仔細(xì)分析了下列簡化版的紅色偏微分方程。(u_t=u_x^發(fā)現(xiàn)它表現(xiàn)出斷裂、無限的CQ,而冪律衰減為三角波。
此后,科學(xué)家們很有希望利用OptPDE來發(fā)現(xiàn)更多新穎的可積偏微分方程,從而模擬物理上的復(fù)雜現(xiàn)象。
然而,OptPDE要求人工智能與人類科學(xué)家協(xié)調(diào)工作。作者呼吁,如果這種模式能夠被物理學(xué)界接受,科學(xué)家很可能會在使用現(xiàn)代人工智能工具之前做出更多的新發(fā)現(xiàn)。
03 可積系統(tǒng):極為罕見,難以發(fā)現(xiàn)。
由于易于處理、可預(yù)測、可控,可積系統(tǒng)在物理和工程系統(tǒng)中發(fā)揮著重要作用。
但是,它們極為罕見,難以發(fā)現(xiàn)。
在傳統(tǒng)中,發(fā)現(xiàn)可積系統(tǒng)的方法是依靠紙筆,它強(qiáng)調(diào)符號推送,并考慮可能的系統(tǒng)和守恒量。(CQ)指數(shù)級大搜索空間,效率極低。
因此,MIT科學(xué)家認(rèn)為:AI能做些什么?
所以,他們引入了OptPDE的可積系統(tǒng)發(fā)現(xiàn)解決方案。
以前很多工作都是利用極端的學(xué)習(xí)從物理數(shù)據(jù)和微分方程中發(fā)現(xiàn)守恒量的,但是MIT研究者的方法是微分方程最可以解釋的。
此外,以前的方法不能積極優(yōu)化和設(shè)計(jì)偏微分方程。
不過,這個(gè)AI可以做到!
盡管過去機(jī)器學(xué)習(xí)方法已被用來發(fā)現(xiàn)守恒量,但這項(xiàng)工作首次提出——
AI和人類科學(xué)家可以通過驗(yàn)證和解釋集成系統(tǒng)來協(xié)調(diào)工作。
04 論文方法
研究者通過下列階段來構(gòu)建這種方法。
1.CQFinder——尋找PDE的守恒量。
2.OptPDE——在CQFinder中使用
,找出可積PDE。
圖1反映了整個(gè)過程。但需要注意的是,這個(gè)過程需要人類科學(xué)家輸入CQ和PDE基礎(chǔ),與人工智能協(xié)調(diào),這就需要了解這一領(lǐng)域的知識。
OptPDE的可視化管道。為PDE提供基礎(chǔ),OptPDE將提高指數(shù),從而最大限度地提高PDE的守恒量(CQ) 數(shù)量。起初,u會衰減,不守恒,但OptPDE會通過將擴(kuò)散項(xiàng)歸零來發(fā)現(xiàn)更守恒的指數(shù)。這個(gè)可視化的例子很簡單,但是由于PDE基礎(chǔ)廣泛,OptPDE可以幫助人類科學(xué)家發(fā)現(xiàn)新穎的可積系統(tǒng)。
為構(gòu)建OptPDE,必須首先設(shè)計(jì)CQFinder,以準(zhǔn)確計(jì)算任何PDE的CQ。
具體而言,一階偏微分方程需要一個(gè)有空間變量X的時(shí)間,其形式是
。
其中,
它是u及其空間導(dǎo)數(shù)的集合,并且具有自由初始條件。
。
研究人員應(yīng)考慮形式。
的守恒量。
對CQ量而言,它必須在u的整個(gè)時(shí)間演變中保持恒定。
CQ的時(shí)間不變性可以表示為:
其中,
。
盡管這個(gè)方程看起來很復(fù)雜,但是只需要考慮一個(gè)簡單的設(shè)置,其中h,(u′) 它是k個(gè)預(yù)定義基函數(shù)的線性組合,
。
這里,研究人員需要處理兩個(gè)無限大的問題。
1. 從理論上講,對于任何光滑的u,都必須建立線性方程;在實(shí)踐中,可以測試方程是否可以與這個(gè)無限函數(shù)集相似。
2. 理論上,積分是存在的(-∞,∞)在實(shí)踐中,需要使用有限的范圍來類似于它(在范圍之外將u強(qiáng)制為零)。
研究人員希望在CQFinder中建立子流程,然后進(jìn)行簡單的稀疏化和識別解決方案,因?yàn)樗苋菀妆蝗祟惪茖W(xué)家解釋。
具體而言,研究人員需要將PDE參數(shù)化為預(yù)定PDE的線性組合,
。
采用固定PDE,CQFinder輸出其守恒總數(shù)。
由于CQFinder是由PyTorch編寫的,因此它原則上是可以微分的,因此,研究人員可以通過自動微分來識別PDE指數(shù)中的哪些擾動會增加CQ。
但是,可微性最大的挑戰(zhàn)是守恒量本質(zhì)上是分散的(例如,偏微分方程可以有3或4個(gè)守恒量,而不是3.7個(gè))。
為反向傳播提升指數(shù)提升指數(shù)。
, 目標(biāo)函數(shù)
必須是可以忽略的。
針對這一情況,研究人員引入了sigmoid函數(shù)。
平滑版本。
04 論文結(jié)果
CQFinder基準(zhǔn)測試
為驗(yàn)證CQFinder是否能像每個(gè)人想象的那樣工作,研究人員在Burgers、Korteweg-DeVries(Kd)與薛定諤方程三個(gè)測試系統(tǒng)一起運(yùn)行。
圖2顯示,奇異值曲線顯示從小到大的快速變化,然后可以清楚地區(qū)分消失值和非消失值。
這樣就證明了CQFinder不僅能夠正確計(jì)算守恒總數(shù),而且還能夠得到它們的符號公式。
AI發(fā)現(xiàn)了三個(gè)新穎的可積系統(tǒng)。
研究人員發(fā)現(xiàn),全新的可積系統(tǒng)可以通過使用Opt-PDE最大化守恒量來定位OptPDE的流形。
一般選用PDE作為單個(gè)方程。
,其中
,P是多項(xiàng)式最多3次。
實(shí)際上,研究人員使用廣義球坐標(biāo),自然強(qiáng)制歸一化指數(shù)。
研究人員在OptPDE中使用A=0,B=1000,epochs=25000,學(xué)習(xí)率為10^-3,余弦退火,Tmax=5000。
研究人員運(yùn)行OptPDE,隨機(jī)抽取其它33個(gè)參數(shù)的5000個(gè)初始位置。
隨后,研究人員使用3D 對OptPDE結(jié)果進(jìn)行PCA可視化返回參數(shù)值分析,如圖3所示。
可以看出,解的流形結(jié)構(gòu)很有意思:兩邊有兩個(gè)極點(diǎn),環(huán)形解位于中間。
2個(gè)極點(diǎn)代表
,這種方法可以積累KdV方程,而環(huán)形的解更加復(fù)雜。
研究人員對這些環(huán)形的解中進(jìn)行了插值。
接著,他們找到了三個(gè)偏微分方程組作為環(huán)形子空間的基礎(chǔ),如圖3所示。
守恒量表明,這三個(gè)偏微分方程中的每一個(gè)都是新的,而且本質(zhì)上是有趣的。(如附錄I所示)
研究人員將重點(diǎn)放在以下偏微分方程上,因?yàn)樗姆椒ǚ浅>o湊——
在這個(gè)方程的a=1前提下,研究人員運(yùn)行了CQFinder,發(fā)現(xiàn)它有一個(gè)非凡的CQ?!?/p>
研究人員通過一系列冗長的代數(shù)操作,驗(yàn)證了數(shù)值和符號,
確實(shí)是
的CQ。
在這里,研究人員可以肯定:OptPDE發(fā)現(xiàn)了一個(gè)新的偏微分方程家族,他們承認(rèn)有趣的守恒能力。——
。
人的責(zé)任:解釋AI的發(fā)現(xiàn)
而且在這里,MIT的研究人員表示,下一步人類將承擔(dān)起責(zé)任!
人類科學(xué)家應(yīng)該做的,是利用AI找到的偏微分方程家族,并進(jìn)行解釋。
文章中,研究者僅限于分析a。?一種情況,促進(jìn)
這一特殊情況代表了一個(gè)真正的可積系統(tǒng),并且有無限數(shù)量的CQ。也就是
所有的n都是守恒的。
研究人員在Mathematica中繪制了具有高斯和正弦初始條件的偏微分方程的演變,如圖所示。
從視覺上看,演變似乎是一種波,在break 在time之后,它已經(jīng)衰退為一種線性重量,此時(shí),波在某一點(diǎn)上變得不可微分。
研究人員推導(dǎo)了break time的符號模式,并且是breakk中的方程式 time之后的行為,創(chuàng)造了一個(gè)現(xiàn)象學(xué)模型。
Break Time
研究人員注意到,通過在x的兩側(cè)進(jìn)行積分,可以使公式4與Burgers公式相似。
利用特征方程,可以跟蹤穩(wěn)定u的路徑,找出兩個(gè)特征相交的最早時(shí)間。
最終可以得出,Break Time為
,在附錄L中,這與研究人員的模擬結(jié)果大致一致。
現(xiàn)象學(xué)模型
為了理解波break之后的行為,研究人員希望建立一個(gè)現(xiàn)象模型來解釋波接近三角波時(shí)的動態(tài)。
對于這一點(diǎn),研究人員進(jìn)行了如下推導(dǎo)。
其中一種特殊情況就是a=1,當(dāng)曲線沿高度勻稱收縮時(shí),就會得到。
,這種情況符合正弦波的情況。
理解其它解決方案
從圖3可以看出,研究者得到的解是高級和非線性的,其立方項(xiàng)由三階導(dǎo)數(shù)組成。
利用物理的直覺來處理這些問題可能是令人望而生畏的,但是研究人員注意到,三階導(dǎo)數(shù)正在出現(xiàn)。 在KdV方程中,或者,如果推導(dǎo)出具有穩(wěn)定性和其他阻力的弦的波動方程,也會出現(xiàn)三階導(dǎo)數(shù)。
物理學(xué)中很少見到非線性多項(xiàng)式方程,但是它確實(shí)存在,比如高速運(yùn)動時(shí)的空氣阻力公式。
。
所以,在物理變化建模中,復(fù)雜的微分方程是很有用的。
對于其它結(jié)果,研究人員表示,希望其他科學(xué)家也能參與其中,共同解釋。
總而言之,這種人類科學(xué)家與人工智能合作的范式,是由MIT研究者引入的,極有可能鼓勵(lì)人類科學(xué)家為物理學(xué)做出新的發(fā)現(xiàn)!
本文來自微信微信官方賬號“新智元”(ID:AI_era),作者:新智元,36氪經(jīng)授權(quán)發(fā)布。
本文僅代表作者觀點(diǎn),版權(quán)歸原創(chuàng)者所有,如需轉(zhuǎn)載請?jiān)谖闹凶⒚鱽碓醇白髡呙帧?/p>
免責(zé)聲明:本文系轉(zhuǎn)載編輯文章,僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布,請及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除,您可以發(fā)送材料至郵箱:service@tojoy.com