卷積神經(jīng)網(wǎng)絡(luò )和視覺(jué)轉換器是計算機視覺(jué)深度學(xué)習模型的兩個(gè)示例,它們通過(guò)假設平面區域來(lái)分析信號。例如,數碼照片在平面上顯示為像素網(wǎng)格。盡管如此,這種數據類(lèi)型僅代表科學(xué)應用中遇到的各種數據的一小部分。
但是,通過(guò)使用平面方法處理球形信號,可以改進(jìn)一些事情。首先,存在采樣問(wèn)題,這意味著(zhù)不可能在球體上定義均勻網(wǎng)格,而不會(huì )產(chǎn)生明顯的失真。其次,旋轉經(jīng)常混淆球體上的信號和局部模式。為了確保模型準確地學(xué)習特征,我們需要等方差到3D旋轉。因此,可以更有效地使用模型參數,并且可以使用更少的數據進(jìn)行訓練。
直觀(guān)地說(shuō),分子特性預測和氣候預測問(wèn)題都應該受益于球形CNN。分子的內在性質(zhì)對于3D結構的旋轉是不變的,因此旋轉等變表示將提供一種自然的方式來(lái)編碼這種對稱(chēng)性。
因此,研究人員在JAX中制定了一個(gè)開(kāi)源庫,用于球面上的深度學(xué)習。它在分子特性預測和天氣預報基準上的表現優(yōu)于最先進(jìn)的結果,通常由變壓器和圖形神經(jīng)網(wǎng)絡(luò )處理。
研究人員強調,這些可以解決采樣和旋轉魯棒性的問(wèn)題。它通過(guò)利用球形卷積和互相關(guān)操作來(lái)實(shí)現。球形CNN在兩個(gè)關(guān)鍵領(lǐng)域提供了有前途的應用:醫學(xué)研究和氣候分析,具有催化社會(huì )變革性進(jìn)步的潛力。
球形CNN在解決與預測化學(xué)性質(zhì)和理解氣候狀態(tài)相關(guān)的挑戰方面具有理論優(yōu)勢。利用旋轉等變表示在捕獲分子結構的固有對稱(chēng)性方面變得特別合乎邏輯,其中屬性對于 3D 旋轉保持不變。
由于大氣數據自然地顯示在球體上,因此球形CNN非常適合這項任務(wù)。它們還可以有效地管理這些數據在不同位置和方向的重復模式。
研究人員表示,他們的模型在許多天氣預報基準上超過(guò)或匹配基于傳統CNN的神經(jīng)天氣模型。該模型提前六小時(shí)預測了幾個(gè)大氣變量的值,測試環(huán)境的結果如下所示。然后,在訓練期間最多提前五天進(jìn)一步評估模型,并提前三天進(jìn)行預測。
此外,這些模型在各種天氣預報場(chǎng)景中表現出卓越的性能,證明了球形CNN作為神經(jīng)天氣模型的有效性,取得了突破性的成就。本研究概述了縮放球形CNN的最佳策略,并提供真實(shí)數據以支持它們在這些特定應用中的適用性。