학습된 창발 공간에서 창발 편미분 방정식 학습

Dec 20, 2023

Nature Communications 13권, 기사 번호: 3318(2022) 이 기사 인용

3496 액세스

6 인용

1 알트메트릭

측정항목 세부정보

우리는 상호 작용하는 에이전트의 대규모 시스템에 대한 효과적인 진화 방정식을 학습하는 접근 방식을 제안합니다. 이는 결합된 정상 형태 발진기의 잘 연구된 시스템과 결합된 Hodgkin-Huxley 유사 뉴런의 생물학적 동기를 부여한 예라는 두 가지 예에서 입증됩니다. 이러한 유형의 시스템에는 편미분 방정식의 형태로 효과적인 진화 법칙을 배울 수 있는 명확한 공간 좌표가 없습니다. 우리의 접근 방식에서는 첫 번째 단계로 매니폴드 학습을 사용하여 시스템의 시계열 데이터에서 임베딩 좌표를 학습함으로써 이를 달성합니다. 이러한 창발 좌표에서 우리는 신경망을 사용하여 발진기 앙상블의 동역학을 재현할 뿐만 아니라 시스템 매개변수가 다양할 때 집단 분기를 캡처하는 효과적인 편미분 방정식을 학습할 수 있는 방법을 보여줍니다. 따라서 제안된 접근 방식은 에이전트 역학을 매개변수화하는 긴급 공간 좌표의 자동 데이터 기반 추출과 이 매개변수화에서 역학에 대한 긴급 PDE 설명의 기계 학습 지원 식별을 통합합니다.

에이전트가 상호 작용하는 대규모 시스템의 동적 동작을 모델링하는 것은 복잡한 시스템 분석에서 여전히 어려운 문제로 남아 있습니다. 이러한 시스템의 큰 상태 공간 차원으로 인해 역사적으로 에이전트 앙상블의 대략적인 역학을 집합적으로 설명하는 유용한 차수 감소 모델을 구축하는 것이 지속적인 연구 목표였습니다. 이러한 거칠고 집합적인 설명은 상호 작용하는 입자가 온도, 압력 및 밀도에 의해 거시적 수준에서 효과적으로 설명될 수 있는 열역학과 같은 많은 맥락에서 발생합니다. 또는 볼츠만 방정식의 충돌이 Navier-Stokes 방정식과 같은 연속체 설명으로 이어질 수 있는 운동 이론에서뿐만 아니라 주화성 또는 세분화된 흐름과 같은 맥락에서도 가능합니다. 이 대략적인 관찰에서 중요한 문제 중 하나는 물리적 공간에서 집합적 행동의 진화를 설명하는 대략적인 관찰 가능 항목(밀도 장, 운동량 장, 농도 장, 공극률 장)을 찾는 것입니다. 거시적이고 효과적인 모델은 이러한 필드에 대한 편미분 방정식(PDE)으로 근사화되는 경우가 많습니다. 시간 도함수는 각 지점에서 필드의 로컬 공간 도함수로 로컬로 표현됩니다. 예측 모델을 도출하는 데 필요한 종결점은 실험적 또는 계산적 관찰을 통해 수학적으로(적절한 가정을 사용하여) 및/또는 반경험적으로 얻을 수 있습니다.

상호 작용하는 에이전트가 발진기 시스템과 결합된 경우 관찰된 저차원 동역학은 소위 차수 매개변수1,2,3라는 측면에서 몇 가지 상미분 방정식(ODE)의 집중 시스템으로 설명될 수 있습니다. 상호 작용하는 발진기로 구성된 대규모 이종 시스템의 경우 특정 순간에 발진기 상태의 분포를 관찰합니다. 적절한 차수 매개변수에 대한 몇 가지 ODE를 통해 이러한 진화를 유용하게 설명할 수 있다는 것은 개념적으로 분포에 대한 몇 개의 모멘트 방정식의 유한하고 닫힌 집합을 통해 분포 진화를 설명하는 것과 같습니다. 여기에는 닫힌 모델 ODE 세트(또는 확률론적 미분 방정식)를 작성할 수 있는 몇 가지 주요 모멘트에 의해 몇 가지 양호한 차수 매개변수가 제공됩니다. 어떤 경우에는 이러한 간략한 설명이 매우 성공적일 수 있지만 몇 가지 ODE로는 충분하지 않고 순간 발진기 동작의 진화하는 필드에 대한 진화 방정식(예: PDE)을 작성해야 하는 경우도 있습니다( 에스).

그러면 자연스럽게 질문이 생깁니다. 진화하는 행동 분포의 공간적 지원을 매개변수화하는 좋은 방법은 무엇입니까? 집단적 행동 진화를 위한 진화적 PDE 모델을 도출하려고 시도할 공간에서 소수의 독립적인 공간 변수는 무엇입니까(얼마나 많은가요?)? 즉, 문제가 물리적 공간에서 전개되지 않는 경우(예: 오실레이터가 상호 작용하는 네트워크의 노드인 경우) 시공간 필드로 전개되는 동작을 관찰할 수 있는 유용한 연속체 임베딩 공간이 존재합니까? 그렇다면 개별 결합 에이전트 역학 수집에 대한 관찰을 기반으로 데이터 기반 방식으로 이 출현 공간과 매개변수화 독립 좌표를 어떻게 감지할 수 있습니까? 따라서 우리의 작업에는 두 가지 구성 요소가 있으며 둘 다 여기에서 데이터 중심 방식으로 수행됩니다. (a) 발진기 동작이 부드러운 시공간 필드 진화로 관찰될 수 있는(내장 및) 새로운 공간 좌표를 찾습니다. (b) 이러한 창발 좌표가 얻어지면 가능하다면 이 분야를 지배하는 편미분 방정식의 형태로 진화하는 동역학의 모델을 학습합니다. 즉, 창발 독립 변수에 있는 필드의 몇 가지 지역 공간 도함수 측면에서 필드의 (점별) 시간 도함수를 근사화합니다.

γH, a stable fixed point ensues, in which all individual amplitudes of the respective oscillators are zero, also called oscillator death35. We now collect data for training at several γ values, linearly spaced in the interval \(\left[1.7,1.8\right]\), on both sides of the Hopf bifurcation; the γ value was provided as additional input to the model. We again perturbed along the slow stable eigendirections of each attractor, see Methods, collecting transients that inform the model about nearby dynamics. We then learned a PDE of the form/p> γH (right inset). We observe the transient dynamics approaching the fixed point W = 0 ∀ ω for γ = 1.8./p> γH./p> γH ≈ 1.75, and to the limit cycle for γ < γH ≈ 1.75./p> γH to collective oscillations for γ < γH. More quantitatively, we reported the leading spectrum of the linearization of the model evaluated at the fixed point. This was obtained using automatic differentiation of the neural network model with respect to its inputs. Such computations can shed more light on the similarities and differences of agent-based simulations and their emergent PDE descriptions. In this paper, we focused on a particular regime in parameter space. However, our approach can easily be extended to more intricate dynamics that are known in such a Stuart-Landau ensemble; informative examples are included in the videos SI1 and SI2./p>