인공지능이 수학의 어려운 역 편미분방정식 문제를 해결한다 – 펜의 몰리파이어 층

**AI가 과학의 어려운 수학 퍼즐을 푼다** 연못의 물결을 보고 조약돌이 어디에 떨어졌는지 알아낼 수 있을까? 과학에서는 이것이 바로 역문제(inverse problem)다. 결과는 보이지만 원인은 숨어 있다. 이러한 역문제를 풀기 위해, 펜실베이니아대학교(University of Pennsylvania) 연구진이 새로운 AI 방법을 개발했다. 이름은 Mollifier Layers다. 2026년 5월 6일 공개된 이 연구는 Transactions on Machine Learning Research(TMLR)에 게재되었으며, NeurIPS 2026에서 발표될 예정이다. • 책임: Vivek Shenoy, 재료과학 및 공학, Penn • 팀: Vinayak Vinayak, Ananyae Kumar Bhartari **Inverse PDE란 무엇인가?** 미분방정식(differential equations)은 어떤 시스템이 어떻게 변하는지를 설명하는 수학 도구다. 열의 확산, 인구 증가, 화학 반응 등 모든 것에 쓰인다. 편미분방정식(partial differential equations, PDE)은 이를 한 단계 더 확장한다. 공간과 시간 모두에 걸쳐 시스템이 어떻게 변하는지를 포착한다. 날씨, 재료과학, DNA 조직화에 이르기까지 곳곳에 PDE가 있다. 역 PDE(inverse PDE)는 이를 거꾸로 푼다. 규칙을 알고 결과를 예측하는 대신, 관측된 결과에서 출발해 뒤에 숨어 있는 규칙을 찾아낸다. 이것이 어렵다. 그리고 과학에 가장 필요한 것이기도 하다. **문제는 어디에 있었나?** 지금까지 AI는 재귀적 자동미분(recursive automatic differentiation)으로 이러한 도함수(derivatives)를 계산해 왔다. 즉, 데이터가 신경망을 통과할 때 변화량을 반복해서 계산하는 방식이다. 복잡하고 노이즈가 많은 데이터에서는 이것이 불안정해진다. 거친 선을 계속 확대(zoom)하는 것처럼, 단계마다 오차가 커진다. 계산 비용도 막대해진다. “현대 AI는 대개 compute를 늘리는 방식으로 발전해 왔습니다. 하지만 어떤 과학적 도전은 더 많은 compute가 아니라 더 나은 수학이 필요합니다.”라고 Vinayak Vinayak은 말한다. **해결책: Mollifier Layers** 해결책은 1940년대 수학자 Kurt Otto Friedrichs가 만든 ‘몰리파이어(mollifiers)’—불규칙한 함수를 매끈하게 만드는 도구—에서 나왔다. Penn 연구진은 이를 AI 모델 안에 ‘몰리파이어 레이어(mollifier layer)’로 넣었다. 변화량을 계산하기 전에, 입력 데이터를 먼저 부드럽게(평활화) 만든다. 결과: 노이즈가 줄었고, 계산 비용이 크게 감소했으며, 해가 안정적으로 바뀌었다. “처음에는 네트워크 아키텍처가 문제라고 생각했습니다. 그러다 병목이 재귀적 자동미분이라는 걸 깨달았죠.”라고 Ananyae Kumar Bhartari는 말한다. **DNA에서의 직접적 활용** 가장 큰 활용처는 크로마틴(chromatin) 연구다. 크로마틴은 세포핵 안에서 DNA가 접혀 있는 상태를 말한다. 크기는 고작 100나노미터 수준이다. 하지만 어떤 유전자가 작동할지를 이것이 결정한다. 즉, 세포 정체성, 노화, 질병 등 모든 것과 연결된다. “구조는 볼 수 있었지만, 그것을 움직이는 후성유전(epigenetic) 과정을 신뢰성 있게 추정하긴 어려웠습니다. 수학 자체가 바뀌어야 한다는 점이 분명해졌죠.”라고 Shenoy는 말한다. 새로운 AI 방법을 통해 유전자 발현을 조절하는 후성유전 반응 속도(epigenetic reaction rates)를 추정할 수 있다. 노화, 암, 발달 과정에서 이 속도들이 어떻게 변하는지 추적할 수 있다면, 새로운 치료법의 길이 열린다. “반응 속도가 크로마틴 조직화와 세포 운명을 제어한다면, 그 속도를 바꾸는 것으로 세포를 원하는 상태로 되돌릴 수 있습니다.”라고 Vinayak은 말한다. **생물학을 넘어** 적용 범위는 유전학에만 머물지 않는다. 재료 연구, 유체역학(fluid dynamics), 기상 예측처럼 노이즈 많은 데이터와 복잡한 방정식이 존재하는 모든 분야에서 이 프레임워크는 작동할 수 있다. “최종 목표는 복잡한 패턴을 관찰하는 데서 그치지 않고, 그것을 만들어내는 규칙을 정량적으로 끄집어내는 것입니다. 어떤 시스템을 지배하는 규칙을 이해하면, 그것을 바꿀 수 있는 가능성이 생깁니다.”라고 Shenoy는 말한다. --- 출처: University of Pennsylvania School of Engineering and Applied Science. Shenoy V., Vinayak V., Bhartari A.K. “Mollifier Layers for Inverse PDEs”, Transactions on Machine Learning Research, 2026년 5월. NeurIPS 2026에서 발표 예정.