몇 개월이 걸리는 광학 설계가 "2초"에? AI×메타서피스의 충격

「광학 설계가 “장인 기술”에서 “프롬프트”로」——LLM이 메타서피스 설계를 “수개월→순간”으로 변화시키다

광학 렌즈나 VR/AR, 홀로그래피, 심지어 의료 및 방위 용도까지. 현대의 “빛을 조종하는” 기술은 스마트폰 카메라에서 산업 측정에 이르기까지 우리의 생활과 산업의 중심에 자리 잡고 있다.

한편, 그 근본에 있는 광학 부품의 설계는 여전히 무거운 시뮬레이션과 전문 지식에 크게 의존하며, “빠르게 시도할 수 없는” 것이 병목 현상이 되기 쉬웠다.

그런 분위기를 한 번에 바꿀 것 같은 뉴스가 2026년 1월 5일에 보도되었다. 미국 펜실베이니아 주립대학(Penn State)의 연구팀이 메타서피스(metasurface) 설계를 기존의 “수주~수개월” 규모에서 “초~밀리초” 수준으로 단축할 수 있는, LLM(대규모 언어 모델) 기반의 설계 방법을 제시했다고 한다. 목표는 단순한 속도 향상이 아니다.「나노 광학의 설계를 더 많은 사람이 다룰 수 있는 “대화형”으로」라는, 설계 문화 자체의 전환이다. Phys.org

애초에 메타서피스란 무엇인가

메타서피스는, 파장보다 작은 스케일(서브파장)의 미세 구조(산란체)를 면상에 배열하여, 빛의 진폭, 위상, 편광 등을 국소적으로 제어하는 인공 구조다. 잘 설계되면, 기존에는 두꺼운 렌즈나 다수의 광학계로 실현했던 기능을 얇은 면으로 대체 및 통합할 가능성이 있다. 메타렌즈나 홀로그래픽 이미저, AR 디스플레이 등이 전형적인 예다. arXiv

그러나, 이 “잘 설계되면”이 어렵다. 미세 형상이 조금만 변해도 투과 및 반사 스펙트럼이 크게 변화하며, 설계 공간은 고차원이다. 이상 성능에 도달하기까지의 탐색은 방대한 후보를 시도해야 한다.

기존의 장벽: 풀웨이브 전자기장 시뮬레이션의 무거움

기존에 메타서피스의 평가는 FDTD(유한차분시간영역법)나 FEM(유한요소법) 등의 “풀웨이브” 전자기장 솔버가 자주 사용된다. 정밀도는 높지만, 설계 루프를 돌릴 때마다 계산이 무겁다. 대규모 장치나 다기능화를 목표로 할수록, 일 단위, 주 단위로 시간이 소모된다. arXiv

이 “계산이 무겁다” 문제에 대한 답변으로, 최근에는 심층 학습(DNN)을 사용한 서로게이트(대리) 모델이 활발해졌다. 학습 후에는 보지 못한 형상에서도 빠르게 응답을 예측할 수 있다. 그러나, 여기에도 또 다른 장벽이 있다.

**“새로운 목적(새로운 광학 기능)마다, 학습 데이터 준비, 네트워크 설계, 하이퍼파라미터 탐색이 필요해지기 쉽고”** 결국 기계 학습의 전문성이 요구된다. arXiv

이번의 새로운 접근: LLM을 “메타서피스의 예측기/설계기”로 사용하기

Penn State 팀이 제시한 것은, LLM을 “문장 생성”이 아닌, 메타서피스의 형상→광학 응답(스펙트럼)을 예측하는 모델, 더 나아가 **목표 응답→형상을 생성하는 역설계(inverse design)** 엔진으로 사용하는 접근이다. Phys.org

열쇠는 두 가지다.

1. 형상을 “언어열”로 표현하기
   연구에서는 임의 형상의 메타서피스를 “제어점(control points)의 격자” 형태로 표현하고, 대칭성 부여→보간→이진화→형태학적 처리로 마스크를 정리한다. 거기에서 실리콘 층(예: 두께 200nm)으로 추출하여, 유리 기판 위의 구조로 FDTD로 분석하고, 형상과 스펙트럼의 쌍 데이터를 만든다. arXiv

2. LLM에 “숫자를 내는 일”을 시키기 위한 학습 설계
   LLM에 제어점의 격자를 프롬프트로 입력하고, 출력으로 “1050~1600nm 범위에서 31점의 투과율”을 숫자열로 반환하도록 학습시킨다. 추가로 LoRA와 같은 파라미터 효율이 좋은 미세 조정으로, LLM을 현실적인 계산 자원으로 “사용할 수 있는 예측기”로 만든다. arXiv
   
   

“초 단위로 반환”이 무엇을 바꾸는가: 설계 루프가 깨진다(좋은 의미로)

논문 측의 설명에서는, 미세 조정한 Llama-3.1-8B을 사용한 예측이, RTX 2080 Ti 1장으로 약 2초에 반환되는 예가 제시되었고, CPU 클러스터에서의 풀웨이브 분석에 대해 약 60배 빠르다고 한다. arXiv

Phys.org의 기사에서는 “기존에는 시간과 전문 지식이 필요하고, 경우에 따라서는 “수개월”이 걸릴 수 있는” 영역을, LLM에 의해 “초”로 가까워질 수 있다고 설명된다. 데이터셋으로 4만 5천 건 이상의 랜덤 생성 디자인으로 검증했다고도 한다. Phys.org

여기서 중요한 것은, 속도 그 자체보다도 “설계의 방식”이 변하는 점이다.

설계가 느리면, 사람은 “무난한 형태(원기둥, 입방체 등)”로 기울어져, 탐색의 수를 줄인다. 반대로 설계가 빠르면, “임의 형상(free-form)”을 대량으로 시도할 수 있다. 기사에서도, 표준 형상에 얽매이지 않는 자유도가 높은 요소 형상이 성능을 끌어올릴 수 있는 한편, 기존에는 최적화가 현실적이지 않았다고 언급된다. Phys.org

역설계(inverse design): 원하는 스펙트럼에서 형상을 생성

이 연구의 또 다른 하이라이트가 역설계다.

타겟이 되는 31점의 투과 스펙트럼을 입력하면, LLM이 그것에 대응하는 제어점 그리드를 생성하고, 거기에서 형상 후보를 얻는다. 논문에서는, 역설계의 평가로 “테스트 샘플의 88% 이상이 일정 임계값 이하의 MSE”를 달성했다는 취지가 제시되어 있다. arXiv

이것이 실용에 가까워지면, 설계의 입구는 한 번에 넓어진다.

“이 파장대에서 이런 투과 특성이 필요하다” “이 용도로 이 조건을 만족하고 싶다”라는 요구에서, “형상의 추정”을 먼저 만들고, 마지막에 고정밀 솔버로 다듬는 흐름이 현실성을 띠게 된다. 논문에서도, LLM을 “고속의 일차 평가”에 사용하고, 최종 단계에서 무거운 솔버나 전용 네트를 사용하는 것이 실무적이라는 함의가 읽힌다. arXiv

하지만 만능은 아니다: LLM의 “수다스러운 성향”이 방해가 된다

재미있는 점은, “어떤 LLM도 똑같이 잘 되는 것은 아니다”라는 점이 명확히 언급된 것이다. 논문 중에서는, 추론(reasoning) 중심의 모델을 미세 조정했을 때, 지정된 형식으로 숫자열을 반환하지 않고, “추가 정보를 요구하는 설명문”을 내놓는 예가 소개되어 있다. 즉, 대화에 강한 모델일수록, 숫자 회귀 작업에서는 “친절하게 탈선하는” 경우가 있다. arXiv

이는 LLM을 공학 설계에 통합할 때의 현실적인 주의점이다.

“출력의 형식을 지키다” “조용히 숫자를 내놓다” “불필요한 추론문을 섞지 않다”——이런 제어는, 생성 AI의 일반적인 사용법보다, 오히려 “견고한 공학”의 요구에 가깝다.

산업적 영향: 얇고, 가볍고, 스마트한 광학계로

Phys.org에서는, 이번의 고속 최적화가 장래에 카메라 렌즈, VR 헤드셋, 홀로그래픽 이미저 등의 고급 광학 시스템의 제조 및 구현을 촉진할 수 있다고 언급된다. 더 나아가 장래 계획으로, 의료, 국방, 에너지, 소비자 전자 기기로의 통합을 가속하고 싶다는 방향성도 언급된다. Phys.org##HTML