유한차분 시간영역법(FDTD)과 전달행렬법(TMM): 적합한 광학 시뮬레이션 방법의 선택

1. 서론

전달행렬법(TMM)과 유한차분 시간영역법(FDTD)은 모두 광학 문제 해결에 널리 활용된다. 하지만 두 방법 모두 궁극적으로는 맥스웰 방정식에 기반하고 있음에도 불구하고, 서로 매우 다른 수학적 문제를 다루며 각기 다른 물리적 시스템에 적합하도록 설계되었다.

초보 사용자들이 흔히 저지르는 실수 중 하나는 ‘가장 고도화된’ 시뮬레이션 방법이 항상 최선이라고 가정하는 것입니다. 하지만 실제로는 그렇지 않은 경우가 많습니다. 계산물리학에서는 가능한 한 복잡한 문제를 해결하는 것이 목표가 아니라, 관심 대상인 물리 현상을 정확히 기술할 수 있는 가장 단순한 모델을 구축하는 것이 목표입니다.

이 개념은 매우 중요합니다. 왜냐하면 계산 비용은 차원 수와 모델의 복잡도에 따라 기하급수적으로 증가하기 때문입니다. 신중하게 선택된 단순화된 모델은 물리적으로 더 명확한 결과를 도출할 뿐만 아니라 해석도 용이하게 하며, 계산 속도 역시 수십 배 이상 향상시킬 수 있습니다.

전달행렬법(TMM)은 이러한 원리의 대표적인 사례입니다. 전달행렬법은 공간 및 시간상의 전체 전자기 문제를 직접 해결하는 대신, 전달행렬법의 유도에서 설명된 바와 같이 구조물이 사실상 1차원적이고 층상 구조를 가진다고 가정합니다. 이러한 근사 하에서는 각 층 내부의 전자기장을 전진파와 후진파의 중첩 형태로 해석적으로 표현할 수 있습니다.

그 결과 매우 복잡한 간섭 현상 문제들도 밀리초 단위 내에 매우 높은 수치적 정확도로 해결될 수 있으며, 동시에 공동공명 현상, 정상파 특성, 반사 스펙트럼, 투과 스펙트럼 및 다층 구조에서의 간섭 효과와 같은 물리적 특성들도 완벽히 포착할 수 있다.

반면에 유한차분 시간영역법(FDTD)은 시간에 따라 변화하는 전자기장을 공간 격자 위에서 맥스웰 방정식을 직접 풀어나간다. FDTD derivations and mathematical background에서 이에 대한 상세한 수학적 유도 과정이 제시되어 있다. 이러한 특성 덕분에 FDTD는 훨씬 더 범용적이고 물리적으로 완전한 시뮬레이션이 가능하지만, 계산 비용 또한 상당히 증가하게 된다.

2. 전달행렬법(TMM)과 유한차분 시간영역법(FDTD) 간의 근본적인 차이점

두 방법 간의 핵심적인 개념적 차이는 전달행렬법(TMM)이 방정식을 풀기 전에 물리적 모델을 단순화하는 반면, 유한차분 시간영역법(FDTD)은 맥스웰 방정식을 직접적으로 풀어 전체 전자기적 현상을 모사한다는 점입니다.

전달행렬법(TMM)에서는 구조물이 단일 방향으로 적층된 평면층들로 구성된다고 가정합니다. 물질의 특성이 오직 한 축을 따라서만 변화하므로 맥스웰 방정식은 훨씬 단순한 1차원 파동 문제로 축소됩니다.

이로 인해 수많은 복잡한 전자기 효과들이 수학적 모델에서 아예 나타나지 않게 됩니다. 예를 들어, 일반적인 1차원 전달행렬법(TMM)에서는 다음과 같은 현상들이 자연스럽게 포함되지 않습니다:

• 회절
• 측면 전파
• 곡면 파면
• 임의 형상에서 발생하는 산란 현상
• 도파관 굽힘
• 2차원 및 3차원에서의 국소적 결함

이는 해당 방법의 단점이 아닙니다. 오히려 이 점이 이 방법이 매우 빠르게 작동하는 이유입니다.

불필요한 자유도를 제거함으로써 전달행렬법(TMM)은 계산 자원을 오직 층상 광학 시스템에 관련된 물리 현상에만 집중시킨다. 박막 광학, 유전체 미러, 파브리-페로 공진기, OLED 적층 구조, 태양전지의 간섭 현상 및 다층 코팅의 경우 이러한 근사법은 대개 매우 높은 정확도를 보인다.

유한차분 시간영역법(FDTD)은 정반대의 접근법을 취합니다. 기하학적 구조를 해석적으로 단순화하는 대신 공간을 수치적 격자로 분할한 뒤 시뮬레이션 영역 전체에 걸쳐 맥스웰 방정식을 직접 풉니다. 그 결과 전자기장은 시간의 흐름에 따라 구조체 내에서 자연스럽게 전파됩니다.

전기장의 시간적 변화 과정이 그대로 유지되므로 FDTD는 회절, 각도에 따른 파동 전파, 산란 현상, 과도 상태, 다차원 간섭 현상, 도파관 모드 및 임의의 나노광학 구조를 모델링할 수 있다.

3. 각 방법이 제공하는 물리적 통찰력 비교

전달행렬법(TMM)은 공동공명 광학 시스템에 대한 물리적 이해를 매우 명확하게 제공한다. 예를 들어 ??에 제시된 transfer matrix Fabry-Pérot cavity tutorial에서 설명하는 파브리-페로 공진기 내부의 광자 밀도 분포는 공진 파장과 공진기 내부의 정상파 구조를 직접적으로 보여준다.

문제가 1차원적으로 제한되어 있기 때문에 공동공명 현상을 물리적으로 해석하기가 용이하다. 파브리-페로 공진기 내부의 정상파 모드가 명확히 나타나며 공명 파장도 정확히 규정된다. 또한 공동의 길이와 공명 조건 간의 관계도 즉시 파악할 수 있다.

많은 경우 이러한 단순성은 매우 바람직하다. 시뮬레이션의 목적은 단순히 영상을 생성하는 데 그치지 않고 물리적 현상을 이해하는 데 있기 때문이다. 지나치게 복잡한 시뮬레이션은 오히려 물리적 실체를 명확히 파악하는 데 방해가 되어 물리적 원리를 모호하게 만들 수도 있다.

반면에 FDTD 파브리-페로 공진기 튜토리얼에서 설명된 다차원 유한차분 시간영역법(FDTD) 시뮬레이션 결과는 ??에 제시되어 있으며 훨씬 더 풍부한 공간적 특성을 보여준다. 이 경우 파동은 여러 차원으로 전파되며 측면으로 퍼지고 회절 현상을 일으키며 공진기 영역 전체에 복잡한 간섭 패턴을 형성한다.

이러한 추가적인 물리적 현상의 반영은 구조 자체가 실제로 다차원적일 경우 매우 중요합니다. 다만 이로 인해 시뮬레이션 결과를 해석하는 것이 상당히 어려워질 수 있습니다. 사용자는 공동공명 현상, 회절 효과, 각도에 따른 파동 전파, 유한 크기에 의한 영향, 과도 현상 및 수치적 인위적 현상들을 서로 구별해야 합니다.

다시 말해, FDTD는 종종 더 많은 물리적 정보를 제공하지만 반드시 더 유용한 정보만을 제공하는 것은 아닙니다.

4. 계산 비용 및 확장성

두 방법 간의 가장 중요한 실용적 차이점 중 하나는 계산 비용입니다.

전달행렬법(TMM)은 1차원 층상 구조 문제만을 해결하므로 계산 효율성이 매우 뛰어납니다. 수많은 층으로 구성된 구조물에 대해서도 광범위한 파장 범위에서 광학적 계산이 단 몇 초 내에 완료됩니다.

반면에 유한차분 시간영역법(FDTD) 시뮬레이션에서는 차원 수가 증가함에 따라 계산량이 급격히 증가한다. 공간 해상도를 두 배로 높일 경우 그리드 점의 개수는 대략 다음과 같이 증가한다:

• \(N\) 1차원 경우
• \(N^2\) 2차원에서
• \(N^3\) 3차원 환경에서

또한 수치적 안정성 조건을 만족시키기 위해 시간스텝 크기도 줄여야 합니다. 그 결과 대규모 또는 고해상도 시뮬레이션의 경우 FDTD의 전체 연산 비용이 매우 크게 증가할 수 있습니다.

이러한 이유로 대부분의 실제 3차원 유한차분 시간영역법(FDTD) 시뮬레이션에서는 다음 사항들이 필요합니다:

• GPU 가속
• 대용량 메모리 용량
• 병렬 컴퓨팅
• 긴 계산 시간

중요한 점은, 이것이 FDTD가 ‘부적절한 방법’이라는 의미는 아니라는 점입니다. 단지 이 방법이 훨씬 더 복잡한 수학적 문제를 해결한다는 의미일 뿐입니다.

구조가 본질적으로 1차원적이라면, FDTD를 사용하더라도 물리적 정확도 측면에서 얻는 이점은 극히 미미한 반면 계산 비용은 수 배에서 수십 배까지 증가할 수 있다.

5. 언제 전달행렬법(TMM)을 사용해야 하는가?

일반적으로 구조가 대체로 평면적이고 층상 구조를 이루는 경우 전달행렬법(TMM)을 최우선으로 선택해야 한다.

전달행렬법(TMM)은 광학 필터, 무반사 코팅층, 파브리-페로 공진기와 같은 층상 구조를 갖는 광학 시뮬레이션에 특히 적합하다. 일반적으로 전달행렬법(TMM)은 다음과 같은 경우에 특히 유용하다:

• 박막 광학
• 파브리-페로 공진기
• 광학 코팅
• 유전체 미러
• 분산형 브래그 반사기(DBR)
• OLED 광학 모델링
• 태양전지의 간섭 현상 계산
• 다층 구조에서의 흡수 계산
• 신속한 매개변수 스캔

전달행렬법(TMM)은 다음과 같은 경우에도 적합합니다:

• 매우 빠른 시뮬레이션이 필요합니다
• 다양한 매개변수들을 최적화해야 합니다
• 정확한 공동공명 스펙트럼을 얻고자 하십니다
• 간단한 물리적 해석을 원하시는 경우
• 이 구조는 본질적으로 1차원적입니다

많은 실제 광학 공학 문제에서 전달행렬법(TMM)은 계산 비용이 훨씬 많이 드는 다른 방법들과 거의 구별되지 않는 결과를 산출할 수 있다.

6. 언제 유한차분 시간영역법(FDTD)을 사용해야 하는가?

TMM의 적용 기반이 되는 가정들이 더 이상 성립하지 않을 경우 유한차분 시간영역법(FDTD)이 필수적으로 사용된다.

특히 다음과 같은 경우에는 유한차분 시간영역법(FDTD)을 사용해야 한다:

• 기하학적 구조는 실제로 2차원 또는 3차원 형태입니다.
• 회절 현상은 매우 중요하다
• 파동이 큰 각도로 전파된다
• 해당 구조물에는 굽힘부나 곡선 부분이 존재한다
• 해당 소자는 분리된 나노구조들을 포함하고 있다
• 산란 현상은 매우 중요하다
• 과도 상태에서의 전자기장 변화는 매우 중요하다
• 정확한 전자기장 분포를 확보해야 합니다

예시로는 다음과 같은 것들이 있습니다:

• Photonic crystal waveguides
• Bragg gratings
• Mach-Zehnder interferometers
• Ring resonators
• Tilted facet waveguides
• Tapered waveguides and mode expansion
• 나노입자 산란
• 국부적 결함
• 임의의 나노광학 구조

이러한 시스템에서는 전달행렬법(TMM)에서 사용되는 단순화 조건들이 더 이상 물리적으로 타당하지 않으므로, 유한차분 시간영역법(FDTD)을 이용한 추가적인 계산 작업이 필수적입니다.

7. 마무리 논의: 가장 단순하면서도 물리적으로 타당한 모델을 선택하는 것

계산물리학에서 가장 중요한 역량 중 하나는 적절한 수준의 모델 복잡도를 선택하는 방법을 아는 것입니다.

더 복잡한 시뮬레이션이라고 해서 반드시 더 우수한 시뮬레이션인 것은 아닙니다. 대부분의 경우 보다 단순한 모델만으로도 다음과 같은 결과를 얻을 수 있습니다:

• 더 명확한 물리적 이해
• 더 빠른 반복 처리
• 디버깅이 용이함
• 보다 효과적인 매개변수 최적화
• 보다 신뢰성 높은 해석 결과

전달행렬법(TMM)은 층상 구조를 갖는 광학 문제에서 불필요한 복잡성을 제거한다는 점에서 강력한 기법이다. 이 방법은 수학적 단순화를 지능적으로 활용함으로써 핵심적인 간섭 현상을 극히 효율적으로 해석할 수 있게 해준다.

유한차분 시간영역법(FDTD)은 무시되었던 물리적 현상들이 중요해지는 경우에 유용하다. 이때 보다 단순한 근사법들로는 더 이상 충분하지 않으므로 추가적인 계산 비용이 발생하더라도 그만한 가치가 있다.

실제로 숙련된 연구자들은 두 방법을 병행 활용하는 경우가 많습니다. 먼저 전달행렬법(TMM)을 이용해 신속하게 탐색 및 최적화를 수행한 뒤, 유한차분 시간영역법(FDTD)을 통해 다차원적 검증 및 전기장 분석을 수행하는 식입니다.

따라서 목표는 “가장 고도화된” 시뮬레이션 기법을 선택하는 것이 아니라, 해결하려는 문제의 물리적 특성에 가장 적합한 방법을 선택하는 것입니다.