RF 온칩 발룬 성능 예측과 역설계를 위한 EM 데이터셋 기반 머신러닝 대리 모델 개발

Ⅰ. 서 론

RF 시스템의 핵심 부품인 온칩 트랜스포머 및 발룬 설계는 복잡한 물리적 구조와 전자기적 결합 특성으로 인해 정밀한 시뮬레이션이 필수적이다. 유한요소법(FEM) 기반의 HFSS 시뮬레이션은 단일 해석에도 수 분에서 수십 분이 소요되어, 광범위한 설계 공간을 탐색하는 데 병목 현상을 유발한다. 최근 이러한 문제를 해결하기 위해 딥러닝 및 머신러닝을 활용한 대리 모델(surrogate model) 연구^[1]~[5]가 활발히 진행되고 있다. 그러나 기존 선행 연구들은 주로 수천 개 수준의 제한된 데이터셋을 활용하거나, 역설계 과정에서 반복적인 최적화 알고리즘에 의존하여 즉각적인 설계 도출에 한계가 있었다. 본 연구에서는 PyAEDT를 활용한 병렬 시뮬레이션 환경을 구축하여 대규모 데이터셋을 확보하고, 이를 통해 발룬(balun, balanced-to-unbalanced)의^[3] 기하학적 변수와 성능 지표 간의 비선형 관계를 학습하는 정방향 모델을 구축한다. 또한. 목표 성능으로부터 최적의 물리적 기하 치수를 즉각적으로 도출하는 탠덤 신경망(TNN, tandem neural network)^[6] 기반의 자동 역설계(inverse design) 프레임워크를 제안한다. 기존 시뮬레이션 대비 비약적인 속도 향상과 공학적 신뢰성을 확보하는 것을 목표로 한다.

Ⅱ. 데이터셋 구축 및 자동화

본 연구의 3D EM 시뮬레이션(HFSS)에 사용된 온칩 발룬은 65 nm RF CMOS 공정의 메탈 스택을 기반으로 모델링되었다. 최상위 메탈층인 M7(metal 7) 레이어를 사용하여 1차측 권선을 구성하였으며, 메탈의 두께는 3.4 um, 유전체의 유전율(ε_r)은 4.1로 설정하였다. 2차 권선은 하단에 실리콘 기판(substrate)의 손실 특성을 반영하여 실제 칩 제작 환경과 동일한 전자기적 환경을 모사하였다. 그림 1은 해석 대상인 발룬의 구조로 녹색 1차측 권선 중앙에 탭이 존재하는 4포트 구조를 채택하였다. 전자기 시뮬레이션을 통해 얻은 S-파라미터를 Z-파라미터로 변환한 후 계산을 통해 28 GHz에서의 등가회로 소자값을 추출하여 머신러닝 타겟(출력) 데이터로 사용하였다. 이는 향후 보상 회로 적용을 염두에 둔 것이나, 본 연구에서는 기본 특성 학습을 위해 4번 포트를 개방하여 3포트 S-파라미터로 변환 후 분석하였다.

그림 1. | Fig. 1. 제안하는 온칩 발룬 구조 | Proposed on-chip balun structure.

Download Original Figure

설계 변수는 발룬의 성능을 좌우하는 7개의 기하학적 파라미터로 정의되었다. 그림 1의 3D 구조를 기준으로 상단의 녹색 1차 권선 폭(PW)과 간격(PX, PY), 하단의 자홍색 2차 권선 폭(SOW)과 간격(SOX, SOY), 회색 접지면의 거리(GY)로 구성된다. 모델 학습을 위해, 표 1의 7개의 구조 설계 파라미터 값들이 입력으로 사용되며, 발룬의 8개의 등가회로 파라미터(L_tp, L_ts, k, Q_p, Q_s, Z₁₁, Z₂₂, CMRR)가 출력으로 정의된다.

데이터 확보를 위해 Ansys PyAEDT API를 활용하여 HFSS 제어 스크립트를 작성하였다. 멀티코어 프로세싱 기반의 병렬 처리를 통해 여러 HFSS 세션을 독립적인 워커로 구동해 55,264개의 유효한 샘플을 확보하였다. HFSS 시뮬레이션 결과로 도출된 3포트 S-파라미터는 Z-파라미터 행렬로 변환하였고, 식 (1)~식 (5)를 적용해 등가회로 파라미터를 도출하였다.

또한, 발룬의 핵심 특성인 동상 노이즈 억제 능력을 평가하기 위해 S-파라미터의 투과 계수를 기반으로 동상 제거비를 식 (6)으로 계산하였다.

각 샘플로부터 L_tp(1차 인덕턴스), L_ts(2차 인덕턴스), k(결합계수), Q_p(1차측 품질), Q_s(2차측 품질), Z_{11 real}, Z_{22 real}(등가 직렬 기생 저항), CMRR을 포함한 총 8개의 핵심 성능지표를 추출하여 역설계 데이터셋을 최종 구축하였다(그림 2).

그림 2. | Fig. 2. 제안하는 온칩 발룬의 등가회로 모델 | Equivalent circuit model of the proposed on-chip balun.

Download Original Figure

Ⅲ. 역설계 머신러닝 모델링

본 연구에서는 수집된 EM 시뮬레이션 데이터를 바탕으로, 28 GHz 대역 온칩 발룬의 목표 성능으로부터 최적의 3D 기하학적 변수를 즉각 도출하는 탠덤 신경망(TNN)기반의 역설계 프레임워크를 구축하였다. 수집된 S-파라미터 데이터는 5G 밀리미터파 대역인 28 GHz를 기준으로 성능지표를 추출했으며, 해당 주파수가 소자의 자기 공진 주파수(SRF) 이내의 안전한 동작 영역에 위치하는지 검증하기 위해 31 GHz 대역의 데이터와 비교 분석을 수행하였다.

인덕턴스(L) 및 품질 계수(Q)가 28~31 GHz 구간에서 급격한 변동 없이 안정적인 경향성을 보이는 샘플만을 확보하기 위해, 동작 주파수 상한선(31 GHz) 대비 충분한 마진을 갖는 SRF 35 GHz 이상의 수치적 기준을 통과한 샘플만을 유효 데이터로 선별하였으며 55,264개의 데이터 중 90 %인 49,738개를 학습에 10 %인 5,527개를 검증에 활용^[7]하였다. 입력 기하 변수와 출력 성능 간의 상관관계 분석 결과, 인덕턴스 등은 일부 변수와 선형적 비례 관계를 보였으나, 결합계수(k)와 CMRR은 상관계수가 0에 가까운 강한 비선형성을 나타났으며 다른 기하학적 구조의 balun에서 동일한 전자기적 성능을 발현하는 다대일 매핑 특성이 관찰되었다.

이러한 비적합 환경에서는 단순한 선형회귀나 전통적인 머신러닝 기법으로는 목표 성능을 달성하는 정확한 해를 역산하는 것이 수학적으로 불가능하다. 이를 극복하기 위해 본 연구는 정방향(forward) 모델과 역방향(inverse) 모델을 결합한 TNN 아키텍쳐를 도입하였다.

탠덤 신경망 프레임워크는 비선형 다대일 매핑을 가벼운 연산량으로 해결하기 위해 정방향 성능 예측 모델과 역방향 구조 생성 모델을 직렬로 결합한 다층 퍼셉트론(MLP) 구조로 설계되었다. 먼저, 7차원의 기하학적 변수로부터 8차원의 전자기적 성능을 예측하는 정방향 모델(3개의 은닉층, 각 200-100-50노드)을 선행 학습시킨 뒤 가중치를 동결하여 고속 전자기장 솔버로 활용한다.

이어지는 역방향 모델(3개의 은닉층, 200-100-50노드)은 8차원의 타겟 다중 성능을 입력받아 7차원 3D 기하 변수를 출력한다. 다대일 매핑 문제로 인해 발생하는 비적합 문제를 해결하고자, 인공지능이 생성한 기하 변수의 물리적 오차가 아닌 정방향 모델을 통해 산출된 예상 성능과 초기 타겟 성능 간의 오차로 역방향모델을 훈련시킨다. 실험환경은 Colab A100 40 GB에서 진행하였으며, TNN학습의 전체 흐름도는 그림 3과 같다.

그림 3. | Fig. 3. 제안하는 TNN학습 자동화 흐름도 | Proposed TNN training automate flowchart.

Download Original Figure

고속 가상 시뮬레이터 역할의 정방향 모델은 식 (7)의 손실함수를 적용해 150 epoch 동안 학습하였고, 총 92.85초가 소요되었다(최종 Loss_Forward: 0.0358).

이를 바탕으로 역방향 모델은 아래 식 (8)의 손실함수를 적용해 200 epoch 학습 동안에, 138.22초가 소요되었다(최종 : Loss_Inverse0.0131).

이러한 성능 기반 최적화 전략은 모델이 특정 정답 도면의 형태에 얽매이지 않고, 오직 목표 전자기 성능을 만족하는 최적의 물리적 해를 유연하게 탐색하도록 유도한다. 두 신경망 모두 비선형 표현력을 확보하기 위해 각 은닉층에 ReLU 활성화 함수를 적용하였다. 역방향 모델의 출력층에는 MinMax 스케일로 구조 변수를 강제하는 sigmoid 함수를 배치하여 예측 변수가 물리적 설계 가능 영역을 이탈을 차단하였다.

Ⅳ. 실험 결과 및 분석

설계자가 입력한 타겟 성능으로부터 최적의 기하 파라미터를 도출하는 역설계 추론은 평균 1.14 ms로 측정되었다. 기존 유한요소법(FEM) 기반 HFSS 시뮬레이터로 1개의 샘플을 해석하는 데 약 5분이 소요되는 것과 비교해 약 260,000배의 속도 향상을 달성했다. 역설계 모델의 일반화 성능을 검증하기 위해, 학습에 사용되지 않은 5,527개의 테스트셋을 대상으로 교차 검증을 수행하였다. 표 2는 AI가 예측한 기하 파라미터가 목표로 했던 전자기적 성능(등가회로 파라미터)을 얼마나 정확히 복원했는지를 나타낸다. 그림 4은 테스트셋에 대한 사용자 정의 목표 타겟 성능과 AI 추론 기하값을 실제 HFSS로 교차 검증 결과에 대한 비교 산점도를 시각화한 결과다.분석 결과를 결정 계수(R² score)와 평균 절대 비율 오차(MAPE, mean absolute percentage error)로 실제 타겟값 대비 모델이 예측한 값의 절대 오차를 백분율(%)로 환산한 평균으로 분석하였다.

그림 4. | Fig. 4. 테스트 셋 기반 타겟 전자기 성능과 TNN 추론 예상 성능 간의 산점도 및 결정 계수 분석 | Scatter plots and coefficient of determination analysis between the target electromagnetic performance (ground truth) and TNN-inferrence predicted performance based on the test set.

Download Original Figure

인덕턴스(L_tp, L_ts)와 품질 계수(Q_p, Q_s) 등 8개의 핵심 다중 지표 모두에서 결정계수(R²) 0.96 이상의 상관관계를 기록하였다. 28 GHz 대역에서 예측이 까다로운 기생 저항 성분(Z_{11 real}, Z_{22 real})에서 1.4 %정도의 낮은 MAPE를 달성하였으며, 강한 비선형성을 띠는 결합계수(k)와 동상 제거비(CMRR) 역시 2 % 초반의 오차율을 달성했다. 특정 목표 등가회로 파라미터를 AI 역설계 모델이 추론한 3D Geometry 변수(μm 단위, GY: 94.95, PW: 5.29, PX: 2.07, PY: 6.45, SOW: 6.96, SOX: 2.49, SOY: 2.08)를 실제 HFSS 시뮬레이션으로 교차 검증한 결과는 표 3과 같다.

나아가 제안된 모델의 일반화 성능을 검증하기 위해, 학습 과정에 노출되지 않은 무작위 목표 성능(unseen targets) 10개를 평가용 데이터셋의 유효 범위 내에서 추출하여 HFSS 교차검증을 수행하였다. 표 4와 같이 전체 평균 오차율(MAPE)은 3.09 %로 산출되었다. 표 3 및 표 4의 세부 결과를 보면, 구조적 크기에 선형적으로 비례하는 인덕턴스(L_tp, L_ts)와 1차측 품질계수(Q_p)는 1~2 %의 낮은 오차를 기록한 반면, 결합계수(k)와 2차측 품질계수(Q_s), CMRR는 특정 타겟에 한해 오차가 다소 높게(평균 4~6 %대) 관찰되었다. 이는 역설계 모델의 근본적 한계라기보다, 다차원 공간 내 특정 타겟 영역의 데이터 희소성(sparsity)과 28 GHz 대역의 3D 기하 치수를 예측해 내더라도, 코일 간격(S) 등에 존재하는 1 μm 미만의 극히 미세한 추론 편차가 실제 HFSS 전자기장 해석 과정에서 기생 성분을 요동치게 하여 오차를 크게 증폭시킨 결과이기 때문이다.

Ⅴ. 결 론

본 연구에서는 설계자가 요구하는 특정 등가회로 파라미터(L, Q, k, CMRR 등)를 만족하는 기하 구조를 1.14 ms에 도출하는 TNN 기반 역설계 프레임워크를 제안한다. 제안한 balun 단일 해석에만 약 5분이 소요되어 반복적인 최적화 과정에 많은 시간이 요구되었다. 반면, 제안된 모델은 역설계의 다대일 매핑 문제를 극복하고, 무작위 타겟에 대한 HFSS 교차 검증 결과 낮은 평균 오차율로 물리적 신뢰성을 확인하였다. 본 연구는 28 GHz 대역에 초점을 맞추고 있으나, 제안된 TNN 아키텍처는 전자기적 물리 법칙의 비선형적 매핑을 학습하였으므로 타 주파수 대역으로의 확장이 가능할 것으로 보인다. 향후 연구에서는 목표 동작 주파수(f_c) 또한 입력 변수에 추가해 광대역 및 주파수 가변적 설계가 가능하도록 확장할 계획이다. 더불어, 단일 주파수의 등가회로 파라미터를 넘어 넓은 대역의 S-파라미터 주파수 응답 곡선 자체를 직접 역설계 조건으로 반영할 수 있도록 프레임워크를 고도화할 것이다. 특히, 타 주파수 대역으로 확장할 경우, 본 연구에서 구축한 모델의 데이터를 바탕으로 대역 간 전이학습(sub-band transfer learning)을 통해 데이터 생성 비용을 최소화할 예정이다. 개발된 모델은 엔지니어의 휴리스틱에 의존하던 수동소자 설계 방식을 보완하여 설계 자동화 도구로서 기여할 수 있을 것으로 기대된다.