논문/REGULAR PAPERS

MTL 기반 중첩 미상 신호 도래각 추정 및 자동 변조 분류

조윤설https://orcid.org/0009-0002-8069-0410, 김한빛https://orcid.org/0000-0002-2486-3316, 박현우https://orcid.org/0000-0002-9095-4283, 박지연*https://orcid.org/0000-0001-7620-1499, 지영근*https://orcid.org/0009-0009-8460-1076, 주형준*https://orcid.org/0009-0003-5507-8040, 최재각*https://orcid.org/0000-0002-0293-7222, 임상훈*https://orcid.org/0000-0001-9902-9513, 김기훈*https://orcid.org/0000-0002-3519-0268, 김선우https://orcid.org/0000-0002-7055-6587
Yunseol Chohttps://orcid.org/0009-0002-8069-0410, Hanvit Kimhttps://orcid.org/0000-0002-2486-3316, Hyunwoo Parkhttps://orcid.org/0000-0002-9095-4283, Jiyeon Park*https://orcid.org/0000-0001-7620-1499, Younggun Ji*https://orcid.org/0009-0009-8460-1076, Hyungjun Ju*https://orcid.org/0009-0003-5507-8040, Jaekark Choi*https://orcid.org/0000-0002-0293-7222, Sanghun Im*https://orcid.org/0000-0001-9902-9513, Kihun Kim*https://orcid.org/0000-0002-3519-0268, Sunwoo Kimhttps://orcid.org/0000-0002-7055-6587
Author Information & Copyright
한양대학교 융합전자공학과
*한화시스템(주)
Department of Electronic Engineering, Hanyang University
*Hanwha Systems
Corresponding Author: Sunwoo Kim (e-mail: remero@hanyang.ac.kr)

© Copyright 2025 The Korean Institute of Electromagnetic Engineering and Science. This is an Open-Access article distributed under the terms of the Creative Commons Attribution Non-Commercial License (http://creativecommons.org/licenses/by-nc/4.0/) which permits unrestricted non-commercial use, distribution, and reproduction in any medium, provided the original work is properly cited.

Received: Aug 06, 2025; Revised: Aug 18, 2025; Accepted: Sep 11, 2025

Published Online: Dec 31, 2025

요 약

본 논문에서는 다수의 신호원이 존재하는 전장 환경에서 중첩 미상 신호의 특성 추정을 위하여 MTL(multi-task learning) 기반 도래각 추정 및 자동 변조 분류 알고리즘을 제안한다. 각 신호 특성을 개별적으로 추정하는 기존 특성 추정 방식은 동일한 입력 신호에 대하여 반복적으로 연산을 수행하여 계산 효율성이 낮다. 이러한 한계를 극복하기 위하여 제안 알고리즘은 하나의 딥러닝 네트워크에서 다수의 독립 작업을 동시에 수행하는 MTL 구조의 MoDANet을 활용하며, 중첩 미상 신호의 분리, 탐지 및 특성 추정을 하나의 시스템으로 통합한다. 시뮬레이션 결과 제안 알고리즘이 개별 작업의 직렬 수행 대비 낮은 계산 복잡도와 높은 추정 성능을 달성하는 것을 확인하였다.

Abstract

This paper proposes a multi-task learning (MTL)-based algorithm for joint direction of arrival (DoA) estimation and modulation classification to process overlapping unknown signals in multi-source communication environments. Conventional methods estimate each characteristic independently, resulting in redundant computations and low efficiency. To overcome these limitations, the proposed algorithm employs MoDANet, an MTL-based deep learning model that performs multiple independent tasks concurrently and integrates signal detection, separation, and feature estimation into a unified system. Simulation results show that the proposed algorithm achieves lower computational complexity and improved estimation performance compared with sequential approaches for individual tasks.

Keywords: Automatic Modulation Classification; Direction of Arrival Estimation; Overlapped Signal; Multi-Task Learning

I. 서 론

전장 환경에서는 다수의 신호원이 존재함에 따라 중첩 신호가 빈번하게 수신되며, 이는 신호의 탐지 및 분석에 어려움을 초래한다[1]. 특히 기존에 식별되지 않은 미상의 중첩 신호를 수신하는 군 통신 시스템에서는 실시간 위협 분석 및 대응을 위하여 신호 분리, 탐지 및 특성 추정을 통합하는 신호 처리 기술이 필수적이다[2].

MoDANet[3]은 MTL(multi-task learning)을 활용하여 도래각 및 변조 기법을 하나의 네트워크에서 동시에 추정하는 최초의 딥러닝 모델이다. MoDANet은 단일 작업을 독립적으로 수행하는 경우 발생하는 특징 추출 과정의 중복을 제거하여 계산 복잡도를 감소한다. 그러나 단일 신호원을 가정하므로 중첩 미상 신호 수신 시나리오에 적용하기에 적합하지 않다.

본 논문에서는 중첩 미상 신호에 적용 가능한 MTL 기반 신호 처리 알고리즘을 제안한다. 제안 알고리즘은 주파수 필터링을 통하여 중첩 신호를 개별 신호로 분리하고 신호 전력을 임계값과 비교하여 미상 신호의 존재를 탐지한다. 분리된 각 신호에 MoDANet을 적용하여 개별 신호의 도래각과 변조 기법을 추정 및 매핑한다. 제안 알고리즘은 신호 분리, 탐지 및 특성 추정을 하나의 시스템으로 통합하였으며, 도래각 및 변조 기법을 하나의 네트워크에서 동시 추정하여 계산 효율성을 향상한다[2].

II. 중첩 미상 신호 시스템 모델

본 논문에서는 그림 1과 같이 요소 간 간격이 dM개의 안테나로 구성된 ULA(uniform linear array) 안테나가 K개의 신호원으로부터 중첩 미상 신호를 수신하는 시스템을 가정한다. k번째 신호원의 송신 신호 Xk∈ℂ M×T식 (1)과 같다.

jkiees-36-12-1196-g1
그림 1. | Fig. 1. 중첩 미상 신호에 대한 도래각 및 변조 기법 동시 추정 모식도 | The scheme of joint DoA estimation and AMC for overlapped unknown signals.
Download Original Figure
X k = a θ k , f k s , k
(1)

여기서 sk∈ℂ T×1는 복소 기저대역 신호이며, T는 스냅샷 개수, [  ‧  ]는 전치 행렬이다. 각 신호의 도래각 θk, 주파수 fk에 대한 조향 벡터 a(θk, fk)∈ℂ M×1식 (2)와 같다.

a θ k , f k = 1 , e j v k , , e j ( M 1 ) v k ,
(2)

여기서 vk=2πdsin(θk)/λk이며, λk=c/fkk번째 신호의 파장, c는 광속이다. 전체 수신 신호 행렬 Y∈ℂ M×T식 (3)과 같다.

Y = k = 1 K X k + N ,
(3)

여기서 N∈ℂ M×T은 수신 신호의 잡음이다.

III. MTL 기반 중첩 미상 신호 도래각 및 변조 기법 동시 추정 알고리즘

3-1 주파수 필터링 기반 중첩 미상 신호 분리

본 논문에서는 중첩 미상 신호 Y에 주파수 필터링을 적용하여 개별 신호 Zk로 분리한다. Xk는 사전 정의된 주파수 대역 Wk 내에 존재하며, 중심 주파수는 fk이다. 각 신호의 주파수 대역은 서로 다르며, Wk 내 신호의 존재 여부는 사전에 알려지지 않은 것으로 가정한다. 서로 다른 fk를 갖는 다수의 신호가 시간 영역에서 중첩되어 수신되며, 각 Wk를 기준으로 대역 통과 필터를 적용하여 해당 대역 이외의 성분을 제거한다.

3-2 Neyman-Pearson Lemma 기반 신호 탐지

제안 알고리즘은 Wk에서 신호의 존재를 탐지하기 위하여 Zk의 전력 P를 각 SNR에서 설정된 임계값과 비교하여 신호를 탐지한다. P식 (4)와 같이 계산된다.

P = 1 M T m = 1 M t = 1 T I ( m , t ) 2 + Q ( m , t ) 2 ,
(4)

여기서 I(m,t), Q(m,t)는 신호의 실수부 및 허수부이며, mt는 각각 안테나 배열 소자 및 시간의 인덱스이다.

본 논문에서는 주어진 false alarm rate에서 검출 확률을 최대화 하는 Neyman-Pearson lemma[4]에 기반하여 임계값을 실험적으로 결정하였다. False alarm rate α에 대하여 각 SNR에서 잡음 전력 분포의 1-α 분위수 γα에 해당하는 값을 임계값으로 결정하며, 신호 유무 판단에 식 (5)와 같은 기준을 적용한다.

 Decide  H 1  if  P > γ α H 0  otherwise  ,
(5)

여기서 H1은 신호 존재 가설, H0는 신호 부재 가설이다.

3-3 MTL 기반 도래각 및 변조 기법 추정

제안 알고리즘은 중첩 신호 내 개별 신호의 도래각 및 변조 기법을 추정하고 매핑하는 것을 목표로 한다. 이를 위하여 분리 및 탐지가 완료된 모든 Zk그림 2에 제시된 MoDANet[3]을 적용하여 두 경로에서 각각 변조 방식 및 도래각을 예측한다. 본 논문의 MoDANet 입출력 및 손실 함수 L은 식 (6)~식 (8)과 같다.

jkiees-36-12-1196-g2
그림 2. | Fig. 2. MoDANet[3] 모델 구조 | MoDANet[3] model architecture.
Download Original Figure
[ θ ^ , χ ^ ] = Net Z k ,
(6)
L Σ = L DoA + L AMC ,
(7)
L = 1 N s i = 1 N s j = 1 N m n i j ln n ^ i j ,
(8)

여기서 θ,x 는 각각 모델이 추정한 신호의 DoA 및 변조 기법 클래스이며, DoA, AMC는 각각 DoA 추정과 AMC에서의 손실함수로 ℒ과 같이 계산된다. Ns는 학습에 사용되는 신호의 개수, Nm는 모델이 분류 가능한 클래스의 개수이며, nijj번째 클래스에 대한 i번째 신호의 실제 클래스, niji번째 신호의 클래스 j에 대하여 네트워크가 추정한 값이다.

IV. 시뮬레이션 결과

시뮬레이션 파라미터 설정값은 다음과 같다. 신호원 개수 K는 5개, 스냅샷 개수 T는 1,024개, 안테나 개수 M은 5개, α는 0.01로 설정하였다. 각 주파수 대역별 변조 방식은 미군의 전술 무선 통신 운용에 관한 공식 문서인 MCRP3‑40.3G[5]에 기반하여 설정하였다. 구체적인 시뮬레이션 환경 설정은 표 1과 같다.

표 1. | Table 1. 도래각 및 변조 기법 추정 실험 환경 | Experimental setting for estimating DoA and modulation techniques.
Parameter Value
SNR −20 dB to 10 dB with the step size of 5 dB
DoA 1° to 40° with the step size of 1°
Mod Freq BPSK 1.89~22.7 MHz
FM, FSK 30~87.975 MHz
AM 108~129.975 MHz
AM, FM, FSK 130~148.975 MHz
FM, FSK 156~173.975 MHz
Number of data 21,000 training data, 7,000 test data
Download Excel Table

그림 3은 Neyman-Pearson lemma 기반 신호 탐지 결과와 함께, 제안 알고리즘 및 개별 작업의 변조 분류 정확도와 도래각 추정 RMSE(root mean square error)를 나타낸다. 신호 검출 정확도는 SNR −20 dB에서 2.9 %에 불과했으나, −5 dB에서 급격히 증가하여 0 dB 이상에서는 100 %를 달성하였다. 이를 통하여 제안 알고리즘이 SNR −5 dB 이상에서 안정적인 신호 탐지 성능을 보이며, 특히 0 dB 이상에서 완전한 탐지가 가능함을 확인하였다.

jkiees-36-12-1196-g3
그림 3. | Fig. 3. 제안 알고리즘 및 개별 작업의 도래각 추정 RMSE 및 변조 분류 정확도 | AMC accuracy and DoA estimation RMSE of the proposed algorithm and individual tasks.
Download Original Figure

변조 분류 정확도는 J개의 전체 테스트 신호 중 변조 기법이 정확하게 추정된 신호의 비율이며, 도래각 추정 RMSE는 식 (9)와 같다.

RMSE = 1 J K j = 1 J k = 1 K θ ^ j , k θ j , k 2 ,
(9)

여기서 θ(j,k), θj,k는 각각 k번째 신호의 실제 도래각과 모델이 예측한 도래각이다. 제안 알고리즘은 낮은 SNR에서 개별 작업에 비하여 낮은 성능을 보였으나, SNR −10 dB에서 84 %의 분류 정확도, −5 dB에서 2.4°의 RMSE를 달성하며 개별 작업 대비 높은 성능을 달성하였다. MTL은 두 작업 간 상관된 특징을 공유함으로써 하나의 작업에서 학습한 정보를 다른 작업의 판별 기준에도 활용하는 상호 보완적인 학습을 수행하므로 SNR 상승에 따라 제안 알고리즘의 성능이 향상되었다.

표 2는 제안 알고리즘 및 개별 작업의 계산 복잡도를 나타낸다. 두 개별 작업을 독립적으로 직렬 수행할 경우 총 파라미터 수 및 총 실행 시간은 각각 595,756, 1.21 ms이며, 제안 알고리즘은 이에 비하여 각각 약 13.7 %, 26.7 % 낮은 계산복잡도를 요구한다. 이는 중복된 특징 추출 과정을 통합하여 학습 및 추론 과정의 계산 자원을 절감한 결과로, 제안 알고리즘의 계산 효율성을 입증한다.

표 2. | Table 2. 제안 알고리즘 및 개별 작업의 계산 복잡도 | Computaional complexity of proposed algorithm and individual tasks.
AMC-only DoA-only MTL
Number of parameters 279,428 316,328 514,284
Execution time (ms) 0.61 0.60 0.88
Download Excel Table

그림 4그림 5는 각각 SNR −10 dB, 10 dB에서 각 변조 기법에 대한 AMC 정확도를 나타내는 오차 행렬이다. 각 행렬 요소는 실제 변조 기법과 예측 변조 기법 간의 일치 확률을 나타낸다. 제안 알고리즘은 모든 변조 방식에 대하여 SNR −10 dB에서 76 %, 10 dB에서 92 % 이상의 높은 분류 정확도를 달성하였다. 특히, 각 SNR에서 BPSK(binary phase shift keying)는 91.2 %, 100 % 정확도로 분류하였다. BPSK는 다른 변조 방식과 주파수 대역을 공유하지 않으므로 MoDANet[3]이 클래스 간 경계를 명확히 학습하여 높은 분류 정확도를 달성하였다.

jkiees-36-12-1196-g4
그림 4. | Fig. 4. SNR −10 dB에서 제안 알고리즘의 오차 행렬 | Confusion marix when SNR is −10 dB.
Download Original Figure
jkiees-36-12-1196-g5
그림 5. | Fig. 5. SNR 10 dB에서 제안 알고리즘의 오차 행렬 | Confusion marix when SNR is 10 dB.
Download Original Figure

V. 결 론

본 논문에서는 MTL 기반 중첩 미상 신호 도래각 및 변조 기법 동시 추정 알고리즘을 제안하였다. 제안 알고리즘은 신호의 분리, 탐지 및 특성 추정을 하나의 시스템으로 통합하며, MoDANet을 활용하여 도래각 및 변조 기법을 동시에 추정한다. 시뮬레이션 결과, 제안 알고리즘은 각 개별 작업 대비 낮은 계산 복잡도를 달성하며, SNR에서 0 dB 이상에서 높은 성능을 보이는 것을 확인하였다. 이를 통하여 상호 보완적인 학습을 수행하는 MTL 기반 제안 알고리즘이 무선 신호의 다중 특성 동시 추정 정확도를 향상함을 검증하였다. 향후 연구로는 하드웨어 및 채널 임페어먼트가 존재하는 실제 무선 통신 환경을 고려한 도래각 및 변조 기법 동시 추정 연구가 고려된다.

Acknowledgements

이 연구는 2025년도 한화시스템(주)의 재원을 지원받아 수행된 연구임.

References

[1].

Z. Liu, L. Li, D. Lv, and N. Pan, “Novel source recovery method of underdetermined time-frequency overlapped signals based on submatrix transformation and multi-source point compensation,” IEEE Access, vol. 7, pp. 29610-29622, Feb. 2019.

[2].

K. Chen, L. Wang, J. Zhang, S. Chen, and S. Zhang, “Semantic learning for analysis of overlapping LPI radar signals,” IEEE Transactions on Instrumentation and Measurement, vol. 72, p. 8501615, Feb. 2023.

[3].

V. S. Doan, T. Huynh-The, V. P. Hoang, and D. T. Nguyen, “MoDANet: Multi-task deep network for joint automatic modulation classification and direction of arrival estimation,” IEEE Communications Letters, vol. 26, no. 2, pp. 335-339, Feb. 2022.

[4].

J. Neyman, E. S. Pearson, “On the problem of the most efficient tests of statistical hypotheses,” Philosphical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, vol. 231, no. 694-706, pp. 289-337, Feb. 1933.

[5].

R. W. Mixon Jr., R. E. Schmidle, J. M. Kelly, and S. G. Cullen, “UHF TACSAT/DAMA: Multi‑service tactics, techniques, and procedures for ultra high frequency tactical satellite and demand assigned multiple access operations,” Air Land Sea Application Center, Aug. 2004.

Notes

조 윤 설 [한양대학교/석사과정]

jkiees-36-12-1196-i1

  • https://orcid.org/0009-0002-8069-0410

  • 2023년 8월: 경기대학교 전자공학과 학사

  • 2024년 3월~현재: 한양대학교 융합전자공학과 석사과정

  • [주 관심분야] AMC, DoA Estimation, 5G/6G, Wirless Communication, Robust Localization 등

김 한 빛 [한양대학교/석․박사통합과정]

jkiees-36-12-1196-i2

  • https://orcid.org/0000-0002-2486-3316

  • 2021년 2월: 광운대학교 전자공학과 학사

  • 2021년 3월~현재: 한양대학교 융합전자공학과 석․박사통합과정

  • [주 관심분야] AMC, DoA Estimation, 5G/6G, Wirless Communication, Quantum Sensing 등

박 현 우 [한양대학교/석․박사통합과정]

jkiees-36-12-1196-i3

  • https://orcid.org/0000-0002-9095-4283

  • 2020년 2월: 한양대학교 융합전자공학부 학사

  • 2020년 3월~현재: 한양대학교 융합전자공학과 석․박사통합과정

  • [주 관심분야] AMC, DoA Estimation, 5G/6G, Wirless Communication, BeamForming 등

박 지 연 [한화시스템(주)/선임연구원]

jkiees-36-12-1196-i4

  • https://orcid.org/0000-0001-7620-1499

  • 2021년 2월: 한양대학교(ERICA) 전자공학부 학사

  • 2023년 2월: 한양대학교 전자공학과 석사

  • 2023년 2월~현재: 한화시스템(주) 선임연구원

  • [주 관심분야] Deep Learning, EMSO, Signal Processing 등

지 영 근 [한화시스템(주)/수석연구원]

jkiees-36-12-1196-i5

  • https://orcid.org/0009-0009-8460-1076

  • 2006년 2월: 인하대학교 전자공학 학사

  • 2008년 2월: 인하대학교 전자통신공학 석사

  • 2007년 12월~현재: 한화시스템(주) 수석연구원

  • [주 관심분야] EMSO, 5G/6G, Massive MIMO, CR 등

주 형 준 [한화시스템(주)/수석연구원]

jkiees-36-12-1196-i6

  • https://orcid.org/0009-0003-5507-8040

  • 2004년 2월: 한국해양대학교 전파공학과 학사

  • 2006년 2월: 한국해양대학교 전파공학과 석사

  • 2016년 4월~현재: 한화시스템(주) 수석연구원

  • [주 관심분야] 전자기전, EMSO, DoA Estimation, Signal Processing 등

최 재 각 [한화시스템(주)/수석연구원]

jkiees-36-12-1196-i7

  • https://orcid.org/0000-0002-0293-7222

  • 2006년 2월: 인하대학교 전자공학과 학사

  • 2008년 8월: 인하대학교 정보통신공학과 석사

  • 2013년 2월: 인하대학교 정보통신공학과 박사

  • 2017년 2월~현재: 한화시스템(주) 수석연구원

  • [주 관심분야] 무선통신시스템, ESA 시스템

임 상 훈 [한화시스템(주)/수석연구원]

jkiees-36-12-1196-i8

  • https://orcid.org/0000-0001-9902-9513

  • 2009년 2월: 숭실대학교 정보통신전자공학부 학사

  • 2011년 2월: KAIST 전기 및 전자공학과 석사

  • 2016년 2월: KAIST 전기 및 전자공학과 박사

  • 2016년 3월~현재: 한화시스템(주) 수석연구원

  • [주 관심분야] Electronic Warfare and Radar Signal Processing, Optimization 등

김 기 훈 [한화시스템(주)/수석연구원]

jkiees-36-12-1196-i9

  • https://orcid.org/0000-0002-3519-0268

  • 2002년 2월: 명지대학교 정보통신공학 학사

  • 2015년 2월: 미국 000 University 전자공학과 (공학석사)

  • 2008년 1월~현재: 한화시스템(주) 수석연구원

  • [주 관심분야] Wireless Communucation System, EMSO, Military Tactical Network

김 선 우 [한양대학교/교수]

jkiees-36-12-1196-i10

  • https://orcid.org/0000-0002-7055-6587

  • 1999년 2월: 한양대학교 전파공학과 학사

  • 2002년: 미국 University of California, Santa Barbara 전기컴퓨터공학 석사

  • 2005년: 미국 University of California, Santa Barbara 전기컴퓨터공학 박사

  • 2005년~현재: 한양대학교 융합전자공학부 교수

  • [주 관심분야] AMC, DoA Estimation, 5G/6G, Wirless Communication, ISAC, Localization 등