6G 시대 통신 오류, AI로 더 빠르고 가볍게 잡는다

연구 이미지. /포스텍 제공

국내 연구진이 차세대 통신 시스템의 핵심인 데이터 오류 정정 기술을 인공지능(AI)을 활용해 획기적으로 효율화하는 데 성공했다. 

포항공과대학교 전자전기공학과·융합대학원 김용준 교수 연구팀은 서울대, 성균관대, 울산대와의 공동 연구를 통해 고효율 AI 통신 복호 기술인 ‘EfficientMPT(Efficient Message-Passing Transformer)’를 개발했다고 6일 밝혔다.

디지털 통신에서 데이터 전송 중 발생하는 오류를 바로잡는 ‘채널 복호기’는 통신 품질을 결정하는 핵심 요소다. 

최근 챗GPT 등에 쓰이는 ‘트랜스포머’ AI 모델을 복호기에 적용해 성능을 높이려는 시도가 이어져 왔으나 데이터 길이에 따라 연산량이 기하급수적으로 늘어나는 ‘어텐션(attention)’ 메커니즘의 특성상 실제 시스템 적용에는 한계가 있었다.

연구팀은 복잡한 행렬 계산 대신 가벼운 ‘벡터 연산’ 기반으로 어텐션 구조를 재설계해 이 병목 현상을 해결했다. 

이를 통해 기존 AI 복호기 대비 메모리 사용량은 최대 91%, 연산량은 57%까지 줄이면서도 오류 정정 성능은 최고 수준을 유지했다. 

특히 연산량이 데이터 길이에 비례해 일정하게 증가하도록 구조를 단순화한 것이 핵심이다.

이번에 개발된 기술은 한 번의 학습으로 다양한 통신 규격과 데이터 길이에 대응할 수 있는 ‘파운데이션 모델’로 작동한다. 

이에 따라 향후 6G 통신 및 AI-RAN(AI 기반 무선 접속망)은 물론 대용량 데이터 저장 장치인 SSD의 오류 정정 등 다양한 분야에 즉시 활용될 수 있을 것으로 기대된다.

김용준 교수는 “데이터 길이에 비례하는 낮은 연산 복잡도를 구현한 것은 학술적으로 매우 중요한 성과”라고 설명했다. 

제1저자인 박성준 박사는 “기존 범용 구조를 그대로 쓰지 않고 복호 과정에 최적화된 AI 구조를 설계해 성능과 효율을 동시에 잡았다”고 말했다.

이번 연구 성과는 지난달 열린 AI 분야 세계적 권위의 학술대회인 ‘ICLR 2026’에서 발표됐다.

/단정민기자 [e-mail]