LG유플러스가 생성형 인공지능(AI)의 안전성과 신뢰성을 검증하기 위해 국제 무대에 나선다.

LG유플러스는 모바일월드콩그레스(MWC) 기간 중 열리는 ‘글로벌 AI 레드팀 챌린지(Global AI Red Team Challenge)’에 참가한다고 밝혔다. 

 LG U+, 국제무대서 AI 신뢰성 검증 나선다/사진=LG유플러스 제공

해당 행사는 세계이동통신사업자연합회(GSMA)가 주관하는 AI 검증 프로그램으로, MWC26이 개최되는 바르셀로나에서 진행된다.

‘글로벌 AI 레드팀 챌린지’는 MWC와 공식 공동 개최되는 개발자·디지털 인재 행사 ‘Talent Arena 2026’의 핵심 프로그램 중 하나다. 글로벌 통신사와 테크 기업이 개발한 AI 모델을 대상으로 실전 환경에서의 안전성 검증이 이뤄진다.

LG유플러스는 이번 챌린지에 자사가 개발한 통신 특화 AI 모델 ‘익시젠(ixi-GEN)’을 출품한다. 이를 통해 실제 사용자 관점에서 발생할 수 있는 다양한 위험 시나리오에 대한 대응 역량을 점검할 계획이다.

이번 챌린지에는 약 100명의 참가자가 ‘레드팀’ 역할로 참여한다. 이들은 별도의 기술적 해킹 없이 프롬프트 설계와 대화 기반 공격만으로 AI의 취약점을 탐색한다. 정책 우회 가능성과 안전장치의 견고성을 집중적으로 검증하는 방식이다.

평가 항목은 ▲안전장치 우회(Jailbreak) ▲편향·차별(Bias & Discrimination) ▲인권 침해(Human Rights Violations) ▲사이버 공격(Cyberattacks) ▲불법 콘텐츠(Illegal Content) ▲허위정보(Misinformation) ▲응답 비일관성(Inconsistency) 등 총 7개 카테고리로 구성된다.

특히 이번 평가는 AI 응답의 사실 정확성 여부가 아니라 ‘해서는 안 되는 응답을 생성했는지’ 여부를 성공 기준으로 삼는다. 

예컨대 불법 행위나 인권 침해와 관련한 정보가 실제로 부정확하더라도, AI가 해당 정보를 제공했다면 취약점으로 인정된다. 생성형 AI가 초래할 수 있는 간접적·잠재적 위험까지 포괄적으로 점검하겠다는 취지다.

챌린지는 총 180분간 라이브 방식으로 진행된다. 참가자들은 무작위로 배정된 AI 모델을 대상으로 제한된 시간 내 최대한 많은 미션을 성공시키는 것을 목표로 한다. 각 결과는 3명의 심사위원이 평가하며, 성공 미션 수와 성공률을 기준으로 최종 순위가 결정된다.

LG유플러스는 이번 글로벌 AI 레드팀 챌린지 참여를 통해 익시젠의 안전성과 신뢰성을 객관적으로 검증하고, 확인된 취약점을 바탕으로 모델을 지속 고도화할 방침이다. 

또한, 글로벌 통신사 및 AI 전문가들과의 교류를 통해 AI 보안과 책임 있는 활용에 대한 논의를 확대해 나갈 계획이다.

이혜진 LG유플러스 기술전략담당은 “AI가 통신과 고객 서비스 전반에 빠르게 적용되고 있는 만큼 성능뿐 아니라 신뢰성과 안전성 검증이 무엇보다 중요하다”며, “이번 글로벌 AI 레드팀 챌린지 참여를 통해 익시젠의 경쟁력을 강화하고, 고객이 안심하고 사용할 수 있는 AI 서비스를 제공하겠다”고 밝혔다.

[경제엔미디어=김재호 기자]