[빅데이터뉴스 김수아 기자] LG전자는 최근 서울 관악구 서울대학교에서 LG전자 CTO 김병훈 부사장, 서울대 연구부총장 김주한 교수 등 주요 관계자가 참석한 가운데 ‘Secured AI 연구센터’ 설립을 위한 양해각서(MOU)를 체결했다고 14일 밝혔다.
LG전자는 서울대학교의 세계적 연구 인력과 풍부한 인프라를 활용해 AI 보안 핵심 기술 확보부터 안전한 AI 서비스 구현까지 다양한 산학과제를 공동 수행한다. 신설 연구센터는 LLM(대규모 언어 모델) 에이전트 보안 강화 기술, 데이터 유출 방지 기술 등 안전한 AI 생태계를 만드는 기술을 집중적으로 연구·개발한다.
구체적으로 소프트웨어 개발 및 운영의 전 과정에 보안 체계를 적용한 ‘머신러닝 특화 보안 운영(MLSecOps)’ 모델을 확립한다.
언어를 이해하고 생성하며 다양한 작업을 수행하는 LLM 에이전트가 실생활에 널리 활용돼 편의를 제공하지만, 이와 동시에 ▲거짓 정보를 생성하는 할루시네이션(Hallucination) ▲데이터에 대한 외부 탈취 시도 등 위협도 늘었다. 이러한 위협에 기존 ‘개발운영(DevOps)’과 ‘머신러닝운영(MLOps)’ 방식으로는 종합적인 대응이 어려운 만큼, 보안에 더욱 집중한 체계를 구현해 통합 대책을 마련한다는 목표다.
데이터 수집부터 학습, 배포, 운영, 폐기까지 이어지는 전 과정에서 침입 탐지, 데이터 보호 등의 통합 역할을 수행하며 실제 산업 환경에 적용 가능한 AI 보안 플랫폼을 개발한다는 계획이다.
초대 센터장은 서울대학교 전기정보공학부 학부장인 홍용택 교수가 맡는다. 홍 교수는 국제정보디스플레이학회(SID) 펠로우, 한국과학기술한림원 정회원으로, 2025년 대한민국 과학기술훈장 혁신장을 수상한 과학기술계 리더다.
LG전자에서는 CTO부문 임효준 차세대컴퓨팅연구소장이 연구 과제를 점검 및 조율하는 역할을 담당한다. 차세대컴퓨팅연구소는 차세대 보안, 블록체인, 양자 컴퓨팅, 분산 컴퓨팅 등 미래 기술을 선제적으로 확보하고 혁신적인 비즈니스 가치를 창출하는 역할을 수행하는 조직이다.
서울대 연구부총장 김주한 교수는 “세계적 수준의 AI 보안 기술을 개발하고, 글로벌 표준을 선도하는 연구 성과를 창출할 것으로 기대한다”고 말했다.
LG전자 CTO 김병훈 부사장은 “가전, 모빌리티, 로봇 등 다양한 분야에서 AI 기술이 활용되면서 보안과 안전성이 필수로 떠오르고 있다”며 “차세대 보안 기술을 고도화해 AI 보안 영역에서 리더십을 구축하고, 고객과 사회에 더 안전하고 신뢰할 수 있는 제품과 서비스를 제공하도록 노력할 것”이라고 밝혔다.
