데이터 이동을 줄이는 기술에 보안·품질·기여도 검증을 결합해야 데이터 주권 실현
연재 구성
① 데이터는 AI 시대의 국가 인프라다
② 데이터는 어떻게 산업 자산이 되는가 — 양재수 원장이 제시한 검증체계
③ 데이터스트림즈, 신뢰 기반 AI 준비 데이터 생태계를 세계시장으로 확장하다
④ 자하오 쑨 FLock.io CEO “원천 데이터는 남기고 AI는 함께 학습한다”
⑤ 하십울 하크 Causal Dynamics Lab CEO “AI 에이전트에는 운영 맥락과 책임 체계가 필요하다”
⑥ 종합 분석 — 한국의 데이터 경쟁력, 검증 가능한 산업 성과로 입증해야 한다
민감 데이터의 중앙 서버 이전, AI 확장의 한계로 떠오르다
국가와 기업이 보유한 데이터는 AI 경쟁력의 핵심 자원이지만 개인정보와 영업비밀, 국가안보 정보까지 중앙 서버로 이전하는 방식에는 한계가 있다. 의료기관과 금융회사, 공공기관이 데이터를 직접 통제하면서 공동 AI 모델을 개발할 수 있어야 데이터 활용과 주권을 함께 확보할 수 있다.
연합학습(Federated Learning)은 데이터를 중앙에 모으는 대신 AI 모델을 데이터가 있는 기관이나 장치로 보내 학습하는 방식이다. 각 참여자는 원천 데이터를 내부에 보관하고 모델이 학습한 업데이트만 공유한다. 여러 조직이 민감한 정보를 직접 교환하지 않고 공동 모델을 개발할 수 있다는 점에서 의료·금융·제조·공공 분야의 대안으로 주목받는다.
자하오 쑨(Jiahao Sun) FLock.io 창업자 겸 최고경영자는 Korea IT Times와의 서면 인터뷰에서 고품질 데이터의 부족과 집중, 법적 위험이 AI 확장을 제약하고 있다고 진단했다. 그는 연합학습을 활용하면 기관과 국가가 데이터 통제권을 유지하면서 협력할 수 있으며, 블록체인 기반 기록과 보상체계를 결합하면 데이터 기여도를 평가하고 참여자의 책임을 관리할 수 있다고 설명했다.
그러나 원천 데이터를 외부로 보내지 않는 것만으로 개인정보 보호와 데이터 주권이 완성되는 것은 아니다. 모델 업데이트에서 학습 정보가 노출될 가능성을 낮추기 위한 보안 집계와 차등 개인정보보호, 암호화 기술이 필요하다. 참여 기관마다 다른 데이터 품질을 어떻게 평가할지, 공동 모델의 성과와 경제적 가치를 어떻게 배분할지도 해결해야 한다.
다음은 자하오 쑨 FLock.io 창업자 겸 최고경영자와의 일문일답이다.
Q1. 연합학습이 국가와 기업의 AI 전략에서 점점 중요해지는 이유는 무엇인가.
오늘날 국가와 기업의 AI 환경에서 연합학습의 중요성은 아무리 강조해도 지나치지 않는다. 기존 머신러닝 모델은 공개적으로 이용할 수 있는 데이터를 대부분 활용하면서 성능 향상이 정체되는 단계에 이르렀다. AI의 한계를 더 확장하려면 더 정확하고 견고한 모델을 학습시킬 수 있는 풍부한 잠재력을 지닌 지역 데이터와 기업의 독점 데이터를 활용해야 한다.
연산 비용이 안정되는 가운데 AI 확장의 실질적인 제약은 GPU에서 고품질 데이터의 부족과 집중, 법적 위험으로 이동했다. 연합학습은 개인정보와 데이터 주권을 보호하면서 공동으로 모델을 학습할 수 있도록 AI 훈련 방식을 전환한다.
국가 전략에서는 데이터 보안과 주권에 관련된 두 가지 이유가 중요하다.
첫째, 중앙집중형 AI는 데이터를 외국 기업이 소유한 경우가 많은 중앙 클라우드 서버로 전송한다는 문제를 안고 있다. 국민의 인구통계 정보와 군사정보, 의료기록 같은 데이터가 외부로 이동하면 개인정보와 국가안보가 훼손될 수 있다. 연합학습을 활용하면 데이터를 해당 국가의 관할권과 국가 소유 하드웨어 안에 보관할 수 있다. 원천 데이터는 공유하지 않고 모델 업데이트만 교환함으로써 동맹국과 기관, 학계가 협력할 수 있다.
둘째, 국가들은 자국의 AI를 직접 통제하기 위해 소버린 AI를 추진하고 있다. FLock.io 홈페이지에 “당신의 모델이 아니라면 당신의 AI도 아니다(Not your models, not your AI)”라는 문구를 내건 이유가 여기에 있다. 미국 정부가 지난 6월 비(非)미국인의 앤트로픽 모델 2종에 대한 접근을 일시적으로 중단한 사건은 각국 정부에 소버린 AI를 국가 AI 전략의 핵심으로 삼아야 한다는 경각심을 줬다. AI는 하나의 도구를 넘어 인터넷과 석유, 전기처럼 사회 운영에 필수적인 핵심 인프라가 되고 있다.
기업들은 중앙집중형 AI가 가져오는 규제·법률·운영 위험 때문에 연합학습을 채택하고 있다. 대표적으로 주요 법률회사들은 소프트웨어를 빌려 쓰는 데 머물지 않고 자체적으로 구축한 전용 AI 인프라를 소유하는 방향으로 이동하고 있다. 엄격한 고객 비밀유지 의무를 지켜야 하기 때문이다. 연합학습을 이용하면 데이터를 회사 밖으로 이전하지 않고도 이러한 인프라를 구축할 수 있다.
Q2. 조직은 민감한 원천 데이터를 노출하지 않으면서 분산된 데이터로 어떻게 AI를 학습시킬 수 있는가.
조직은 기존 머신러닝 작업의 흐름을 뒤집어 데이터 병목을 해결할 수 있다. 데이터를 모델로 가져오는 대신 연합학습은 모델을 데이터가 있는 곳으로 보낸다.
글로벌 모델을 원천 데이터가 있는 로컬 엣지 노드나 기업 내부 서버로 보낸다. 각 참여 노드는 분리된 자체 데이터세트를 이용해 모델을 현장에서 학습시킨다. 원천 데이터는 해당 경계 밖으로 이동하지 않는다. 로컬 노드는 원천 데이터 대신 모델이 학습한 내용을 반영하는 그래디언트와 가중치 같은 추상적인 수학적 매개변수 업데이트를 계산한다.
이러한 매개변수 업데이트에서 원천 데이터를 역으로 재구성하지 못하도록 연합학습에는 개인정보 보호 기술이 적용된다. 차등 개인정보보호와 동형암호, 보안 집계 등이 여기에 포함된다.
Q3. 이 방식에서 데이터의 소유권과 개인정보, 데이터 제공자의 경제적 가치를 어떻게 보호해야 하는가.
일반적인 연합학습에는 중요한 취약점이 있다. 글로벌 모델을 관리하고 가치 배분을 결정하는 단일 중앙 조정자가 절대적인 권한을 갖는다는 점이다. FLock.io는 연합학습과 블록체인을 결합해 분산형 경제를 구축하는 방식으로 이 문제를 해결하고 있다. 이를 위해 AI 아레나(AI Arena)와 FL 얼라이언스(FL Alliance), FOMO 플랫폼을 운영한다.
블록체인 기반 보상을 이용해 양질의 데이터 제공을 유도한다. 참여자가 제공한 데이터가 모델을 개선하거나 훼손하는 데 미친 영향을 정량화해 보상하거나 불이익을 줄 수 있다. 공정하고 참여 유인을 갖춘 생태계는 책임성을 높이고 토큰의 실질적 수요를 형성하도록 설계된 보상 배분체계를 통해 구현된다.
FLOCK 토큰의 가치는 이 과정에서 소비되는 자원의 가치와 연결된다. 참여자가 시스템 규칙을 위반하거나 악의적으로 시스템을 훼손하려 한 사실이 확인되면 ‘슬래싱(slashing)’을 적용한다. 삭감된 토큰은 정직하게 참여한 사람들에게 보상으로 지급된다.
연합학습은 원천 데이터를 중앙 서버로 보내지 않고 현지에 보관해 데이터 소유권과 개인정보를 보호한다. 여러 엣지 장치가 모델 업데이트만 공유하면서 하나의 글로벌 모델을 공동 학습한다. 소유권은 스마트계약을 통해 기록되기 때문에 온체인 거버넌스를 통해 확인할 수 있다.
FOMO(플록 오픈 모델 오퍼링·FLock Open Model Offering)는 학습된 모델이 실제 서비스에 배포되고 사용되는 과정까지 FLock 생태계에 연결한다.
Q4. 한국 기업과 공공기관은 해외 소버린 AI 사업에서 어떤 교훈을 얻을 수 있는가.
한국은 우수한 디지털 인프라와 대기업, 고유한 국내 데이터세트를 보유하고 있다. 과학기술정보통신부가 한국을 AI 강국으로 발전시키고 글로벌 모델에 대한 의존도를 줄이기 위해 ‘독자 AI 파운데이션 모델’을 추진하는 과정에서 해외 사업의 교훈을 반영할 필요가 있다.
더 나은 모델에는 더 나은 데이터세트가 필요하다. 해외 사례는 분산형 네트워크를 기반으로 소버린 역량을 구축하면 지역 의료기관과 금융회사, 공공시설 운영기관이 민감한 기록을 각자의 내부에 보관하면서 국가 단위 모델을 공동 학습할 수 있음을 보여준다. FLock.io는 영국에서 안질환 탐지를 위해 무어필즈 안과병원과 협력하고 있으며, 당뇨병 환자의 혈당 관리를 위해 UCL병원과도 협력하고 있다. 이 사업은 세계경제포럼(WEF)의 MINDS 프로그램에서도 소개됐다. 분산형 인프라를 갖추면 한국 기관도 엄격한 데이터 규제를 준수하면서 AI 학습과 서비스를 확장할 수 있다.
FLock.io는 도미니카공화국에서 유엔개발계획(UNDP)과 공공부문의 디지털 혁신을 추진하고 있다. 이 협력은 FLock.io가 지속가능발전목표 블록체인 액셀러레이터 2기 사업의 전략적 파트너로 참여해 진행한 유망 시범사업을 기반으로 한다. 한국은 시민 모두의 번영을 지향하는 데이터 기반 해법과 국제적인 지식 교류, 대화와 제도적 학습을 추진하는 방법을 참고할 수 있다.
한국어는 영어·중국어·스페인어보다 AI 학습에 활용할 수 있는 양질의 데이터가 적어 모델 성능을 높이는 데 필요한 학습자료를 충분히 확보하기 어렵다. 한국어의 어휘와 문법적 특성도 정확한 모델 개발을 어렵게 하는 요인이다.
한국은 말레이시아 최대 주인 사라왁의 소버린 AI 추진 사례에서 교훈을 얻을 수 있다. FLock.io는 이 사업의 핵심 기술 파트너이며 연합학습을 이용해 토착언어 언어모델을 학습하고 미세조정한 세계 최초의 사례를 만들었다. 이 방식은 널리 사용되는 주요 언어보다 데이터 자원이 적은 다른 언어에도 적용할 수 있다.
시사점
자하오 쑨의 답변은 국가와 기업이 데이터 통제권을 유지하면서 AI 학습의 범위를 넓힐 수 있는 가능성을 보여준다. 연합학습을 활용하면 의료기관과 기업은 원천 데이터의 저장 위치와 접근권한을 직접 관리하면서 여러 기관의 데이터를 공동 모델 개발에 연결할 수 있다. 개인정보와 영업비밀 때문에 활용이 제한됐던 데이터를 의료·금융·제조·공공 분야의 AI 개발에 투입할 수 있는 기반이 마련되는 것이다.
연합학습의 신뢰 수준을 높이려면 모델 업데이트를 보호하는 기술을 함께 적용해야 한다. 보안 집계와 차등 개인정보보호, 동형암호는 모델이 학습한 정보를 공유하는 과정에서 원천 데이터가 노출될 가능성을 낮춘다. 산업별로 연산 비용과 모델 정확도에 미치는 영향을 검증하면 데이터 보호와 AI 성능을 함께 관리할 수 있다.
FLock.io는 양질의 데이터를 제공한 참여자에게 토큰으로 보상하고, 규칙을 위반하거나 모델을 훼손한 참여자의 예치 토큰을 삭감하는 ‘슬래싱(slashing)’ 제도를 적용한다. 이는 데이터 제공자의 기여도를 경제적 가치로 연결하고 참여자의 책임을 관리하려는 운영모델이다. 보상 기준과 의사결정 권한, 이의 제기 절차를 투명하게 설계하면 지속 가능한 공동학습 생태계를 구축하는 하나의 방안이 될 수 있다.
무어필즈 안과병원과 UCL병원, UNDP·도미니카공화국, 말레이시아 사라왁 사업은 연합학습이 의료와 공공서비스, 저자원 언어 개발로 확장될 가능성을 보여준다. 현재 공개된 정보만으로는 참여 기관 수와 데이터 규모, 모델 성능, 실제 서비스 성과를 독립적으로 평가하기 어렵다. FLock.io가 향후 적용 범위와 성과지표를 공개한다면 연합학습의 산업적 효과를 판단할 수 있는 중요한 근거가 될 것이다.
한국은 연합학습을 국가 데이터 인프라에 적용해 민감한 데이터를 보호하면서 기관과 산업 간 협력을 확대할 수 있다. 누가 학습을 요청했고 어떤 데이터가 사용됐으며 모델이 어떻게 변경됐는지를 기록하고, 참여 기관별 데이터 품질과 기여도를 평가하는 체계를 갖춰야 한다. 저장 위치와 접근권한, 학습 과정, 경제적 가치와 책임을 지속적으로 관리하는 역량이 데이터 주권을 산업 경쟁력으로 전환하는 기반이 된다.
다음 회에서는 하십울 하크(Hasibul Haque) Causal Dynamics Lab CEO와의 인터뷰를 통해 AI 에이전트가 기업의 운영 환경을 이해하고 책임 있게 행동하기 위한 조건을 살펴본다. ‘프로덕션 월드 모델(Production World Model)’이 코드와 시스템, 보안규칙, 담당자와 장애 이력을 어떻게 연결하는지 살펴본다. 또한 AI가 어떤 근거와 권한으로 판단했고, 누가 승인했으며, 배포 후 어떤 결과가 발생했는지를 기록하는 ‘의사결정 추적(Decision Trace)’ 체계를 분석한다.
