연재 구성

① 데이터는 AI 시대의 국가 인프라다
② 데이터는 어떻게 산업 자산이 되는가 — 양재수 원장이 제시한 검증체계
③ 데이터스트림즈, 신뢰 기반 AI 준비 데이터 생태계를 세계시장으로 확장하다
④ 자하오 쑨 FLock.io CEO “원천 데이터는 남기고 AI는 함께 학습한다”
⑤ 하십울 하크 Causal Dynamics Lab CEO “AI 에이전트에는 운영 맥락과 책임 체계가 필요하다”
⑥ 종합 분석 — 한국의 데이터 경쟁력, 검증 가능한 산업 성과로 입증해야 한다

 

AI 에이전트의 다음 과제는 기업의 운영 환경을 이해하는 것

AI 에이전트가 기업의 핵심 업무를 수행하려면 코드와 문서를 검색하는 능력에 더해 시스템이 실제로 작동하는 방식을 이해해야 한다. 기업에는 소스코드와 로그, 작업 요청서, 보안정책과 장애 기록이 축적돼 있지만 어떤 서비스가 연결돼 있고 누가 책임지며 특정 규칙이 왜 만들어졌는지를 설명하는 관계 정보는 여러 시스템에 흩어져 있다.

AI가 이러한 운영 맥락을 파악하지 못하면 변경이 다른 서비스와 고객, 보안정책에 미칠 영향을 예측하기 어렵다. 판단 근거와 책임을 확인할 수 없다면 기업은 AI 에이전트에 핵심 시스템의 실행 권한을 맡기기 어렵다. 기업 데이터의 다음 과제는 코드·인프라·정책·조직·운영 결과 사이의 관계를 AI가 이해하고 추적할 수 있는 구조로 만드는 것이다.

샌프란시스코 베이 지역을 기반으로 활동하는 Causal Dynamics Lab의 CEO 하십울 하크(Hasibul Haque)는 Korea IT Times와의 서면 인터뷰에서, 기업들이 겪는 문제는 데이터 자체의 부족이 아니라 데이터 간의 관계 부족이라고 언급했습니다. Korea IT Times와의 서면 인터뷰에서 기업의 문제를 데이터 부족보다 데이터 사이의 관계 부족에서 찾았다. 그는 코드의 기능과 개발 배경, 소유 조직, 보안 제약, 실행 위치와 운영 결과를 연결하는 ‘프로덕션 월드 모델(Production World Model)’을 통해 AI 에이전트가 변경의 영향과 위험을 예측할 수 있다고 설명했다.

하크는 AI가 내린 판단과 실행을 검증하기 위한 ‘의사결정 추적(Decision Trace)’도 강조했다. AI가 받은 요청과 근거, 사용한 모델과 권한, 실제 변경 내용, 검증 과정, 사람의 승인과 배포 후 결과를 하나의 기록으로 연결하는 체계다. 이를 통해 기업은 AI의 행동을 사후에 설명하고 성공과 실패에서 얻은 지식을 다음 의사결정에 반영할 수 있다.

 

다음은 하십울 하크 Causal Dynamics Lab 최고경영자와의 일문일답이다.

 

Q1. 많은 기업이 방대한 운영 데이터를 보유하고 있지만 AI 에이전트는 코드와 인프라, 정책, 소유권과 실시간 운영 사건이 어떻게 상호작용하는지 이해하는 데 어려움을 겪고 있다. 운영 맥락의 부재가 데이터 가용성보다 심각한 제약으로 부상한 이유는 무엇인가.

기업에는 데이터가 부족하지 않다. 수년간 축적된 로그와 추적 기록, 작업 요청서, 커밋 이력, 정책 문서와 조직도가 있다. 부족한 것은 이들 사이의 관계다. 어떤 서비스가 어떤 서비스를 호출하는지, 어떤 정책이 어떤 데이터 경로에 적용되는지, 장애가 발생하려는 시스템을 누가 담당하는지, 잘못된 것처럼 보이는 타임아웃 설정이 3년 전에 왜 그렇게 결정됐는지를 연결하는 정보다.

숙련된 엔지니어는 이러한 맥락을 머릿속에 갖고 있다. 신입 직원이 이를 파악하는 데는 3개월에서 6개월이 걸린다. AI 에이전트에는 이러한 맥락이 주어지지 않는다. AI가 보는 것은 텍스트다.

우리는 코딩 에이전트가 어디에 시간을 사용하는지 확인하기 위해 작업 과정을 계측했다. 총 2,510개의 작업 가운데 파일 읽기가 56.8%, 그렙(grep) 검색이 24.2%를 차지했고 실제 편집은 1% 미만이었다. 실패의 82%는 필요한 위치를 찾지 못해 발생했다. 수정 대상이 6개 이상의 파일에 걸쳐 있으면 재현율은 0.579에서 0.143으로 떨어졌다. 에이전트는 사고에 실패하는 것이 아니라 필요한 정보를 찾는 데 실패하고 있다.

우리의 연구 가운데 하나인 RCML은 다른 방향에서 같은 문제를 다룬다. 동일한 항목도 어떤 관계를 묻느냐에 따라 다르게 표현해야 한다는 것을 보여줬다. 이 방식을 적용한 결과 표준 CLIP 백본과 비교해 Hit@5 기준 검색 성능이 약 31% 향상됐다. 운영 환경에서도 같은 원리가 적용된다. 하나의 서비스는 이를 소유한 팀과 해당 서비스를 규율하는 보안정책, 새벽 3시에 호출을 받는 담당자에게 각각 다른 의미를 갖는다.

이 문제가 시급해진 이유는 개발 속도에 있다. 사람이 모든 코드를 작성하던 시기에는 맥락이 사람에게 축적됐고 나머지 문제도 대부분 검토 과정에서 발견됐다. 현재 에이전트가 팀의 검토 속도를 넘어서는 수준으로 변경 사항을 생성하고 있지만 업무의 맥락은 함께 전달되지 않는다. DORA의 연구는 AI 도입 증가가 배포 안정성의 7.2% 하락과 연관돼 있다고 분석했다.

데이터를 추가하거나 맥락 창을 확대하는 것만으로 이 문제를 해결할 수 없다. 에이전트에는 구조가 필요하지만 현재 그 구조는 어디에도 저장돼 있지 않다.

Q2. Cielara의 프로덕션 월드 모델은 코드가 무엇을 하는지, 왜 만들어졌는지, 누가 소유하는지, 어떤 제약을 받는지, 어디에서 실행되는지, 실제 운영 과정에서 무엇이 발생하는지를 나타내는 6개 계층의 인과적 표현으로 설명된다. 이 모델은 분산된 기업 시스템에서 어떻게 구축되며 운영 데이터를 AI 에이전트가 사용할 수 있는 지식으로 어떻게 전환하는가.

프로덕션 월드 모델은 유능한 엔지니어가 무언가를 변경하기 전에 확인하는 여섯 가지 질문에 답한다. 누가, 무엇을, 언제, 어디에서, 왜, 어떻게 했는가이다. 이 코드는 무엇을 하는가. 왜 이런 방식으로 만들어졌는가. 누가 소유하는가. 어떤 제약을 받는가. 어디에서 실행되는가. 실제 운영이 시작되면 언제 어떤 일이 발생하는가를 확인한다.

각각의 답은 서로 다른 시스템에 존재한다. 기능은 소스코드에 있다. 개발 이유는 커밋과 풀 리퀘스트, 작업 요청서와 설계 문서에 흩어져 있다. 소유권 정보는 코드 소유자 파일과 비상근무 일정에 있다. 제약 조건은 보안·규정준수 정책에, 시스템 구조는 코드형 인프라(Infrastructure as Code)에, 실제 운영 동작은 원격측정 자료와 장애 이력에 담겨 있다.

우리는 가장 정확한 출처인 코드에서 시작한다. 코드를 분석해 서비스와 파일, 클래스, 함수를 가져오기, 호출, 상속과 포함 관계로 연결한 그래프로 만든다. 이어 나머지 다섯 개 계층을 동일한 노드에 연결한다. 가장 어려운 과정은 개체 식별이다. 작업 요청서와 쿠버네티스 명세, 대시보드에 각각 기록된 ‘payments-api’가 동일한 대상이라는 사실을 입증해야 한다. 구조적 인과모형을 기반으로 인과관계를 구축하기 때문에 그래프는 “이 부분을 변경하면 무엇이 고장 나며 그 이유는 무엇인가”라는 질문에 답할 수 있다.

우리 연구의 세 가지 요소가 이 구조를 에이전트가 사용할 수 있도록 만든다. LARGER는 정보 탐색을 담당한다. 문자 기반 검색 결과에서 출발해 이를 그래프에 연결하고 신뢰도가 높은 인접 정보만 확장한다. 별도의 그래프 데이터베이스 없이 에이전트가 기존에 사용하는 검색 과정 안에서 작동한다.

Reasonara와 MemOnDemand는 기억을 담당한다. 각 정보 집합에 자체 계층구조를 부여하고 간결한 탐색 기록과 상세한 근거를 분리해 보관한다. SkillLens는 업무 노하우를 다룬다. 재사용할 수 있는 기술과 지식을 정책, 전략, 절차와 기본 작업의 네 개 계층으로 구성한다.

그 결과 에이전트가 질문하면 원시 파일을 읽을 때 약 3,000개의 토큰이 필요한 정보를 100개에서 400개 토큰으로 압축된 관련 정보만 제공받을 수 있다. 변경 사항이 배포되기 전에는 Foresight가 월드 모델을 기반으로 30개가 넘는 장애 유형을 점검한다.

Q3. 데이터의 출처와 계보는 기업 AI 거버넌스의 핵심으로 부상하고 있다. 조직은 AI가 생성한 변경 사항을 근거와 의도부터 승인, 배포와 실제 운영 영향까지 어떻게 추적할 수 있는가. 감사 가능하고 신뢰할 수 있는 기록을 유지하려면 어떤 자료를 보존해야 하는가.

나는 사고가 발생한 지 6개월이 지난 뒤에도 에이전트가 무엇을 알고 있었는지, 어떤 작업을 요청받았는지, 누가 승인했으며 이후 어떤 일이 발생했는지를 재구성할 수 있는지를 기준으로 삼는다. 이 가운데 하나라도 빠지면 거버넌스를 갖췄다고 할 수 없다.

우리는 연결된 기록을 ‘의사결정 추적’이라고 부른다. 변경의 배경이 되는 추론을 발생 시점에 기록하고 이를 에이전트와 엔지니어에게 다시 제공한다. 다음 의사결정이 이전 결정에서 얻은 교훈을 바탕으로 시작되도록 하는 것이다.

일곱 가지 기록이 보존돼야 한다. 첫 번째는 의도다. 작업 요청서와 프롬프트 또는 명세, 요청자를 기록한다. 두 번째는 근거다. 에이전트가 제공받은 맥락을 월드 모델의 특정 버전과 함께 정확히 저장해야 한다. 월드 모델은 계속 변하기 때문에 에이전트가 실제로 확인한 시점의 상태가 필요하다.

세 번째는 행위자다. 어떤 에이전트와 기반 모델, 모델 버전이 사용됐으며 어떤 권한이 부여됐는지를 기록한다. 네 번째는 변경 사항으로, 코드 차이와 커밋을 보존한다. 다섯 번째는 검증이다. 어떤 모의실험을 실행했고 무엇을 예측했는지 남긴다. 여섯 번째는 승인이다. 누가 언제 승인했으며 승인 당시 어떤 정보를 확인했는지를 기록한다. 일곱 번째는 결과다. 빌드 해시와 실행 환경, 원격측정 자료와 장애 기록을 같은 변경 식별자에 연결한다.

이 기록의 신뢰성을 유지하는 두 가지 원칙이 있다. 모든 기록은 변경할 수 없는 식별자를 가리켜야 하며 로그에는 새로운 기록만 추가할 수 있어야 한다. 요약 정보가 원본 자료를 대신해서도 안 된다. 이것이 MegaMem과 MemOnDemand 연구의 핵심이다. 정제된 기록은 정보를 찾는 데 도움을 주지만 최종 답변은 원본 근거까지 연결돼야 한다.

대부분의 기업은 Git과 지속적 통합·배포(CI/CD), 작업관리와 관측 도구에 이러한 기록의 일부를 보유하고 있다. 그러나 이를 연결하지 않기 때문에 감사가 필요할 때마다 과거 자료를 발굴해야 한다. 월드 모델은 의도와 소유권, 제약 조건과 운영 상황을 이미 연결하기 때문에 데이터의 출처와 이력이 자연스럽게 구조에 포함된다.

사람들이 자주 빠뜨리는 것은 승인 당시의 맥락이다. 승인자가 무엇을 확인했는지 알 수 없다면 ‘승인됐다’는 기록만으로는 의미가 크지 않다.

Q4. 기업은 독점적인 코드와 운영 원격측정 자료, 내부 의사결정 기록이 외부 AI 서비스에 노출되는 것을 우려한다. 맥락 기반 AI 시스템은 데이터 통제권과 권한 경계, 민감한 지식재산권을 보호하면서 에이전트에 필요한 정보를 어떻게 제공할 수 있는가.

기업의 우려는 합리적이다. 코드와 운영 원격측정 자료는 기업이 어떻게 움직이는지를 가장 완전하게 보여주는 정보다. 나 역시 이러한 정보를 제3자에게 보내지 않을 것이다.

우리는 다섯 가지 원칙을 따른다.

첫 번째는 모델을 데이터가 있는 곳으로 보내는 것이다. Cielara는 고객이 사용하는 아마존웹서비스(AWS)와 마이크로소프트 애저(Azure), 구글 클라우드 플랫폼(GCP) 환경에 배포된다. 월드 모델과 메모리도 해당 환경에서 구축하고 저장한다.

두 번째는 필요한 정보만 잘라서 제공하는 것이다. 일반적인 에이전트는 전체 파일을 반복해서 읽어 외부 모델로 전송한다. 월드 모델을 이용하면 에이전트는 구체적인 질문을 하고 수백 개 토큰 분량의 답을 받는다. 우리가 측정한 토큰 사용량 30∼40% 감소는 기업의 경계 밖으로 이동하는 정보도 그만큼 줄어든다는 의미다.

세 번째는 노출 범위를 제한하는 것이다. 우리의 메모리 연구에서는 저장된 정보가 아무리 커져도 생성 모델이 제공받는 원본 근거의 양을 일정하게 제한한다. 우리는 1,000만 토큰부터 6억 토큰이 넘는 규모까지 이를 시험했다. 외부 모델이 볼 수 있는 정보의 양은 기업이 보유한 전체 자료의 크기에 따라 증가하지 않는다.

네 번째는 기존 접근 권한을 계승하는 것이다. 월드 모델은 각 대상의 소유자를 알고 있다. 특정 개발자를 대신해 작업하는 에이전트는 그 개발자에게 허용된 정보만 볼 수 있다. 에이전트가 기존 접근통제를 우회하는 수단이 돼서는 안 된다.

다섯 번째는 고객이 모델을 선택할 수 있도록 하는 것이다. 구성요소별로 서로 다른 공급자의 모델을 사용할 수 있으며 고객이 직접 운영하는 모델도 선택할 수 있다. 민감도가 가장 높은 업무는 외부 응용프로그램 인터페이스(API)에 연결하지 않고 처리할 수 있다.

모든 접근 기록을 남기기 때문에 나머지 과정도 검증할 수 있다. 우리는 SOC 2 Type II 보고서를 보유하고 있으며 공개 신뢰센터에 통제 방식을 게시하고 있다.

이러한 조합을 통해 정보보호에 신중한 고객도 시스템을 도입할 수 있다. 현재 세계 최대 교육기술 기업 가운데 한 곳과 포천 200대 글로벌 은행 한 곳이 자체 코드베이스에서 Cielara를 사용하고 있다.

구매 기업에는 공급자에게 요청별로 어떤 정보가 자사 환경 밖으로 이동하는지 바이트 단위로 물어보라고 조언하고 싶다. 공급자가 답하지 못한다면 데이터의 이동 범위를 제대로 파악하지 못하고 있는 것이다.

Q5. Causal Dynamics Lab은 코드 위치 탐색과 작업 완료 시간, 토큰 사용량이 개선됐다고 발표했다. 이러한 결과는 어떻게 측정됐으며 어떤 독립적인 검증 자료가 있는가. 실제 기업 적용에서 인과적 맥락이 운영 안정성을 높인다는 점을 가장 잘 보여주는 성과는 무엇인가.

측정된 결과와 공개된 결과, 아직 독립적으로 검증되지 않은 결과를 구분해 설명하겠다.

먼저 코드 위치 탐색이다. SWE-Bench와 46개 저장소의 1,033개 사례로 구성된 MULocBench, LocBench에서 Cielara Code는 통합 정확도 0.774를 기록했다. 오퍼스 4.6을 사용하는 Claude Code는 0.738, GPT-5.2 기반 Codex는 0.707이었다. 작업당 평균 소요시간은 141.8초에서 128.6초로 약 10% 줄었고 토큰 사용량은 30∼40% 감소했다.

이 방법은 LARGER라는 이름으로 공개돼 있다. 설정을 조정한 경우 LocBench의 파일 단위 Acc@5가 13.9%포인트 향상됐고 고정된 설정에서는 11.8%포인트 개선됐다. MuLocBench와 두 개의 SWE-Atlas 작업에서도 일관된 향상이 나타났다. 모든 참가자에게 유리하게 보일 수 있는 조정된 수치보다 고정 설정 결과를 의도적으로 인용하고 있다.

메모리 분야에서 Reasonara는 전체 맥락을 검색하는 방식보다 토큰을 98% 적게 사용하면서 1억2,500만 개 이상의 토큰에 해당하는 유효 맥락을 94%의 정확도로 유지했다. EnterpriseRAG-Bench는 50만 개 이상의 문서와 약 6억5,000만 토큰을 보유한 기업 환경을 모의실험한다.

1,000만 토큰 규모에서 시행한 주요 비교에서 MegaMem의 종합점수는 68.22에서 82.26으로 상승했다. 이후 동일한 고정 근거량을 유지하면서 2억5,000만 토큰까지 규모를 확대했다. MemOnDemand는 전체 데이터 규모까지 모든 단계에서 기존에 공개된 최고 결과를 앞섰다. 1,000만 토큰에서는 12.23%포인트, 전체 규모에서는 4.66%포인트 높았으며 FinanceBench와 HotpotQA, FRAMES에서도 성능이 유지됐다.

에이전트 분야에서 SkillLens는 ALFWorld의 성공률을 45.00%에서 51.31%로 높였고 버그 위치 탐색 Acc@1을 최대 6.31%포인트 개선했다.

검증 측면에서 모든 벤치마크는 외부에서 구축해 공개된 자료이며 실행은 우리가 담당했다. 논문은 에모리대학교 량자오 박사 연구실과 공동 작성한 아카이브(arXiv) 사전 공개 논문이다. MemOnDemand와 Reasonara의 코드는 깃허브에 공개돼 누구나 다시 실행할 수 있다.

아직 제3자의 수치 감사는 이뤄지지 않았으며 이를 환영한다. 한 가지 한계도 밝히고 싶다. 이들 벤치마크는 한 번에 하나의 저장소를 대상으로 한다. 기업에 실제로 큰 피해가 발생하는 여러 서비스 간 조정된 변경은 시험하지 않는다.

실제 운영 환경의 결과는 벤치마크보다 강하게 나타났다. 세계 최대 교육기술 기업 가운데 한 곳은 자체 코드베이스에서 우리가 공개한 결과보다 훨씬 높은 성과를 확인하고 있다. 포천 200대 글로벌 은행에서도 같은 결과가 나타나고 있다.

이는 예상할 수 있는 결과다. 공개 벤치마크는 정리된 오픈소스 저장소를 사용한다. 기업의 코드는 규모가 크고 오래됐으며 복잡하게 얽혀 있다. 이러한 환경에서 구조가 주는 효과가 가장 크게 나타난다.

Q6. AI 에이전트가 실제 운영 시스템을 변경할 권한을 갖게 되면 기업은 접근 권한과 사람의 승인 지점, 복구 절차를 어떻게 정해야 하는가. 어떤 결정은 에이전트에 맡길 수 있으며 어떤 결정은 사람이 직접 통제해야 하는가.

나는 제안된 변경을 두 가지 질문으로 평가한다. 변경이 잘못됐을 때 피해가 어디까지 확산될 수 있는가. 그리고 변경을 되돌릴 수 있는가이다.

피해 범위가 작고 완전히 되돌릴 수 있는 작업은 에이전트에 위임할 수 있다. 의존성 업데이트와 테스트 생성, 불안정한 테스트 수정, 하나의 서비스 안에서 이뤄지는 코드 구조 개선, 미리 정해진 안전 범위 안의 환경설정 변경이 여기에 해당한다. 병합 전에 모의실험을 수행하고 이후 자동 복구 기능을 적용한다면 사람의 개입은 작업 지연 외에 큰 효과를 주지 못한다.

피해 범위가 크거나 되돌릴 수 없는 변경은 사람이 결정해야 한다. 데이터베이스 구조 변경과 데이터 삭제, 신원·접근·보안정책, 결제 경로와 안전에 관련된 시스템, 서로 다른 팀이 소유한 서비스 사이의 계약 변경이 여기에 포함된다. 에이전트가 이러한 작업의 90%를 수행할 수는 있지만 최종 실행 버튼을 눌러서는 안 된다.

SkillLens 연구에서는 검증기가 재사용되는 각각의 작업 단계를 검사하고 이를 승인하거나 더 작은 단계로 나누고, 다시 작성하거나 건너뛸지를 결정한다. 접근 권한도 이와 같은 방식으로 작동해야 한다. 각 단계에 따라 수준을 나눠 적용해야 하며 모든 권한을 한 번에 허용하거나 차단해서는 안 된다.

승인에는 세 가지 원칙이 있다. 승인자는 영향을 받는 시스템의 소유자여야 한다. 승인자는 예측된 영향을 확인해야 하며 코드 변경 내용만 보는 것으로는 충분하지 않다. 변경 규모가 작더라도 소유권의 경계를 넘으면 승인을 받아야 한다.

복구 측면에서는 에이전트가 수행하는 모든 변경에 시험을 마친 복구 절차가 포함돼야 한다. 서비스 수준 목표를 위반하면 담당자가 잠에서 깨어날 때까지 기다리지 않고 자동으로 복구가 시작돼야 한다. 각 에이전트에는 제한된 범위와 짧은 유효기간을 가진 고유한 신원과 인증정보를 부여해야 한다. 개발자의 인증키를 빌려 사용해서는 안 된다. 모든 에이전트 활동을 중단할 수 있는 하나의 제어장치도 필요하다.

권한도 고정돼서는 안 된다. 에이전트는 특정 시스템에서 쌓은 작업 기록을 의사결정 추적에 남기고 이를 바탕으로 더 넓은 범위의 권한을 얻을 수 있다. 해당 시스템이 변경되면 권한을 줄여야 한다. 새로운 엔지니어를 평가하듯 에이전트의 신뢰도도 지속적으로 다시 검증해야 한다.

Q7. 한국은 데이터를 국가·산업 AI 인프라로 발전시키려 하고 있다. 정책당국과 기업은 프로덕션 월드 모델에서 상호운용성과 공통 의미체계, 데이터 소유권과 검증 가능한 의사결정 기록에 관해 무엇을 배울 수 있는가. 한국 기업은 이 시장에서 어떤 경쟁력을 구축할 수 있는가.

데이터를 인프라로 다루려는 한국의 방향은 적절하다. 여기서 한 단계 더 나아가야 한다. 중요한 인프라는 데이터 안의 관계이며, 관계에는 표준이 필요하다.

프로덕션 월드 모델을 구축하면서 얻은 교훈은 다섯 가지다.

첫째, 상호운용성은 공통 의미체계에서 시작된다. 두 기업이 ‘서비스’와 ‘소유자’, ‘사고’가 무엇을 의미하는지 합의하지 못하면 데이터세트를 교환해도 얻을 수 있는 효과가 작다. 개체와 관계를 표현하는 용어부터 표준화해야 한다.

둘째, 데이터의 소유권은 데이터를 생산한 주체에 남아야 한다. 모델을 데이터가 있는 곳으로 보내야 한다. 모든 조직의 운영 데이터를 한곳에 모으는 전략은 하나의 기업 내부에서 나타나는 것과 같은 저항에 직면할 것이다. 이러한 저항에는 타당한 이유가 있다.

셋째, 검증 가능한 의사결정 기록을 표준으로 만들어야 한다. AI가 수행한 모든 변경에 근거부터 승인과 결과까지 동일한 감사 기록이 포함된다면 규제기관과 보험회사는 구체적인 자료를 검토할 수 있다. 이 기록의 형식을 정의하는 주체가 시장의 방향을 결정하게 된다.

넷째, 공개 벤치마크에 투자해야 한다. 우리의 메모리 연구가 다른 연구와 비교될 수 있었던 것은 약 6억5,000만 토큰 규모의 복잡한 기업 환경을 모의실험한 공개 벤치마크가 있었기 때문이다. 한국은 제조와 통신 분야에서 이와 같은 벤치마크를 구축할 수 있다. 벤치마크를 만드는 주체가 연구 의제를 설정한다.

다섯째, 데이터 출처와 처리 이력을 처음부터 시스템에 설계해야 한다. 시스템을 구축한 뒤 이를 추가하는 것은 거의 불가능하다.

한국의 경쟁 분야와 관련해서는 파운데이션 모델 경쟁을 추격하는 방식을 권하지 않는다. 한국의 강점은 산업 운영의 밀도와 품질에 있다. 반도체 공장과 조선소, 자동차 생산시설, 통신망과 배터리 생산라인은 하나의 잘못된 변경으로 시간당 수백만 달러의 손실이 발생할 수 있는 인과 시스템이다.

공장 현장부터 클라우드까지 전체 기술체계를 보유한 기업집단은 이러한 시스템의 월드 모델을 구축하기에 유리하다. 외부 기업이 그 지식을 복제하기는 매우 어렵다. 나의 전문 분야는 소프트웨어지만 같은 원리가 반도체 공장에도 적용된다. 한국은 세계 최고 수준의 반도체 공장을 운영하고 있다.

시사점

하십울 하크의 답변은 AI 에이전트의 성능을 좌우하는 핵심 요소로 운영 맥락을 제시한다. 기업에는 코드와 로그, 장애 기록, 보안정책과 조직도 등 방대한 데이터가 축적돼 있다. 이 정보를 서비스·담당자·규칙·운영 결과 사이의 관계로 연결하면 AI는 필요한 자료를 찾는 수준에서 발전해 변경의 영향과 위험까지 판단할 수 있다.

프로덕션 월드 모델은 기업의 운영 지식을 AI가 이해할 수 있는 구조로 전환한다. 코드의 기능과 개발 배경, 소유 조직, 보안 제약, 실행 위치와 장애 이력을 하나의 관계망으로 연결해 변경이 어떤 시스템과 업무에 영향을 미치는지 예측한다. 숙련된 엔지니어의 경험에 의존해 온 운영 지식을 조직이 축적하고 활용할 수 있는 지속 가능한 자산으로 바꿀 수 있다는 점에서 의미가 크다.

의사결정 추적은 AI 에이전트의 책임성을 높이는 또 하나의 기반이다. AI가 어떤 요청과 자료를 바탕으로 판단했는지, 어떤 권한으로 변경을 실행했으며 누가 승인했는지, 배포 후 어떤 결과가 발생했는지를 하나의 기록으로 연결한다. 이 체계가 정착되면 기업은 AI의 판단 근거를 설명하고 사고 원인을 추적하며 성공한 운영 경험을 다음 작업에 재사용할 수 있다.

AI 에이전트의 권한은 변경의 영향 범위와 복구 가능성에 따라 단계적으로 설계할 수 있다. 제한된 범위에서 되돌릴 수 있는 작업은 자동화하고 데이터 삭제와 보안정책 변경, 결제 시스템, 여러 조직에 영향을 주는 작업에는 책임자의 승인을 적용하는 방식이다. 에이전트별 신원과 단기 접근 권한, 사전 영향 예측과 자동 복구 장치를 결합하면 기업은 통제력을 유지하면서 자동화의 범위를 넓힐 수 있다.

한국에는 반도체·조선·자동차·배터리·통신처럼 복잡한 설비와 공급망을 운영하며 축적한 산업 지식이 있다. 공통 용어와 관계 구조, 데이터 소유권과 AI 의사결정 기록을 표준화하면 이러한 경험을 산업별 월드 모델로 발전시킬 수 있다. 제조 현장부터 클라우드까지 연결된 운영 경험은 해외 기업이 단기간에 복제하기 어려운 한국의 경쟁 자산이다.

하크의 제안은 AI 에이전트가 기업의 핵심 업무를 수행하기 위한 발전 방향을 보여준다. 운영 맥락을 구조화하고 판단부터 실행 결과까지 추적하는 체계가 마련되면 AI는 업무 보조 도구에서 검증 가능한 실행 주체로 역할을 확장할 수 있다. 한국이 산업 현장의 경험을 표준화된 관계 데이터와 책임 기록으로 전환한다면 신뢰할 수 있는 산업 AI 인프라 시장에서 독자적인 경쟁력을 구축할 수 있다.

다음 회에서는 한국데이터산업진흥원의 정책과 데이터스트림즈의 기업 데이터 운영 경험, 자하오 쑨의 연합학습, 하십울 하크의 운영 맥락과 책임 체계를 연결해 한국 데이터 산업의 실행전략을 종합 분석한다. 데이터의 품질과 권리, 상호운용성, 보안과 AI 의사결정 기록을 검증 가능한 산업 성과로 전환하기 위해 필요한 정책과 기업의 과제를 제시한다.

영문버전 보기