AI 코딩 에이전트가 인간 수준을 넘어서는 속도로 소프트웨어를 생성하기 시작하면서, 그 이면에서는 새로운 엔지니어링 과제가 부상하고 있다. AI가 실제 운영 환경(production environment)을 얼마나 이해하고 있는가에 대한 문제다. 많은 AI 개발 도구들이 코드 생성 속도를 높이는 데 집중하고 있지만, 실제 프로덕션 시스템에서는 신뢰성, 배포 안정성, 그리고 자율적 코드 수정이 초래할 수 있는 숨겨진 리스크에 대한 우려가 커지고 있다.
Korea IT Times와의 인터뷰에서 미국 샌프란시스코 소재 Causal Dynamics Lab의 하십울 하크(Hasibul Haque) CEO는 현재 AI 코딩 에이전트가 왜 실제 운영 인프라의 작동 구조를 제대로 이해하지 못하는지 설명했다. 또한 AI 생성 코드가 클라우드·정책·운영 환경 전반으로 확산되는 상황에서 기업들이 왜 소프트웨어 검증 방식을 다시 설계해야 하는지도 짚었다. 그는 Production World Model(PWM), ‘검증 부채(Verification Debt)’의 부상, 인과 시뮬레이션 기반 개발 환경이 향후 소프트웨어 엔지니어링의 구조를 어떻게 바꿀 것인지에 대해서도 견해를 밝혔다.
다음은 Dynamics Lab의 하십울 하크 CEO와의 일문일답이다.
현재 AI 코딩 에이전트가 프로덕션 시스템에 대한 가시성이 부족하다고 지적했다. 엔지니어링 관점에서 이 ‘맹목성(blindness)’은 무엇을 의미하나?
실질적으로 이것은 ‘컨텍스트 윈도우(context window)와 추론(reasoning)의 문제’다. 현재의 AI 에이전트는 코드베이스를 단순한 평면 텍스트로 취급하며, 시스템의 ‘물리학(physics)’을 이해하기보다 통계적 패턴을 기반으로 다음 토큰을 예측한다.
즉, 코드 변경이 환경 토폴로지(environmental topology), 보안 정책, 런타임 동역학(runtime dynamics)과 어떻게 상호작용하는지를 볼 수 있는 ‘이미징(imaging)’ 능력이 부족하다. 그 결과, 단위 테스트(unit test)는 통과하지만 실제 배포 이후에는 치명적인 장애를 일으키는 코드가 생성된다. 라이브 환경의 숨겨진 의존 관계를 AI가 보지 못하기 때문이다.
Cielara Code는 코드 로컬라이제이션(localization)을 핵심 병목 지점으로 보고 있다. 왜 ‘어디를 수정해야 하는지’를 찾는 일이 코드 생성 자체보다 더 중요한가?
우리가 수천 개의 AI 에이전트 세션을 분석한 결과, 전체 활동의 80% 이상이 탐색(navigation), 파일 읽기(56.8%), grep 검색(24.2%)에 소비되고 있었다. 실제 코드 수정(edit)은 1% 미만이었다.
로컬라이제이션이 실패하면 결과물은 기능적으로 부정확해진다. 예를 들어 GitHub 이슈 #42796 사례에서는 수정 전 조사(pre-modification research) 활동이 70% 감소하면서, AI가 문서 블록과 함수 사이에 선언문을 잘못 삽입하는 ‘spliced comments’ 현상이 발생했다. 이로 인해 의미적 연결 구조가 깨졌다.
또한 금지된 축약 변수명(buf, len 등)이 다시 등장하거나, ‘Phase 2’ 같은 금지된 시간 기반 표현이 포함되는 현상도 확인됐다. 이제 코드 생성 자체는 상품화(commodity) 단계에 들어섰다. 진짜 엔지니어링 과제는 다차원 시스템 안에서 문제 지점을 정확히 찾아낸 뒤 수정하는 것이다.
당신은 ‘6계층 인과 존재론(six-layer causal ontology)’과 ‘Production World Model(PWM)’을 제시했다. 기존의 정적 분석(static analysis)이나 옵저버빌리티(observability) 도구와는 어떻게 다른가?
기존 옵저버빌리티는 일종의 ‘더 나은 구급차(better ambulance)’에 가깝다. 사고가 발생한 이후 어디서 문제가 생겼는지를 알려줄 뿐이다. 정적 분석 역시 코드 문법 수준에만 제한된다.
반면 우리의 PWM은 기능 의도(functional intent), 과거 설계 맥락(historical rationale), 소유권 이력(ownership provenance), 정책 제약(policy constraints), 환경 토폴로지(environmental topology), 런타임 동역학(runtime dynamics) 등 6개 차원을 연결하는 결정론적 시뮬레이션 계층이다.
이를 통해 특정 장애를 어떤 커밋(commit)과 어떤 개발자의 원래 의도까지 추적할 수 있는 ‘유리 상자(glass box)’ 수준의 이해가 가능해진다. 이것은 기존 정적 도구로는 구현할 수 없는 영역이다.
‘검증 부채(Verification Debt)’ 개념이 점점 중요해지고 있다. AI 생성 코드가 증가하는 상황에서 기업은 개발 워크플로우를 어떻게 재설계해야 하나?
기업은 ‘초고속 방어(Hyper-Accelerated Defense)’ 체계로 전환해야 한다. 2025년 DORA 보고서에 따르면 AI 코딩 도구 도입 이후 배포 안정성이 이미 7.2% 감소했다.
AI 에이전트가 팀의 검증 속도보다 더 빠르게 코드를 생성하는 상황에서 수동 리뷰(manual review)는 더 이상 현실적인 전략이 아니다. 이제 워크플로우는 모든 변경 사항을 실제 배포 전에 프로덕션 환경의 인과 모델(causal model)과 대조해 검증하는 결정론적 시뮬레이션 기반으로 이동해야 한다. AWS CTO Werner Vogels가 말한 ‘동적 검증 부채(dynamic verification debt)’를 방지하기 위해서다.
Cielara는 코딩 에이전트를 대체하는 것이 아니라 검증 계층(verification layer)으로 자리 잡고 있다. AI 에이전트가 더 자율화될수록 이 계층은 어떻게 진화하게 되나?
AI 에이전트가 더 자율적으로 움직이게 될수록 검증 계층은 ‘상시 추론 계층(permanent reasoning layer)’으로 진화해야 한다. 단순히 가드레일(guardrail)을 제공하는 수준이 아니라, 모든 AI 에이전트가 의사결정을 내리기 전에 참조할 수 있는 시스템 ‘물리학(physics)’의 권위 있는 정보원(authoritative source)이 되는 것이다.
우리는 단순한 사후 로그(logging) 중심 세계에서 벗어나, 검증 엔진이 AI 에이전트의 선택이 어떤 다운스트림 영향을 초래할지 사전에 이해하는 ‘강력한 지시형 정책(strong, directive policy)’ 체계로 이동하고 있다.
앞으로 완전한 인과 시뮬레이션(full causal simulation)으로 확장할 계획이라고 말했다. 실제로 시뮬레이션 기반 개발 환경은 어떤 모습인가?
그것은 코드, 인프라, 정책, 운영 전반에 걸쳐 코드 변경 사항을 결정론적으로 시뮬레이션할 수 있는 환경이다.
실제로는 개발자나 AI 에이전트가 특정 변경 가능성을 탐색하면서, 실제 프로덕션에 단 한 비트도 수정하기 전에 클라우드 안정성과 수익 구조에 어떤 영향을 미치는지 정확한 ‘폭발 반경(blast radius)’을 확인할 수 있게 된다. 우리는 소프트웨어 시스템을 위한 일종의 ‘대규모 물리 기반 모델(Large Physics Foundation Model·LPM)’을 구축하고 있다.
많은 기업이 신뢰성과 리스크를 우려하고 있다. 초기 사용자들은 실제 프로덕션 환경에서 어떤 성과를 경험했나?
현재 사용자들 가운데는 포춘(Fortune) 100대 기업 11곳이 포함돼 있다. 이들은 실패한 실행(failed runs)과 잘못된 파일 수정(wrong-file edits)을 줄이면서 작업당 컴퓨트 비용을 30~40% 절감했다.
독립 벤치마크인 MULocBench에서는 Cielara Code가 0.774의 로컬라이제이션 정확도를 기록하며 Claude Code와 OpenAI Codex를 앞섰다. 엔지니어링 팀 입장에서는 평균 작업 시간이 20% 감소하고 배포 안정성이 크게 향상된 셈이다.
한국 기업과 협력할 의향이 있다면, 어떤 산업군이 가장 상호 보완적인 파트너가 될 수 있다고 보나?
우리는 인프라 신뢰성이 절대적으로 중요한 산업에서 큰 협력 가능성을 보고 있다. 여기에는 한국의 세계적 반도체 제조 산업, 금융 서비스, 통신 산업이 포함된다.
삼성이나 LG 규모의 기업들은 자율형 AI 에이전트를 기존 레거시 및 클라우드 환경에 통합하는 과정에서 가장 심각한 ‘검증 부채’를 경험하게 될 가능성이 높다. 우리의 인과 지능 플랫폼(causal intelligence platform)은 바로 이런 초대형·미션 크리티컬 환경을 위해 설계됐다.
