연재 순서
① AI는 왜 그럴듯하게 틀리는가
② OXMV Loop, AI가 만든 답을 다시 의심하는 구조
③ 온톨로지로 AI에 지식의 지도를 그리다
글 | 만리풍취 정연태
지식이 많다고 세상을 이해하는 것은 아니다
수백만 권의 책이 있지만 분류번호도, 서가의 위치도, 검색목록도 없는 도서관을 상상해보자. 그곳에는 방대한 지식이 존재하지만 필요한 정보를 찾아 현실의 문제를 해결하기는 어렵다. 생성형 AI도 이와 비슷하다. 법률·건설·금융·의료 등 여러 분야의 질문에 답할 수 있지만, 많은 정보를 알고 있다는 사실과 현실의 문제를 정확하게 이해한다는 것은 다르다.
전문가는 단어 하나만 보고 판단하지 않는다. 사건에 등장하는 사람과 기관, 문서와 행위, 시간과 조건, 증거와 책임의 관계를 함께 살핀다. 현실은 단어의 집합이 아니라 관계의 구조이기 때문이다. AI가 전문지식을 책임 있게 다루려면 지식을 저장하는 창고만이 아니라, 지식의 위치와 연결관계를 알려주는 지도가 필요하다. 그 지도가 온톨로지이다.
개체·속성·관계·규칙으로 지식을 읽는다
온톨로지는 특정 분야에 무엇이 존재하고, 어떤 특성을 가지며, 서로 어떻게 연결되고, 어떤 조건에서 판단할 수 있는지를 구조화한 지식의 설계도이다. 건설공사를 예로 들면 발주자·원도급자·하도급자·설계자와 감리자는 각각 개체이다. 계약일·공사금액·공사기간과 문서번호는 속성이다. 발주자와 시공자의 계약, 설계변경과 공기연장, 비용 증가와 증빙 사이의 연결은 관계이다. 일정한 요건이 충족되어야 추가 공사비를 청구할 수 있다는 것은 규칙이다.
같은 단어도 분야와 문맥에 따라 의미가 달라진다. ‘책임’은 민사·형사·행정 책임으로 나뉘고, 건설현장에서는 설계·시공·안전관리 책임으로 구분된다. ‘소득’도 일상적 소득, 회계상 수익과 세법상 소득금액이 같지 않다. 온톨로지는 비슷해 보이는 개념의 차이를 구별하고, 떨어져 있는 정보 사이의 관계를 찾아준다. 전문지식은 용어를 많이 아는 능력이 아니라 차이를 구분하고 관계를 이해하는 능력이다.
법률·건설·금융·의료 지식은 어떻게 연결되는가
법률 AI에 법령과 판례를 많이 입력한다고 곧바로 법률전문가가 되는 것은 아니다. 계약분쟁을 판단하려면 계약상 의무, 위반행위, 귀책사유, 손해, 인과관계, 통지, 시효와 증거를 연결해야 한다. 관련 판례가 존재하더라도 사실관계와 쟁점, 적용 시점이 다르면 그대로 적용할 수 없다.
건설분쟁도 하나의 문서로 판단하기 어렵다. 계약서, 설계도서, 변경지시서, 공정표, 회의록, 작업일지와 비용자료를 시간과 원인에 따라 연결해야 한다. 발주자의 설계변경 이후 공기가 60일 연장되었다고 가정해보자. 설계변경과 공기연장이 시간적으로 이어졌다는 사실만으로 60일 전체가 발주자의 책임이라고 단정할 수 없다. 자재수급, 날씨, 인력 부족과 시공자의 작업 차질이 함께 작용했는지 확인해야 한다.
금융에서도 계좌 사이의 자금이동만으로 거래의 의미를 판단할 수 없다. 송금인과 수취인의 관계, 자금의 출처와 목적, 반복성, 분할송금과 최종 도착지를 함께 살펴야 한다. AI는 이상거래의 위험신호를 찾을 수 있지만 제한된 정보만으로 고객을 범죄자로 확정해서는 안 된다.
의료에서는 흉통 하나만으로 심장병을 단정할 수 없다. 증상의 위치와 성격, 발생 시점, 나이, 기저질환, 동반 증상과 검사 결과를 연결해야 한다. AI의 역할은 병명을 확정하는 것이 아니라 응급 위험신호를 우선 발견하고 필요한 진료를 안내하는 것이다.
온톨로지와 지식 그래프, 증거원장의 결합
온톨로지가 지식의 설계도라면 지식 그래프는 그 설계도 위에 실제 사람과 사건, 문서와 관계를 배치한 지도이다. 지식 그래프에서는 계약서와 공문, 회의록이 따로 떨어진 파일로 남지 않는다. 누가 어떤 권한으로 지시했는지, 어느 문서가 어떤 주장을 뒷받침하는지, 날짜와 금액이 서로 일치하는지를 하나의 관계망에서 살펴볼 수 있다.
여기에 Evidence Ledger가 결합한다. Evidence Ledger는 어떤 주장을 어떤 자료가 지지하거나 반박하는지, 확인하지 못한 부분은 무엇인지를 기록하는 증거원장이다. 예를 들어 “설계변경으로 공기가 60일 연장되었다”는 주장에는 설계변경 지시서뿐 아니라 수정공정표, 공기연장 승인문서와 실제 지연원인을 보여주는 자료가 필요하다. 설계변경의 존재를 입증하는 것과 그것이 60일 지연의 원인임을 입증하는 것은 서로 다른 문제이다.
온톨로지가 관계를 정의하고, Evidence Ledger가 그 관계의 근거를 기록한다면, OXMV Loop는 주장·사실·규칙·증거와 결론이 일치하는지를 반복 검증한다.
모든 연결이 인과관계는 아니다
온톨로지를 사용할 때 가장 조심해야 할 것은 관계와 인과관계를 혼동하는 일이다. 기업이 AI를 도입한 뒤 매출이 늘었다고 해서 AI가 매출 증가의 유일한 원인이라고 단정할 수 없다. 시장 성장, 대형 계약이나 경쟁사의 철수도 영향을 미쳤을 수 있다. 특정 약을 복용한 뒤 증상이 좋아졌더라도 자연 회복이나 다른 치료의 영향을 배제할 수 없다.
좋은 온톨로지는 많은 관계를 연결하는 데서 끝나지 않는다. 계약관계인지, 시간적 관계인지, 증거관계인지, 인과관계인지를 구분한다. 입증되지 않은 인과관계는 사실이 아니라 가설이나 검증 필요 상태로 남겨야 한다.
온톨로지가 있다고 진실이 자동으로 보장되는 것도 아니다. 개념을 잘못 정의하거나 오래된 법령과 기준을 적용하면 잘못된 결론이 나온다. 새로운 증거와 규칙이 등장하면 온톨로지와 연결된 판단도 갱신해야 한다. 온톨로지는 완성된 지식의 성전이 아니라 현실의 변화에 따라 계속 고쳐야 하는 살아 있는 지도이다.
AI는 분석하고 인간은 판단한다
AI는 금융거래의 이상징후를 찾고, 의료위험을 분류하며, 계약과 증거 사이의 공백을 발견할 수 있다. 그러나 몇 가지 거래정보만으로 고객을 범죄자로 규정하거나, 제한된 의료정보로 질병을 확진하고, 정황만으로 개인의 고의와 책임을 확정해서는 안 된다. 분류는 이해와 검토를 돕는 도구이지 인간에게 낙인을 찍는 판결문이 아니다.
법률·건설·금융·의료의 용어와 규칙은 서로 다르지만 공통된 질문이 있다. 무엇이 사실인가. 누가 어떤 행위를 했는가. 어떤 근거가 그 주장을 지지하는가. 적용할 규칙과 예외는 무엇인가.
무엇을 AI가 분석하고 무엇을 인간이 결정해야 하는가. 온톨로지는 서로 다른 전문지식을 주장·근거·관계·규칙이라는 공통 언어로 연결한다. 동시에 각 분야가 어디에서 만나고 어디에서 구분되어야 하는지도 알려준다.
AI에게 지식의 지도를 주는 일은 인간이 자신의 지식과 판단을 다시 돌아보는 일이기도 하다. 우리는 무엇을 사실이라고 부르는가. 가능성과 인과관계를 혼동하고 있지는 않은가. 우리의 판단에서 빠진 사람과 조건은 없는가.
지도는 목적지가 아니다. 그러나 지도 없이 먼 길을 안전하게 갈 수는 없다. 온톨로지는 AI를 위한 지도를 만들지만, 그 지도에 방향과 의미를 부여하고 최종 책임을 지는 존재는 여전히 인간이다.
다음 제4회 「AI의 판단을 인간이 이해할 수 있는가 — XAI가 필요한 이유」에서는 AI의 결론과 근거를 인간이 어떻게 이해하고 검증할 수 있는지 살펴보고자 한다.
필자 소개
만리풍취 정연태는 전문지식 AI 기획·설계자이자 GPT 개발 전문가이다. 미국 스티븐스공과대학교 대학원에서 수학한 뒤 정보통신기업과 공공기관, 기업경영 및 산업정책 현장에서 활동해 왔다. 현재 재단법인 건설산업정보원 원장으로 재직하며, 건설·법률·세무·금융·경영·의료·과학·역사·철학 등 54개의 전문지식 GPT를 개발했다. 온톨로지와 XAI, OXMV Loop 및 Evidence Ledger를 결합해 AI의 오류를 줄이고 인간의 책임 있는 판단을 지원하는 검증형 전문지식 AI 체계를 연구하고 있다.
