AI의 지식은 어떻게 연결되는가? - 메모리와 온톨로지

안녕하세요, 여립입니다. 오늘은 저번 컨텍스트 엔지니어링에 대해 작성한, 프롬프트 최적화 방법에 이어 메모리 시스템과 함께 온톨로지에 대해 이야기 해볼까 합니다. 기존 글을 아직 읽지 않으셨다면, 아래의 글을 확인해주세요!

https://it-ist.tistory.com/380

컨텍스트 엔지니어링 (Context Engineering): 프롬프트를 넘어 AI와 대화하는 새로운 방법

 

---

ChatGPT나 Claude를 사용해보신 분이라면 이런 경험이 있을 겁니다. 처음 몇 번은 대화가 자연스럽게 이어지다가도, 조금만 시간이 지나면 "아까 제가 말씀드린 그 내용이요"라고 했을 때 AI가 "무슨 말씀이신가요?"라며 맥락을 잃어버리는 현상입니다.

이건 단순히 AI가 똑똑하지 않기보단, AI가 사용자의 대화를 모두 기억하기 어렵기 때문입니다.

 

LLM(Large Language Model)이 급격히 발전하면서, 이제는 단순히 질문에 답하는 것을 넘어 복잡한 작업을 수행하고, 사용자와 장기적인 관계를 맺을 수 있는 AI 에이전트가 필요해졌습니다. 그리고 그 핵심 중 하나가 바로 메모리 입니다.

오늘은 AI 에이전트가 어떻게 사용자의 대화 내용을 기억하는지, 그 구조와 한계, 그리고 더 나은 미래를 위한 온톨로지라는 개념까지 설명해 볼까 합니다.

 

1. 왜 AI에게 메모리가 필요한가?

만약 AI가 기억하지 못하면 어떻게 될까요? 마치 기억상실증 환자처럼, 방금 전 이야기 한 내용도 기억하지 못한채 처음의 대화를 반복하게 됩니다. 이런 대화가 반복된다면, AI는 그저 답답하고 불편한 도구로 전락할 겁니다.

하지만 메모리가 있으면 다음과 같은 것들이 가능해집니다:

• 맥락 유지: 현재 대화내역의 맥락과 기존의 대화 내역을 기반으로 대화합니다.
• 개인화된 응답: 당신의 선호, 습관, 관심사를 기억해서 맞춤형 답변을 제공합니다.
• 누적된 경험 기반의 추론: 과거 대화에서 배운 내용을 바탕으로 더 깊이 있는 조언을 할 수 있습니다.

 

2. 메모리의 유형

기억의 목적과 유효성에 따라 4가지로 유형을 나눕니다 (https://github.com/davidkimai/Context-Engineering/blob/main/00_COURSE/05_memory_systems/00_memory_architectures.md)

 

기억 종류	역할/예시	특징
단기 기억 (Short-Term Memory)	지금 대화 흐름을 이어가기 위한 최근 정보 예: 방금 한 질문, 이전 문장의 내용	대화가 끝나면 사라지거나 정리됨
장기 기억 (Long-Term Memory)	오랜 기간 축적되는 정보 예: 사용자의 선호, 과거 이력, 반복되는 패턴	지속적으로 저장되고 필요할 때 불러옴
에피소드 기억 (Episodic Memory)	특정 사건이나 경험 단위로 저장 예: "지난 주 월요일 회의 내용", "여름 여행 계획"	시간·장소·맥락이 함께 저장됨
의미 기억 (Semantic Memory)	개념, 사실, 의미 관계 중심의 지식 예: "서울은 한국의 수도", "커피에는 카페인이 있다"	사실 자체를 구조화해서 보관

이렇게 4가지로 나눈 메모리 유형에 맞게, 서로 다른 중요도와 만료시간을 설정해, 사용자의 정보를 선별적으로 선택하고 응답에 적용할 수 있게 합니다.

3. AI는 메모리를 어떻게 사용할까?

메모리 동작 과정

1단계: 수집
사용자가 대화를 시작하면, AI는 입력된 내용을 분석합니다.
"내일 오후 3시에 회의가 있어요"라고 말하면, AI는 이 문장에서 시간(내일 오후 3시), 이벤트(회의)라는 정보를 추출합니다.

 

2단계: 저장
추출한 정보를 적절한 메모리 영역에 저장합니다.

• 단기 기억: 지금 대화 중 "회의"라는 주제를 다루고 있다는 맥락
• 장기 기억: 사용자가 자주 회의 일정을 물어본다는 패턴
• 에피소드 기억: "내일 오후 3시 회의"라는 구체적 사건

3단계: 검색 (Retrieval)
나중에 사용자가 "내일 뭐 하기로 했죠?"라고 물으면, AI는 저장된 메모리를 뒤져서 "내일 오후 3시에 회의"라는 정보를 찾아냅니다.

 

4단계: 활용
찾은 정보를 바탕으로 "내일 오후 3시에 회의가 예정되어 있습니다"라고 자연스럽게 답변합니다.

 

4. 그렇다면 메모리의 한계는 없을까?

있는 정보는 잘 다루지만, 왜 그게 의미 있는지 혹은 어떻게 다른 기억과 연결되는지를 다루기엔 어렵습니다.

• AI가 "사용자는 커피를 좋아한다"는 사실을 기억합니다.
• AI가 "사용자는 불면증이 있다"는 사실도 기억합니다.

하지만 메모리만으로는 이 두 사실을 연결해서 "커피 섭취를 줄이면 불면증 개선에 도움이 될 수 있다"는 통찰을 자동으로 만들어내기 어렵습니다.

• "사용자는 서울에 산다"
• "사용자는 출퇴근 시간이 2시간이다"
• "사용자는 이직을 고려 중이다"

이 세 가지 정보가 있을 때, 사람이라면 "출퇴근 시간 때문에 이직을 고민하는 건 아닐까?"라고 연결지을 수 있지만, 단순 메모리 구조만으로는 이런 의미적 추론이 쉽지 않습니다.

 

즉, 메모리는 저장과 검색에는 강하지만, 관계와 의미를 파악하는 데는 약합니다.

---

5. 그래서 등장한 것이 온톨로지(Ontology)

메모리의 한계를 극복하기 위해 등장한 개념이 바로 온톨로지입니다.

온톨로지(Ontology)라는 단어는 원래 철학에서 왔습니다. (존재론이라고 번역된다고 합니다 ㅎㅎ)

하지만 AI에서의 온톨로지는 조금 다르게 접근합니다. AI에서는 지식의 구조적 표현(schema of knowledge)으로 사용됩니다.
정보들 사이의 관계들을 명시적으로 정의해, 컴퓨터가 의미를 이해하고 추론할 수 있게 만드는 지식 표현 방식입니다.

쉽게 말하면:

• 메모리는 책장에 책을 꽂아두는 것
• 온톨로지는 책들 사이의 관계를 표시하고, 주제별로 묶고, 관련된 내용끼리 연결해주는 것

구분	목적	형태
메모리	경험(정보)의 목록	대화, 사건, 문서, 상태 등 시계열 데이터
온톨로지	서로 다른 정보들이 어떻게 연결되는지 보여주는 구조	개념, 속성, 관계, 계층 구조 등 논리적 구조

온톨로지가 가능하게 하는 것들

예시: 업무 생산성 AI

• 메모리: "월요일 회의", "프로젝트 마감일 금요일", "팀원 3명"
• 온톨로지: "회의(주체) → 프로젝트(목적) → 마감일(기한) → 팀원(자원)" → AI가 "이번 주는 타이트하니 월요일 회의에서 역할 분담을 명확히 하는 게 좋겠습니다"라고 조언

온톨로지는 기억된 사실들 사이에 의미 중심의 관계망을 구성 합니다. 덕분에 AI는 단순히 정보를 기억하는 것 이상으로 정보의 의미를 제공할 수 있게 됩니다.

 

---

6. 온톨로지 적용 예시: Graph DB

그래프 데이터베이스(Graph Database), 들어보셨나요?

일반적인 데이터베이스가 행과 열로 데이터를 저장한다면, 그래프 DB는 노드(개념)와 엣지(관계)를 통해 사람의 사고 구조처럼 정보 간의 연결망을 표현합니다. 요즘 가장 핫한 🔥 기술로, Neo4j가 가장 대표적인 그래프 DB 입니다.

• Neo4j: 가장 유명한 그래프 DB. 소셜 네트워크, 추천 시스템, 지식 그래프 구축에 널리 사용됩니다.
• FalkorDB: 빠른 성능에 초점을 둔 오픈소스 그래프 DB

예시를 좀더 들여다 봅시다.

두가지 방식, 일반적인 관계형 DB와 그래프 DB가 있습니다. 사용자가 본 영화와 장르를 저장한다고 할때,

일반 DB 방식

사용자	본 영화	감독	장르
철수	인셉션	크리스토퍼 놀란	SF
철수	인터스텔라	크리스토퍼 놀란	SF
영희	타이타닉	-	로맨스

 

그래프 DB 방식

의 형태로 저장을 한다고 개념적으로 이해하시면 좋을 것 같습니다.

 

 

7. 스스로 사고 확장하기 — 온톨로지가 여는 가능성

지식의 확장

온톨로지는 새로운 정보가 들어왔을 때 자동으로 관련된 지식을 확장합니다.

예를 들어:

• 새 정보: "토끼는 초식동물이다"
• 기존 지식: "초식동물은 식물을 먹는다", "당근은 식물이다"
• 자동 추론: "토끼는 당근을 먹을 수 있다"

이런 식으로 온톨로지 기반의 AI는 명시되지 않은 관계를 논리적으로 연결해 새로운 지식을 생성합니다.

 

모순 발견

온톨로지는 논리적 모순도 찾아냅니다:

• "A는 채식주의자다" + "A는 스테이크를 좋아한다"
  → AI: "이 두 정보는 충돌합니다. 확인이 필요합니다"

이런 기능은 데이터 품질 관리, 사기 탐지, 의료 진단 등 다양한 분야에서 활용됩니다.

 

---

 

지금까지 AI 에이전트에서 사용되는 메모리 시스템과 온톨로지에 대해 살펴보았습니다. Context Engineering의 주요 골자가 에이전트 스스로 학습하고 발전하는데 있는 만큼 온톨로지는 AI가 스스로 기억을 재구성하고(Reconstructive), 자신의 판단을 평가하며(Evaluation), 점점 더 나은 방식으로 사고하도록(Self-Reflection) 진화하는 과정 중에 필수적인 요소로 자리 잡은 것 같습니다.

 

이상 글을 마치겠습니다. 감사합니다!