LLM 없이 그래프에 지식을 두고 근거로 추론하는 AI를 만들고 있는데, 이 방향이 맞을까요? 피드백 부탁드립니다

안녕하세요. 좀 특이한 실험을 하고 있어서 커뮤니티 냉정한 피드백을 받고 싶습니다.

저는 온톨로지 그래프에 기반한 새로운 아키텍처를 가진 ATANOR AI를 만들고 있는 고등학생입니다.

아래는 AI로 정리해본 개요입니다.

▍ATANOR가 뭐냐면

요즘 다 LLM인데, 저희는 반대 방향에 걸었습니다. LLM이 세상 지식을 수천억 파라미터에 압축해 넣는다면, ATANOR는 지식을 투명한 그래프(출처가 달린 트리플)에 두고, 그 위에서 밑바닥부터 직접 훈련한 작은 모델이 근거를 찾아 답을 조립합니다.

왜 이렇게까지 하냐면 — LLM의 두 가지 근본 문제, 환각과 "왜 그렇게 답했는지 설명 불가"를 구조적으로 피하고 싶어서입니다. 모든 답이 검색된 근거 + 출처에 묶여 있으면 지어내기가 구조적으로 어렵고, 추론 경로 자체가 그대로 근거가 됩니다. 근거가 없으면? 아는 척 안 하고 낮은 신뢰도로 표시합니다. ("답한다 ≠ 지어낸다"가 원칙입니다.)

단순 QA 봇이 아니라 하나의 시스템을 목표로, 전부 사전학습 LLM 없이 밑바닥부터 만들고 있습니다:

• 자체 문맥 인코더 (약 27M 파라미터, 노트북에서 구동) — 문장 이해·근거 판정 담당

• 멀티홉 추론 회로 — 증거 선택 → 답 추출 → 판정, 검사 가능한 추론 흔적을 남김

• 실시간 기억 — 대화 중 방금 배운 사실을 재훈련 없이 다음 순간 바로 활용

• 실시간 사고 루프 — 듣고 → 근거 융합(방금 배운 것 우선) → 생각 → 신뢰도 표시

• 그 위에 실시간 지각(사물 인식)·시각화·자기모델 등으로 확장 중

요약하면 "파라미터에 세상을 다 욱여넣는" LLM과 정반대로, 작고 투명하게, 근거를 찾아 추론하는 쪽입니다.

▍ 지금까지 실측

• 근거가 있을 때는 꽤 함: 과학 QA(SciQ) 0.77, 멀티홉 QA(HotpotQA) 0.41

• 근거가 없으면 딱 찍기 수준: GPQA 0.20 — LLM과 정반대 트레이드오프입니다

• 방금 배운 사실을 재훈련 없이 인출: 0.07 → 0.81

• 병목도 명확함: 밑바닥 인코더의 표현 품질 (근거-답변성 판별 AUC 0.68). 지금 이걸 올리는 중.

▍ 여쭙고 싶은 것

1. LLM 시대에 이런 No-LLM / 그래프-접지 방향이 의미가 있을까요, 아니면 삽질일까요?

2. 사전학습 가중치 없이 작은 인코더의 표현력을 끌어올리는 현실적인 방법 (단순 MLM 확장 말고)?

3. "근거-접지 + 환각 최소화 + 완전 로컬" 특성이 실제로 쓸모 있는 니치가 있을까요? 있다면 어디일까요?

혹독하게 까주셔도 감사히 받겠습니다. 🙏