모두를 위한 AI 용어집

AGI(Artificial general intelligence))

• 범용인공지능의 느슨한 정의

  • AGI는 대체로 많은 작업에서 평균 인간보다 더 뛰어난 AI를 가리키는 모호한 용어임

  • 정의 예시:

    • OpenAI CEO는 AGI를 동료로 고용할 수 있는 중위 인간 수준에 비유함

    • OpenAI 헌장은 AGI를 대부분의 경제적 가치가 있는 일에서 인간을 능가하는 고도 자율 시스템으로 정의함

    • Google DeepMind는 대부분의 인지 작업에서 인간만큼 capable한 AI를 의미함

  • 최전선 연구자들도 정의에 혼란이 있는 상태임

AI agent

• 다단계 작업을 대신 수행하는 AI 도구

  • AI agent는 기본 챗봇을 넘어 비용 정산, 티켓·식당 예약, 코드 작성·유지보수 같은 작업을 대신 수행하는 도구임

  • 이전에 설명한 것처럼, 초기 분야라 사람마다 의미가 다를 수 있음

  • 구상된 기능을 실현할 인프라도 아직 구축 중임

  • 기본 개념은 여러 AI 시스템을 활용해 다단계 작업을 처리하는 자율 시스템임

API endpoints

• 다른 프로그램이 소프트웨어 기능을 호출하는 접점

  • API 엔드포인트는 다른 프로그램이 눌러 기능을 실행시키는 소프트웨어 뒤편의 버튼 같은 인터페이스임

  • 개발자는 이를 이용해 앱 간 데이터 가져오기, AI agent의 외부 서비스 직접 제어 같은 통합을 만듦

  • 스마트홈 기기와 연결 플랫폼 대부분에는 일반 사용자가 보지 못하는 엔드포인트가 있음

  • AI agent 역량이 커지면서 엔드포인트를 스스로 찾아 쓰는 자동화 가능성과 예기치 않은 결과가 함께 증가함

Chain of thought

• 문제를 중간 단계로 쪼개는 추론 방식

  • 단순 질문은 즉시 답할 수 있지만, 중간 계산이 필요한 문제는 단계적 풀이가 필요함

  • LLM의 chain-of-thought 추론은 문제를 작은 중간 단계로 분해해 최종 답 품질을 높이는 방식임

  • 효과와 비용:

    • 답변 시간이 보통 더 길어짐

    • 논리·코딩 문제에서 정답 가능성이 높아짐

    • 추론 모델은 전통적 LLM에서 출발해 강화학습으로 chain-of-thought 사고에 최적화됨

  • 관련 용어: Large language model

Coding agents

• 소프트웨어 개발에 특화된 AI agent

  • Coding agent는 목표를 향해 단계별로 행동하는 AI agent를 개발 작업에 적용한 특화 버전임

  • 단순 코드 제안이 아니라 코드 작성, 테스트, 디버깅을 자율 처리함

  • 전체 코드베이스에서 버그 탐지, 테스트 실행, 수정 제출까지 최소한의 인간 감독으로 수행 가능함

  • 빠르고 집중력이 흐트러지지 않는 인턴에 가깝지만, 인간 리뷰는 여전히 필요함

Compute

• AI 모델 실행과 배포를 떠받치는 연산 자원

  • Compute는 AI 모델을 작동시키는 핵심 연산력을 가리키는 다의적 용어임

  • 모델 학습과 배포를 가능하게 하는 처리 능력임

  • GPU, CPU, TPU 등 현대 AI 산업의 기반 인프라를 줄여 부르는 말로도 쓰임

Deep learning

• 다층 인공신경망 기반 머신러닝

  • Deep learning은 다층 인공신경망 구조를 사용하는 자기개선형 머신러닝의 하위 분야임

  • 선형 모델이나 결정 트리보다 복잡한 상관관계를 만들 수 있음

  • 구조는 인간 뇌 뉴런의 연결 경로에서 착안함

  • 특징과 한계:

    • 사람이 특징을 정의하지 않아도 데이터의 중요 특성을 모델이 식별함

    • 오류에서 학습하고 반복·조정을 통해 출력을 개선함

    • 좋은 결과에는 수백만 개 이상 데이터 포인트가 필요함

    • 단순 머신러닝보다 학습 시간이 길고 개발 비용이 높아지는 경향임

  • 관련 용어: Neural network

Diffusion

• 생성형 AI 모델의 핵심 생성 방식 중 하나

  • Diffusion은 많은 이미지·음악·텍스트 생성 AI 모델의 기반 기술임

  • 물리학에서 착안해 사진·노래 같은 데이터 구조를 노이즈로 천천히 파괴하는 방식임

  • AI diffusion 시스템은 파괴된 데이터를 되돌리는 reverse diffusion 과정을 학습해 노이즈에서 데이터를 복원함

Distillation

• 큰 모델 지식을 작은 모델로 옮기는 기법

  • Distillation은 teacher-student 모델 구조로 큰 AI 모델의 지식을 추출하는 기법임

  • 작동 방식:

    • teacher 모델에 요청을 보내고 출력을 기록함

    • 답변 정확도 확인을 위해 데이터셋과 비교하는 경우가 있음

    • 기록된 출력으로 teacher 행동을 근사하는 student 모델을 학습함

  • 큰 모델 기반의 더 작고 효율적인 모델을 최소한의 distillation loss로 만들 수 있음

  • GPT-4의 더 빠른 버전인 GPT-4 Turbo도 이 방식으로 개발됐을 가능성이 있음

  • 모든 AI 회사가 내부적으로 사용하지만, 경쟁사 모델 추격에 쓰이면 AI API와 챗 어시스턴트 약관을 위반하는 경우가 많음

Fine-tuning

• 특정 작업·분야 성능을 높이는 추가 학습

  • Fine-tuning은 기존 학습 초점보다 더 구체적인 작업이나 분야에 맞춰 AI 모델을 추가 학습하는 방식임

  • 보통 새롭고 전문화된 작업 지향 데이터를 투입함

  • 많은 AI 스타트업은 LLM을 출발점으로 삼고, 자체 도메인 지식과 전문성 기반 fine-tuning으로 특정 산업·작업 효용을 높이려 함

  • 관련 용어: Large language model [LLM]

GAN

• 현실적인 데이터를 생성하는 적대적 생성망

  • GAN은 Generative Adversarial Network의 약자로, 현실적 데이터 생성을 위한 머신러닝 프레임워크임

  • 딥페이크 도구를 포함한 생성형 AI 발전 일부의 기반임

  • 구조:

    • 생성 모델이 학습 데이터 기반 출력을 만듦

    • 판별 모델이 그 출력을 평가함

    • 생성자는 판별자를 속이려 하고 판별자는 인공 생성 데이터를 잡아내려 함

  • 추가 인간 개입 없이 출력의 현실감을 높일 수 있음

  • 범용 AI보다 현실적인 사진·영상 생성 같은 좁은 용도에서 더 적합함

Hallucination

• AI 모델이 잘못된 정보를 만들어내는 현상

  • Hallucination은 AI 모델이 실제로 틀린 정보를 생성하는 문제를 가리키는 업계 용어임

  • 생성형 AI 출력 품질을 크게 떨어뜨리는 문제임

  • 위험:

    • 오해를 부르는 출력 생성 가능함

    • 건강 질문에 해로운 의료 조언이 반환되는 식의 실제 위험 가능함

  • 원인과 대응:

    • 학습 데이터의 빈틈에서 발생하는 것으로 여겨짐

    • 지식 공백과 허위정보 위험을 줄이기 위해 분야 특화·수직형 AI 모델 수요가 커짐

Inference

• 학습된 모델을 실행해 예측·결론을 내는 과정

  • Inference는 AI 모델을 실행하는 과정임

  • 모델이 이전에 본 데이터에서 예측하거나 결론을 도출하게 하는 단계임

  • 학습 없이 inference는 불가하며, 모델은 먼저 데이터 패턴을 배워야 함

  • 하드웨어 차이:

    • 스마트폰 프로세서, 고성능 GPU, AI 가속기 등 다양한 장치에서 수행 가능함

    • 매우 큰 모델은 노트북보다 고급 AI 칩이 있는 클라우드 서버에서 훨씬 효율적임

  • 관련 용어: Training

Large language model (LLM)

• AI 어시스턴트를 구동하는 대규모 언어 모델

  • LLM은 ChatGPT, Claude, Google Gemini, Meta AI Llama, Microsoft Copilot, Mistral Le Chat 같은 AI 어시스턴트에 쓰이는 모델임

  • 사용자가 AI 어시스턴트와 대화할 때, 요청을 직접 처리하거나 웹 탐색·코드 인터프리터 같은 도구와 함께 처리하는 LLM과 상호작용함

  • 구조와 생성 방식:

    • 수십억 개의 수치 매개변수 또는 가중치로 구성된 심층 신경망임

    • 단어와 구 사이 관계를 학습해 언어의 다차원 지도를 만듦

    • 책, 기사, 녹취록 수십억 건에서 발견한 패턴을 인코딩해 생성됨

    • 프롬프트가 들어오면 그 프롬프트에 맞는 가장 그럴듯한 패턴을 생성함

  • 관련 용어: Neural network

Memory cache

• Inference 효율을 높이는 계산 저장 방식

  • Memory cache는 사용자 질의에 대한 응답 생성 과정인 inference를 가속하는 중요 최적화임

  • 모델이 반복해야 할 계산 일부를 저장해 이후 질의와 작업에서 재사용함

  • 목적은 계산 횟수와 전력 사용을 줄이는 것임

  • 대표 방식은 transformer 기반 모델에서 작동하는 KV caching임

  • KV caching은 답 생성에 걸리는 시간과 알고리즘 작업량을 줄여 효율과 속도를 높임

  • 관련 용어: Inference

Model Context Protocol (MCP)

• AI 모델과 외부 도구·데이터를 연결하는 공개 표준

  • Model Context Protocol은 AI 모델이 파일, 데이터베이스, Slack, Google Drive 같은 외부 도구와 데이터에 연결되도록 하는 공개 표준임

  • 모든 조합마다 개발자가 커스텀 커넥터를 만들 필요를 줄임

  • AI용 USB-C 포트에 비유됨

  • 도입 흐름:

    • Anthropic이 2024년에 소개함

    • 이후 Linux Foundation에 넘겨짐

    • OpenAI, Google, Microsoft가 채택함

    • 최근 AI 역사에서 가장 빠르게 확산된 표준 중 하나가 됨

Mixture of Experts (MoE)

• 일부 전문 하위망만 활성화하는 모델 구조

  • Mixture of Experts는 신경망을 여러 작은 전문 하위망, 즉 expert로 나누는 아키텍처임

  • 각 작업마다 전체 모델이 아니라 소수 expert만 활성화함

  • 내장 router가 작업에 맞는 expert를 고름

  • 효과와 사례:

    • 거대한 모델을 비교적 빠르고 저렴하게 실행 가능함

    • 한 번에 네트워크 일부만 작동하기 때문임

    • Mistral AI의 Mixtral이 잘 알려진 사례임

    • OpenAI의 최신 GPT 모델도 일부 버전을 사용한다는 추정이 널리 있지만 공식 확인은 없음

  • 관련 용어: Neural network, Deep learning

Neural network

• 딥러닝과 생성형 AI 붐의 기반 구조

  • Neural network는 딥러닝을 떠받치는 다층 알고리즘 구조임

  • LLM 등장 이후 생성형 AI 도구 전반의 확산에도 기반이 됨

  • 인간 뇌의 촘촘한 연결 경로에서 데이터 처리 알고리즘 구조를 얻는 발상은 1940년대까지 거슬러 올라감

  • 최근 성능 도약의 핵심은 비디오게임 산업을 통해 발전한 GPU임

  • GPU 영향:

    • 과거보다 훨씬 많은 층을 가진 알고리즘 학습에 적합함

    • 음성 인식, 자율주행, 신약 발견 등 여러 분야 성능 향상을 가능하게 함

  • 관련 용어: Large language model [LLM]

Open source

• 코드나 모델을 공개해 사용·검토·수정할 수 있게 하는 방식

  • Open source는 누구나 사용, 검사, 수정할 수 있도록 기반 코드가 공개된 소프트웨어 또는 AI 모델을 뜻함

  • AI 분야에서는 Meta의 Llama 모델군이 대표 사례이고, 운영체제에서는 Linux가 역사적 대응 사례임

  • 연구자, 개발자, 기업이 서로의 작업 위에 구축해 발전 속도를 높일 수 있음

  • 닫힌 시스템이 쉽게 제공하기 어려운 독립 안전성 감사도 가능하게 함

  • Closed source는 코드가 비공개라 제품은 쓸 수 있지만 작동 방식은 볼 수 없는 구조임

  • OpenAI의 GPT 모델이 closed source 사례이며, 이 구분은 AI 산업의 핵심 논쟁 중 하나가 됨

Parallelization

• 작업을 동시에 처리하는 방식

  • Parallelization은 일을 순차 처리하지 않고 동시에 여러 개 수행하는 방식임

  • AI에서는 학습과 inference 양쪽 모두의 기반임

  • 현대 GPU는 수천 개 계산을 병렬 수행하도록 설계돼 AI 산업의 하드웨어 기반이 됨

  • 모델이 커지고 시스템이 복잡해질수록 여러 칩과 여러 머신에 작업을 나누는 능력이 구축·배포 속도와 비용 효율의 핵심 요인이 됨

  • 더 나은 병렬화 전략 연구가 독립 연구 분야로 자리 잡음

RAMageddon

• AI 데이터센터 수요로 심해진 RAM 부족과 가격 상승

  • RAMageddon은 RAM 칩 부족이 기술 산업 전반으로 번지는 흐름을 가리키는 신조어임

  • AI 기업과 빅테크가 더 강력하고 효율적인 AI를 위해 데이터센터용 RAM을 대량 구매하면서 다른 수요처에 남는 물량이 줄어듦

  • 공급 병목으로 남은 RAM 가격도 상승 중임

  • 영향 산업:

    • 게임 산업에서는 메모리 칩 확보 난항으로 콘솔 가격 인상이 발생함

    • 소비자 전자제품에서는 메모리 부족이 10년여 만의 최대 스마트폰 출하량 감소를 부를 수 있음

    • 일반 기업 컴퓨팅도 자체 데이터센터용 RAM 확보에 어려움이 있음

  • 가격 급등은 부족이 끝나야 멈출 것으로 예상되지만, 단기간 해소 징후는 크지 않음

Recursive self-improvement

• AI가 인간 개입 없이 자신을 개선하는 임계 개념

  • Recursive self-improvement는 AGI처럼 AI 지능과 인간 의존도 감소를 가늠하는 임계 개념임

  • RSI 시나리오에서는 AI 모델이 인간 개입 없이 스스로 개선되며 역량과 자율성이 크게 가속됨

  • 일부 설명에서는 외부 개입이 통하지 않는 특이점 같은 파국적 순간으로 묘사됨

  • 더 기본적으로는 AI 모델이 자신의 후속 모델을 설계할 수 있는지라는 능력으로도 쓰임

  • 최근 AI 스타트업 여러 곳이 재귀적 자기개선 모델 구축에 나섰지만, 대부분 종말론적 함의를 배제하고 다음 연구 frontier로 제시함

Reinforcement learning

• 시도와 보상으로 행동을 갱신하는 학습 방식

  • Reinforcement learning은 시스템이 시도하고 정답에 대한 보상을 받으며 배우는 AI 학습 방식임

  • 고정된 라벨 예시 데이터셋으로 학습하는 supervised learning과 다름

  • 모델이 환경을 탐색하고 행동하며 받은 피드백에 따라 행동을 계속 갱신함

  • 활용과 중요성:

    • 게임 플레이 학습에 강력함

    • 로봇 제어에 유용함

    • 최근에는 LLM 추론 능력 강화에도 쓰임

    • RLHF 같은 기법은 주요 AI 연구소가 모델을 더 유용하고 정확하며 안전하게 fine-tuning하는 핵심 방식이 됨

Token

• 인간 언어와 LLM 처리 사이의 기본 단위

  • Token은 LLM이 처리하거나 생성한 데이터의 이산 단위로, 인간-AI 소통의 기본 구성요소임

  • Tokenization은 원문 텍스트를 언어 모델이 소화할 수 있는 작은 단위로 나누는 과정임

  • 컴파일러가 인간 언어를 컴퓨터가 이해하는 바이너리 코드로 바꾸는 것과 유사하게 설명됨

  • 기업 환경에서는 대부분 AI 회사가 LLM 사용량을 토큰 단위로 과금하므로 비용 기준이 됨

Token throughput

• 시스템이 한 번에 처리할 수 있는 AI 작업량 지표

  • Token throughput은 일정 시간 동안 처리 가능한 토큰 양을 뜻함

  • 토큰은 AI 언어 모델이 언어를 처리 전 쪼개는 작은 텍스트 조각이며, AI 작업량 이해에서는 단어와 대략 비슷한 단위로 취급됨

  • 인프라 측면 의미:

    • 모델이 동시에 얼마나 많은 사용자를 처리할 수 있는지 결정함

    • 각 사용자가 얼마나 빨리 응답을 받는지 좌우함

    • AI 인프라 팀의 핵심 목표 중 하나임

  • AI 연구자는 AI 구독이 놀 때 느끼는 불안을 비싼 컴퓨터 하드웨어가 제대로 활용되지 않던 대학원 시절 감각에 빗대며, token throughput 극대화 집착을 보여주는 사례가 됨

Training

• 데이터 패턴을 학습해 유용한 출력을 만들게 하는 과정

  • Training은 머신러닝 AI 개발에서 모델이 데이터 패턴을 배우도록 데이터를 투입하는 과정임

  • 데이터 특성에 반응하면서 고양이 이미지 식별이나 하이쿠 생성 같은 목표에 맞춰 출력을 조정함

  • 비용 요인:

    • 매우 많은 입력이 필요함

    • 필요한 데이터 규모가 증가하는 추세임

    • rules-based AI에 목표 데이터로 fine-tuning하는 혼합 방식은 처음부터 다시 만들지 않고 비용 관리에 도움됨

  • 관련 용어: Inference

Transfer learning

• 기존 학습 모델을 관련 작업의 출발점으로 재사용하는 기법

  • Transfer learning은 이전에 학습된 AI 모델을 다른 보통은 관련된 작업의 새 모델 개발 출발점으로 쓰는 방식임

  • 이전 학습 주기에서 얻은 지식을 재적용할 수 있음

  • 장점과 한계:

    • 모델 개발을 단축해 효율을 높일 수 있음

    • 새 작업용 데이터가 다소 제한적일 때 유용함

    • 일반화된 역량을 얻기 위해 transfer learning에 의존하는 모델은 목표 도메인에서 잘 작동하려면 추가 데이터 학습이 필요할 가능성이 큼

  • 관련 용어: Fine tuning

Validation loss

• 학습 중 모델 학습 품질을 보여주는 수치

  • Validation loss는 AI 모델이 학습 중 얼마나 잘 배우는지를 나타내는 숫자이며 낮을수록 좋음

  • 연구자들은 실시간 성적표처럼 추적함

  • 활용:

    • 학습 중단 시점 결정

    • 하이퍼파라미터 조정 판단

    • 잠재 문제 조사 여부 판단

    • overfitting 감지

  • Overfitting은 모델이 새 상황에 일반화할 패턴을 배우기보다 학습 데이터를 외워버리는 상태임

Weights

• 학습 데이터 특징의 중요도를 정하는 수치 매개변수

  • Weights는 AI 학습에서 각 feature 또는 입력 변수가 얼마나 중요한지 정해 모델 출력을 형성함

  • 주어진 학습 작업에서 데이터셋의 핵심 요소를 정의하는 수치 매개변수임

  • 작동 방식:

    • 입력에 곱셈을 적용해 기능함

    • 학습 시작 시 보통 무작위로 배정됨

    • 목표 출력에 더 가까워지도록 학습 과정에서 조정됨

  • 주택 가격 예측 모델 예시:

    • 침실·욕실 수, 단독·반단독 여부, 주차장·차고 여부 등이 feature가 될 수 있음

    • 각 입력에 붙은 weight는 해당 데이터셋 기준 부동산 가치에 미치는 영향도를 반영함

^{source https://techcrunch.com/2026/07/03/artificial-intelligence-definition-glossary-hallucinations-guide-to-common-ai-terms/}