아하AI
  1. 홈
  2. 언어 모델

언어 모델73개

챗GPT 같은 대화형 AI가 글을 읽고 쓰는 원리예요. 토큰, 트랜스포머, 어텐션, 임베딩, 프롬프트, 할루시네이션, RAG, 컨텍스트 윈도우처럼 AI를 쓰면서 한 번쯤 마주친 말들을 모았어요.

난이도
감성 분석Sentiment Analysis

글에 담긴 태도를 좋고 나쁨으로 가려내기

입문 거부Refusal

해서는 안 될 요청을 AI가 거절하는 것

윤리 입문 그라운딩Grounding

답의 문장을 실제 근거에 붙들어 매는 일

기본 기계 번역Machine Translation

한 언어의 글을 기계가 다른 언어로 옮기는 일

입문 다음 토큰 예측Next-Token Prediction

앞의 글을 보고 바로 다음 조각을 맞히는 일

입문 대규모 언어 모델Large Language Model

엄청난 양의 글로 아주 크게 키운 언어 모델

입문 대화 기억Conversation Memory

지난 대화를 매번 다시 읽혀 이어 가는 방식

입문 도구 사용Tool Use

필요할 때 바깥 수단을 골라 쓰는 일

활용 기본 로짓Logits

확률로 바꾸기 전 후보마다 매겨진 날 점수

심화 멀티 에이전트Multi-Agent

여러 AI가 역할을 나눠 주고받으며 일하기

활용 기본 멀티모달Multimodal

글·그림·소리를 함께 다루는 AI

활용 입문 멀티헤드 어텐션Multi-Head Attention

같은 장면을 여러 관점이 동시에 보는 어텐션

심화 문서 질의응답Document Q&A

문서 하나에 대고 묻고 답 듣기

활용 입문 벡터Vector

여러 항목의 값을 정해진 순서로 적은 숫자 묶음

기본 벡터 데이터베이스Vector Database

숫자 묶음을 가까운 것끼리 찾도록 보관한 저장소

기본 사고의 사슬Chain of Thought

답을 내기 전에 중간 과정을 하나씩 거치는 방식

기본 사전 학습Pretraining

쓰임새를 정하기 전에 기본기를 익혀 두는 단계

기본 샘플링Sampling

후보를 가능성대로 하나 뽑는 일

기본 셀프 어텐션Self-Attention

같은 문장 안 말들끼리 서로 참고하는 방식

심화 소프트맥스Softmax

여러 점수를 합이 100%인 확률로 바꾸는 계산

기본 소형 언어 모델Small Language Model

작게 만들어 손안 기기에서도 도는 언어 모델

기본 스케일링 법칙Scaling Law

크기와 데이터를 늘릴 때 성능이 오르는 규칙

기본 스트리밍 응답Streaming

답이 완성되기 전에 만들어진 만큼 먼저 보내는 방식

입문 시맨틱 검색Semantic Search

글자가 아니라 뜻이 가까운 것을 찾는 검색

기본 시스템 프롬프트System Prompt

대화 앞에 미리 깔아 두는 운영 방침 글

기본 시퀀스-투-시퀀스Sequence-to-Sequence

다 듣고 나서 다른 길이로 다시 만들어 내는 구조

구조 심화 아첨Sycophancy

사용자 말에 맞춰 틀린 것도 맞다고 하는 버릇

윤리 기본 어텐션Attention

어느 것에 얼마나 비중을 둘지 정하는 방식

기본 언어 모델Language Model

앞말을 보고 다음에 올 말을 확률로 고르는 모델

입문 온도Temperature

후보들의 확률 차이를 벌리거나 좁히는 손잡이

기본 요약Summarization

긴 글에서 남길 것만 골라 짧게 만들기

입문 워드투벡Word2Vec

이웃 단어로 뜻을 익혀 낱말을 좌표로 바꾸는 방법

기본 위치 인코딩Positional Encoding

자리마다 순서 표시를 붙여 주는 방법

심화 인스트럭션 튜닝Instruction Tuning

지시를 받으면 그에 맞춰 답하는 형식을 익히는 단계

기본 인코더·디코더Encoder-Decoder

읽는 쪽과 쓰는 쪽을 따로 둔 두 부분 구조

기본 임베딩Embedding

말의 뜻을 자리를 나타내는 숫자로 옮겨 적은 것

기본 자기회귀Autoregressive

쓴 글을 다시 읽고 다음 한 조각을 잇는 방식

구조 심화 자연어 처리NLP

컴퓨터가 사람 말을 다루게 하는 기술

기초 입문 전문가 혼합Mixture of Experts

필요한 담당 갈래만 골라 켜는 모델 구조

심화 제로샷Zero-Shot

예시 없이 지시만으로 바로 시키는 방법

기본 지식 마감일Knowledge Cutoff

학습에 쓴 자료가 멈춰 있는 시점

입문 지식 증류Knowledge Distillation

큰 모델의 판단을 작은 모델에 옮겨 담는 방법

학습 심화 챗봇Chatbot

사람과 글이나 말로 주고받는 대화 프로그램

기초 입문 추론 모델Reasoning Model

답하기 전에 중간 단계를 먼저 밟는 언어 모델

기본 컨텍스트 윈도우Context Window

모델이 한 번에 볼 수 있는 글의 최대 분량

입문 컴퓨터 사용 에이전트Computer-Use Agent

화면을 보고 마우스와 키보드를 대신 움직이는 AI

활용 기본 코사인 유사도Cosine Similarity

두 방향이 얼마나 같은 쪽을 보는지 재는 자

심화 탈옥Jailbreak

사용자가 AI를 구슬려 정해진 규칙을 벗어나게 하는 일

윤리 기본 탑 P 샘플링Top-p Sampling

위에서부터 잘라 둔 후보 안에서만 뽑는 방식

심화 텍스트 생성Text Generation

앞을 보고 다음 조각을 이어 붙여 글을 만드는 일

입문 토크나이저Tokenizer

글을 정해진 조각 목록대로 잘라 번호를 붙이는 장치

기본 토큰Token

AI가 글을 읽고 쓸 때 다루는 조각 단위

입문 트랜스포머Transformer

문장 속 단어들이 서로를 동시에 참고해 뜻을 잡는 AI 구조

기본 파인튜닝Fine-Tuning

학습된 모델을 새 자료로 조금 더 다듬기

학습 기본 퍼플렉시티Perplexity

다음 말을 몇 갈래에서 헷갈리는지 나타낸 값

심화 페르소나Persona

AI에게 맡기는 역할과 말투 설정

활용 입문 퓨샷 학습Few-Shot Learning

예시 몇 개를 보여 주고 그대로 시키는 방법

기본 프롬프트Prompt

AI에게 무엇을 해 달라고 건네는 글

입문 프롬프트 엔지니어링Prompt Engineering

원하는 답이 나오도록 지시를 다듬는 일

생성형 입문 프롬프트 인젝션Prompt Injection

바깥 자료에 숨겨 둔 지시가 AI를 움직이는 공격

윤리 기본 할루시네이션Hallucination

AI가 그럴듯하지만 사실이 아닌 답을 지어내는 현상

입문 함수 호출Function Calling

모델이 필요한 도구를 정해진 양식으로 불러 쓰는 것

기본 AI 검색AI Search

웹을 대신 찾아 정리한 답을 주는 검색

활용 입문 AI 노트AI Notebook

내가 넣은 자료만 읽고 답하는 작업 공간

활용 입문 AI 에이전트AI Agent

목표를 받아 단계를 스스로 밟아 일을 끝내는 AI

활용 입문 BERT

앞뒤를 함께 보고 빈칸을 메우며 익힌 모델

기본 GPT

앞을 보고 다음 조각을 이어 쓰는 언어 모델 방식

입문 LLM 심사LLM-as-a-Judge

언어 모델에게 답의 좋고 나쁨을 매기게 하기

평가 기본 LSTM

지울 것과 남길 것을 문으로 고르는 순환 신경망

구조 심화 N-그램N-gram

앞의 몇 마디만 세어 다음 말을 맞히던 방식

기본 RAGRetrieval-Augmented Generation

답하기 전에 자료를 찾아와 곁에 두고 쓰는 방식

기본 RLHF

사람이 고른 선호로 답의 결을 다듬는 학습

기본 RNNRecurrent Neural Network

앞의 요약을 이어받아 한 마디씩 처리하는 신경망

구조 기본