신경망 구조62개

AI 모델 안쪽이 어떻게 생겼는지에 관한 용어예요. 뉴런, 층, 가중치, 활성화 함수, RNN, LSTM, 파라미터처럼 '모델이 크다'거나 '층이 깊다'는 말의 실제 의미를 알 수 있어요.

난이도
가중치Weight

입력마다 곱해지는, 학습으로 정해지는 중요도

입문
가지치기Pruning

안 쓰는 연결을 잘라내 모델을 가볍게 하기

심화
그래픽 메모리VRAM

그래픽 카드가 계산할 숫자를 펼쳐 두는 자리

입문
기울기Gradient

오차를 줄이려면 어느 쪽으로 얼마나 움직일지 알려 주는 신호

기본
기울기 소실Vanishing Gradient

배우라는 신호가 층을 거치며 희미해져 사라지는 현상

심화
깊이와 너비Depth vs Width

층을 몇 단 쌓을지와 한 단을 얼마나 넓힐지

기본
뉴런Neuron

여러 값을 받아 하나의 값을 내보내는 계산 단위

입문
다층 퍼셉트론Multilayer Perceptron

단순한 판정기를 여러 층 쌓아 만든 기본 신경망

기본
드롭아웃Dropout

학습 때 일부를 무작위로 쉬게 하는 방법

학습 기본
딥러닝Deep Learning

처리 단계를 여러 겹 쌓아 올린 머신러닝 방식

기초 입문
로짓Logits

확률로 바꾸기 전 후보마다 매겨진 날 점수

언어 모델 심화
로컬 실행Local LLM

AI 모델을 내 컴퓨터에서 직접 돌리기

활용 입문
멀티헤드 어텐션Multi-Head Attention

같은 장면을 여러 관점이 동시에 보는 어텐션

언어 모델 심화
모델 구조Model Architecture

층을 어떻게 쌓고 잇는지 적어 둔 모델의 설계도

입문
모델 서빙Model Serving

만들어 둔 모델을 여럿이 쓰게 내놓는 일

활용 기본
모델 크기Model Size

모델이 지니고 있는 숫자의 개수

입문
벡터Vector

여러 항목의 값을 정해진 순서로 적은 숫자 묶음

언어 모델 기본
변이형 오토인코더Variational Autoencoder

점이 아니라 범위로 기억하는 오토인코더

생성형 심화
브라우저 AIBrowser AI

설치 없이 웹 페이지 안에서 도는 AI

활용 입문
블랙박스Black Box

속이 보이지 않는 AI의 판단 과정

윤리 입문
비전 트랜스포머Vision Transformer

사진을 조각으로 잘라 글처럼 다루는 구조

인식 심화
셀프 어텐션Self-Attention

같은 문장 안 말들끼리 서로 참고하는 방식

언어 모델 심화
소프트맥스Softmax

여러 점수를 합이 100%인 확률로 바꾸는 계산

언어 모델 기본
시그모이드Sigmoid

어떤 값이든 0과 1 사이로 눌러 담는 활성화 규칙

기본
시퀀스-투-시퀀스Sequence-to-Sequence

다 듣고 나서 다른 길이로 다시 만들어 내는 구조

심화
신경망Neural Network

여러 계산 자리를 층으로 이어 붙인 구조

기초 입문
양자화Quantization

숫자의 눈금을 성기게 만들어 모델을 가볍게 하기

기본
어텐션Attention

어느 것에 얼마나 비중을 둘지 정하는 방식

언어 모델 기본
에너지·환경 비용Environmental Cost

AI를 만들고 쓰는 데 드는 전기와 자원

윤리 입문
역전파Backpropagation

오차를 뒤에서 앞으로 되짚어 몫을 나누는 절차

학습 기본
연산량Compute

모델을 한 번 돌리는 데 드는 계산의 총량

기본
오토인코더Autoencoder

줄였다가 되살려 보며 요령을 익히는 구조

생성형 기본
오픈 웨이트Open Weights

완성된 숫자 뭉치만 열어 둔 모델

활용 기본
온디바이스 AIOn-Device AI

기기 안 부품이 직접 처리하는 AI

활용 입문
위치 인코딩Positional Encoding

자리마다 순서 표시를 붙여 주는 방법

언어 모델 심화
은닉층Hidden Layer

입력과 출력 사이에서 특징을 만들어 내는 중간 층

기본
인코더·디코더Encoder-Decoder

읽는 쪽과 쓰는 쪽을 따로 둔 두 부분 구조

언어 모델 기본
자기회귀Autoregressive

쓴 글을 다시 읽고 다음 한 조각을 잇는 방식

심화
잔차 연결Residual Connection

층을 건너뛰어 원래 값을 그대로 넘기는 지름길

심화
전문가 혼합Mixture of Experts

필요한 담당 갈래만 골라 켜는 모델 구조

언어 모델 심화
지연 시간Latency

요청을 보낸 뒤 답을 받기까지 걸리는 시간

활용 입문
Layer

같은 입력을 나눠 받는 뉴런들을 묶은 계산 단계

입문
층 정규화Layer Normalization

층마다 숫자 눈금을 다시 맞춰 주는 장치

심화
텐서Tensor

숫자를 여러 축으로 정리해 담은 묶음

기본
트랜스포머Transformer

문장 속 단어들이 서로를 동시에 참고해 뜻을 잡는 AI 구조

언어 모델 기본
특징 맵Feature Map

훑은 결과를 자리 그대로 늘어놓은 그림

인식 심화
파라미터Parameter

학습으로 값이 정해지는 모델 속 조절 손잡이

입문
퍼셉트론Perceptron

여러 입력을 저울질해 넘었는지만 답하는 최초의 신경망

기본
편향값Bias Term

입력과 상관없이 늘 더해지는 기본값

기본
풀링Pooling

구역마다 대표값만 남겨 그림을 줄이는 단계

인식 기본
피드포워드Feed-Forward

신호가 앞으로만 흐르는 신경망 구조

기본
필터Filter / Kernel

무엇을 찾을지가 적혀 있는 작은 값 판

인식 기본
합성곱Convolution

작은 판을 옮겨 가며 사진을 훑는 계산

인식 기본
행렬 곱Matrix Multiplication

표의 가로줄과 세로줄을 짝지어 곱해 더하는 계산

기본
활성화 함수Activation Function

더한 값을 내보낼지 정하는 문턱 달린 함수

기본
CNNConvolutional Neural Network

사진의 무늬를 층층이 찾아내는 신경망 구조

인식 기본
DQNDeep Q-Network

Q값 표를 신경망이 대신 기억하게 만든 방법

학습 심화
GPU

같은 계산을 한꺼번에 많이 처리하는 장치

기초 기본
LSTM

지울 것과 남길 것을 문으로 고르는 순환 신경망

심화
ReLU

음수는 0으로 막고 양수는 그대로 흘리는 활성화 규칙

기본
RNNRecurrent Neural Network

앞의 요약을 이어받아 한 마디씩 처리하는 신경망

기본
U-Net

줄였다 다시 키우며 위치를 되살리는 신경망 구조

심화