뉴런Neuron
여러 값을 받아 하나의 값을 내보내는 계산 단위
- 뉴런은 여러 값을 받아 하나의 값을 내보내는 아주 작은 계산 단위예요. 신경망은 이 단위를 수없이 이어 붙여 만들어요.
- 받은 값을 그냥 더하지 않아요. 값마다 정해진 무게를 곱해서 더해요. 이 무게가 가중치예요.
- 곱해서 더한 값에 늘 따라붙는 기본값을 한 번 더 얹어요. 편향값이 그 역할을 해요.
- 그렇게 나온 값을 그대로 내보내지 않고 문턱이 있는 함수에 한 번 통과시켜요. 활성화 함수가 켤지 말지, 얼마나 세게 켤지를 정해요.
- 뉴런 하나가 하는 일은 이게 전부예요. 똑똑함은 뉴런 하나가 아니라 연결의 수와 배치에서 나와요.
목차
1비유로 이해하기
동네 축구 모임 단톡방에 "오늘 저녁에 찰까요?" 하는 안건이 올라왔어요. 열 명이 저마다 한마디씩 남겨요. 비 소식이 있다는 사람, 무조건 가자는 사람, 몸이 무겁다는 사람. 총무 자리에 앉은 사람은 이 말들을 모아 "오늘 합니다" 또는 "다음에 해요" 한 줄을 공지로 올려야 해요.
말을 세는 방식은 정해져 있어요. 매주 빠짐없이 나오는 회원의 "가자"는 무겁게 받고, 반년 만에 나타난 회원의 한마디는 가볍게 받아요. 오늘은 날이 좋으니 웬만하면 하고 싶다는 총무의 기본 마음도 처음부터 조금 얹혀 있어요. 그렇게 모인 무게가 미리 정해 둔 선을 넘으면 공지가 올라가고, 선을 넘지 못하면 조용히 지나가요.
이 총무 자리 하나가 뉴런이에요. 들어온 한마디들이 입력, 회원마다 다른 무게가 가중치, 총무의 기본 마음이 편향값, 공지를 올릴 선을 정하는 규칙이 활성화 함수예요.
2자세히 알아보기
뉴런 안에서는 네 가지 일이 일어나요
첫째, 앞에서 온 값들을 받아요. 값은 이미지의 밝기일 수도 있고, 앞선 뉴런이 내보낸 결과일 수도 있어요. 둘째, 값마다 자기 몫의 가중치를 곱해서 전부 더해요. 셋째, 그 합에 편향값을 한 번 더해요. 넷째, 그 결과를 활성화 함수에 넣어 최종 출력 하나를 만들어요.
이 네 단계는 순서가 고정돼 있어요. 어떤 뉴런이든, 신경망의 어느 자리에 있든 똑같이 이 순서를 밟아요. 뉴런마다 다른 것은 순서가 아니라 곱하는 무게와 얹는 기본값의 크기뿐이에요.
무게는 뉴런마다, 연결마다 달라요
들어오는 연결 하나하나에 무게가 따로 붙어 있어요. 연결이 열 개면 무게도 열 개예요. 무게가 크면 그 값이 결과를 크게 흔들고, 0에 가까우면 그 값은 사실상 무시돼요.
무게에는 빼는 쪽도 있어요. 어떤 값이 커질수록 결과를 반대편으로 밀어야 할 때 무게에 마이너스가 붙어요. 축구 모임으로 치면 "비 온다"는 한마디가 세게 들어올수록 공지가 멀어지는 것과 같아요. 켜는 힘만 있는 게 아니라 끄는 힘도 함께 있어야 판단이 만들어져요.
문턱을 넘지 못하면 조용히 있어요
곱하고 더한 값이 아무리 계산돼도, 마지막 관문을 통과하지 못하면 뉴런은 거의 아무 값도 내보내지 않아요. 이 관문이 신경망을 단순한 덧셈기 이상으로 만들어 줘요. 문턱이 없으면 층을 아무리 쌓아도 결국 한 번의 곱셈과 덧셈으로 납작해져 버려요.
문턱을 넘은 뒤의 행동도 함수마다 달라요. 넘은 만큼 그대로 내보내는 것도 있고, 아무리 세게 들어와도 일정한 크기 이상은 내보내지 않는 것도 있어요. 어느 쪽을 쓰느냐에 따라 학습이 잘되기도 하고 잘 안 되기도 해요.
뉴런은 혼자 일하지 않아요
뉴런 하나의 출력은 곧바로 다음 뉴런들의 입력이 돼요. 같은 값을 여러 뉴런이 동시에 받아 각자 다른 무게로 해석해요. 같은 사진을 보고 어떤 뉴런은 가로선에, 어떤 뉴런은 색 변화에 반응하는 식이에요.
같은 입력을 받는 뉴런들을 나란히 묶은 것이 층이고, 층을 여러 겹 쌓은 것이 신경망이에요. 요즘 쓰는 모델에는 뉴런이 수억, 수천억 개씩 들어 있어요. 각각은 여전히 곱셈과 덧셈만 하지만, 그 결과가 겹겹이 쌓이면서 사람 얼굴을 알아보고 문장을 이어 쓰는 일이 가능해져요.
학습은 뉴런이 아니라 무게를 바꿔요
모델을 학습시킬 때 뉴런의 개수나 계산 순서는 바뀌지 않아요. 바뀌는 것은 각 연결에 붙은 무게와 기본값이에요. 정답과 어긋난 만큼 무게를 조금씩 밀고 당기는 일을 수없이 반복하면서 모델이 만들어져요.
그래서 "학습된 모델"이란 결국 잘 조정된 숫자 뭉치예요. 같은 구조의 신경망이라도 어떤 데이터로 무게를 맞췄느냐에 따라 전혀 다른 일을 하게 돼요.
3조금 더 정확하게
뉴런은 생물학의 신경세포에서 이름만 빌려 온 계산 단위예요. 하는 일은 입력에 가중치를 곱해 모두 더하고, 편향값을 더한 뒤 활성화 함수를 한 번 적용하는 것뿐이에요. 실제 신경세포처럼 화학 신호를 주고받거나 스스로 연결을 새로 만들지는 않아요.
총무 비유가 어긋나는 지점도 있어요. 총무는 말의 뜻을 이해하고 그날 사정에 따라 기준을 스스로 바꾸지만, 뉴런은 뜻을 모른 채 숫자만 다루고 기준도 스스로 바꾸지 못해요. 무게는 학습 과정에서 밖에서 조정돼요.
계산 순서도 그림과는 조금 달라요. 실제 구현에서는 뉴런을 하나씩 차례로 계산하지 않고, 한 층에 있는 뉴런 전체를 행렬 곱 한 번으로 한꺼번에 처리해요. 그래야 그래픽카드가 수천 개의 계산을 동시에 돌릴 수 있어요. 그림 속 동그라미는 사람이 이해하기 쉽게 그린 것이지, 컴퓨터 안에 그런 모양의 부품이 따로 있는 것은 아니에요.
4직접 해보기
5흔한 오해
뉴런이 사람의 뇌세포처럼 생각한다고 여기기 쉽지만, 실제로는 곱셈과 덧셈, 그리고 함수 한 번이 전부예요.
뉴런이 많을수록 무조건 똑똑해진다고 생각하기 쉽지만, 실제로는 배치와 데이터가 맞아야 하고, 무작정 늘리면 계산만 비싸지고 과적합으로 이어지기도 해요.
뉴런 하나가 개념 하나를 맡는다고 생각하기 쉽지만, 실제로는 하나의 개념이 여러 뉴런에 나뉘어 흩어져 있어요.
7한 줄 요약
그러니까뉴런은 여러 값에 저마다 다른 무게를 곱해 더하고 문턱을 넘으면 하나의 값을 내보내는, 신경망에서 가장 작은 계산 단위예요.
잘못된 내용이나 더 좋은 비유가 있나요? 수정 제안 보내기 · 마지막 수정2026-09-02