Bỏ qua, tới nội dung chính
Luxara Academy

Bài archive — trả lời một câu hỏi

Trọng số và bias trong một nơ-ron

Công thức z = w·x + b nghĩa là gì khi lọc thư rác?

Một nơ-ron tính tổng có trọng số rồi cộng bias (độ lệch). Với vector đặc trưng x=(2,0,1)\mathbf{x} = (2, 0, 1), trọng số w=(0,8, −0,5, 2,0)\mathbf{w} = (0{,}8,\,-0{,}5,\,2{,}0) và b=−1,5b = -1{,}5:

z=0,8×2+(−0,5)×0+2,0×1−1,5=1,6+0+2,0−1,5=2,1z = 0{,}8 \times 2 + (-0{,}5) \times 0 + 2{,}0 \times 1 - 1{,}5 = 1{,}6 + 0 + 2{,}0 - 1{,}5 = 2{,}1

Dấu của trọng số cho biết chiều kéo: w2=−0,5w_2 = -0{,}5 cho số link — nhiều link hơn thì zz giảm (hướng về thư thường trong ví dụ khóa). w3=2,0w_3 = 2{,}0 cho người gửi lạ là dấu hiệu mạnh nhất.

Đổi bb từ −1,5-1{,}5 sang +1,0+1{,}0 mà giữ w\mathbf{w} thì zz tăng 2,52{,}5 đơn vị: bias dịch ngưỡng cho mọi thư, không phụ thuộc nội dung. Người mới hay nhầm bias với một trọng số thứ tư — thực ra bb luôn được cộng, kể cả khi x=0\mathbf{x} = \mathbf{0}.

Trong code huấn luyện, w\mathbf{w} và bb là tham số được gradient descent cập nhật. Hiểu rõ từng thành phần giúp bạn đọc mô hình spam không phải “hộp đen”.