Bỏ qua, tới nội dung chính
Luxara Academy

Bài archive — trả lời một câu hỏi

Sigmoid: khi z = 0 thì p là bao nhiêu?

Vì sao xác suất thư rác ở z = 0 lại là 0,5 chứ không phải 0?

Sigmoid đổi tổng tuyến tính zz thành xác suất p∈(0,1)p \in (0, 1):

p=σ(z)=11+e−zp = \sigma(z) = \frac{1}{1 + e^{-z}}

Tại z=0z = 0: e0=1e^{0} = 1 nên p=11+1=0,5p = \frac{1}{1+1} = 0{,}5. Nơ-ron hoàn toàn lưỡng lự — không nghiêng về rác hay thường. Nhiều người mới nhầm z=0z = 0 nghĩa là “chắc không rác”; thực ra đó là điểm giữa.

Ví dụ số: z=2,0⇒p≈0,88z = 2{,}0 \Rightarrow p \approx 0{,}88; z=−2,0⇒p≈0,12z = -2{,}0 \Rightarrow p \approx 0{,}12. Đường cong bão hòa: ∣z∣|z| lớn thì pp gần 0 hoặc 1 nhưng không bao giờ chạm biên — hữu ích khi cần đạo hàm cho học.

python
import math
def sigmoid(z):
    return 1 / (1 + math.exp(-z))
assert abs(sigmoid(0) - 0.5) < 1e-9
assert sigmoid(8) > 0.999

Khi lọc thư, bạn so pp với ngưỡng (ví dụ 0,50{,}5). Hiểu z=0⇒p=0,5z = 0 \Rightarrow p = 0{,}5 giúp giải thích bài toán mà không nhìn trước đáp án quiz. Nếu đổi ngưỡng thành 0,70{,}7, bạn chỉ gắn nhãn “rác” khi zz đủ lớn để sigmoid vượt 0,7 — đó là quyết định nghiệp vụ, không phải tính chất toán của sigmoid. Bài học về một nơ-ron trong khóa dùng cùng công thức này khi tính xác suất thư rác từ vector đặc trưng.