Kênh rời rạc không phụ thuộc thời gian - Phần 1

Tham khảo tài liệu kênh rời rạc không phụ thuộc thời gian - phần 1, công nghệ thông tin, quản trị mạng phục vụ nhu cầu học tập, nghiên cứu và làm việc hiệu quả
Nội dung trích xuất từ tài liệu:
Kênh rời rạc không phụ thuộc thời gian - Phần 1 7/2/2010Chương 3:Kênh r i r c không phthu c th i gian3.1 Kênh và dung lư ng kênh 2 7/2/2010 Huỳnh Văn KhaKênh truy n thông• Kênh truy n thông là thi t b ho t đ ng trên input đ cung c p output• Thông tin chuy n qua kênh là m t dãy các ký t . N u các ký t này thu c v m t t p h u h n thì ta g i là kênh r i r c• Trong trư ng h p t ng quát, phân ph i xác su t c a output không nh ng ph thu c vào vi c input nào đư c truy n qua kênh, mà còn ph thu c vào tr ng thái c a kênh t i th i đi m input đư c truy n 1 7/2/2010 3 7/2/2010 Huỳnh Văn KhaKênh r i r c không ph thu c th i gian• N u phân ph i output c a kênh không ph thu c vào tr ng thái c a kênh t i th i đi m input đư c truy n, thì kênh đư c là không ph thu c th i gian. Trong chương này kênh có nghĩa là kênh r i r c không ph thu c th i gian• Có th đ c trưng kênh r i r c không ph thu c th i gian b ng ma tr n các xác su t có đi u ki n, g i là ma tr n kênh 4 7/2/2010 Huỳnh Văn KhaMa tr n kênh• Ký hi u các ký t input là: x1, x2, …, xM• Ký hi u các ký t output là: y1, y2, …, yL• Đ t aij = p(yj|xi) thì ma tr n [aij] đư c g i là ma tr n kênh• Input là bi n ng u nhiên nên output cũng v y• Bi t trư c các xác su t c a input là: p(x1), p(x2), …, p(xM), thì s bi t các xác su t c a output và các xác su t đ ng th i c a input và output 2 7/2/2010 5 7/2/2010 Huỳnh Văn KhaDung lư ng kênh• V i m t kênh cho trư c, bi t input X s tính đư c H(X), H(Y), H(X,Y), H(X|Y), H(Y|X)• Ta đ nh nghĩa thông tin x lý b i kênh là lư ng I(X|Y) = H(X) – H(X|Y)• Chú ý:I(X|Y) = I(Y|X) = H(Y) – H(Y|X) = H(X) + H(Y) – H(X,Y)• Thông tin x lý b i kênh ph thu c vào phân ph i xác su t c a input. Dung lư ng kênh đư c đ nh nghĩa là: 6 7/2/2010 Huỳnh Văn KhaM t s kênh ñ c bi t1. M t kênh là lossless n u H(X|Y) = 0 v i m i input2. M t kênh là deterministic n u H(Y|X) = 0 v i m i input3. M t kênh là noiseless n u nó v a là lossless v a là deterministic4. M t kênh là useless n u I(X|Y) = 0 v i m i input 3 7/2/2010 7 7/2/2010 Huỳnh Văn KhaKênh ñ i x ng (symmetric)• Kênh là đ i x ng n u m i dòng c a ma tr n kênh đ u cùng m t t p các con s p’1, p’2, …, p’L và m i c t c a ma tr n kênh cũng đ u cùng m t t p các con s q’1, q’2, …, q’M• Ví d y1 y2 y3 y1 y2 y3 y4 x1 1/2 1/3 1/6x1 1/3 1/3 1/6 1/6 x2 1/6 1/2 1/3x2 1/6 1/6 1/3 1/3 x3 1/3 1/6 1/2 8 7/2/2010 Huỳnh Văn KhaKênh nh phân ñ i x ng 1–β0 0 β 1–β β [p(yj|xi)] = β β 1–β1 1 1–β 4 7/2/2010 9 7/2/2010 Huỳnh Văn KhaTính ch t kênh ñ i x ng• Do t p các p’j m i hàng đ u như nhau nên H(Y|X=xi) không ph thu c i và ta có:• V y H(Y|X) không ph thu c phân ph i xác su t input mà ch ph thu c vào các p(yj|xi) c a kênh ...