Kỹ thuật phân tích thành phần độc lập sử dụng ước lượng nguyên lý cực đại trong tách các tổ hợp tín hiệu âm thanh

Phân tích thành phần độc lập (Independent Component Analysis - ICA) là một kỹ thuật tính toán phân tách nguồn mù hiệu quả trong nhiều ứng dụng thực tế của các lĩnh vực khoa học và công nghệ khác nhau. Bài báo nghiên cứu cách áp dụng phương pháp ước lượng hợp lý cực đại trong ICA, đề xuất cách đánh giá độ hội tụ của thuật toán thông qua số lần lặp để cải thiện tốc độ của thuật toán.
Nội dung trích xuất từ tài liệu:
Kỹ thuật phân tích thành phần độc lập sử dụng ước lượng nguyên lý cực đại trong tách các tổ hợp tín hiệu âm thanh Kỹ thuật điện tử & Khoa học máy tính Kü thuËt ph©n tÝch thµnh phÇn ®éc lËp sö dông ­íc l­îng nguyªn lý cùc ®¹i trong t¸ch c¸c tæ hîp tÝn hiÖu ©m thanh NGUYỄN THỊ HUYỀN, PHAN TRỌNG HANH Tóm tắt: Phân tích thành phần độc lập (Independent Component Analysis - ICA) là một kỹ thuật tính toán phân tách nguồn mù hiệu quả trong nhiều ứng dụng thực tế của các lĩnh vực khoa học và công nghệ khác nhau. Bài báo nghiên cứu cách áp dụng phương pháp ước lượng hợp lý cực đại trong ICA, đề xuất cách đánh giá độ hội tụ của thuật toán thông qua số lần lặp để cải thiện tốc độ của thuật toán. Từ khóa: ICA, Ước lượng ML. 1. MỞ ĐẦU Kỹ thuật ICA là một phát minh tương đối mới ở cuối thế kỷ 20 được giới thiệu lần đầu tiên vào những năm đầu thập niên 1980 trong khung cảnh mô hình mạng nơ ron. ICA có thể được xem như phần mở rộng của kỹ thuật phân tích thành phần chủ yếu (Principal Component Analysis - PCA) [1]. ICA định nghĩa một mô hình sinh cho dữ liệu đa biến quan sát được, thường được cho như một cơ sở dữ liệu lớn của các mẫu. Trong mô hình, các biến dữ liệu được giả thiết là tổ hợp tuyến tính hoặc phi tuyến của một số biến ẩn chưa biết và hệ thống các tham số tổ hợp cũng chưa được biết trước. Các biến ẩn được giả thiết là không chuẩn, độc lập tương hỗ và được gọi là các thành phần độc lập của dữ liệu quan sát được. Các thành phần độc lập này cũng được gọi là các nguồn hoặc các hệ số, có thể được xác định bởi kỹ thuật ICA. Để thực hiện nhiệm vụ này, ICA giả thiết rằng tín hiệu thu được bao gồm một số thành phần độc lập thống kê với nhau và thực hiện xử lí sao cho tính độc lập của các thành phần này là cực đại. Trước đây, kỹ thuật ICA được xử lý nhờ các thuật toán cực đại hóa tính phi Gaussian hay nguyên lý thông tin cực đại, tuy nhiên, các thuật toán này có độ hội tụ khá chậm [2]. Có một cách tiếp cận cải thiện đáng kể thời gian xử lý của kỹ thuật ICA, đó là sử dụng phương pháp ước lượng hợp lý cực đại [3] trong ước lượng các tham số mô hình ICA. 2. ICA SỬ DỤNG PHƯƠNG PHÁP ƯỚC LƯỢNG HỢP LÝ CỰC ĐẠI 2.1 Mô hình ICA Mô hình ICA được đề cập trong [4]. Trong đó, giả sử ta quan sát n xáo trộn tuyến tính của n thành phần độc x1, x2, …, xn, chẳng hạn như các tín hiệu thu được từ micro trong một hội nghị hoặc tổ hợp tín hiệu từ Sonar, hình ảnh,... Bỏ tham số thời gian ta có: xi  ai1 s1  ai 2 s2  ...  ain sn với mọi giá trị của i =1, …, n (1) Với xi, s1, s2… đều là hàm của tham số thời gian t và aij, i,j = 1, …, n là các hệ số thực. Định nghĩa x là véc tơ ngẫu nhiên chứa các phần tử là các tổ hợp x1 , x2 ,..., x n và s là véc tơ ngẫu nhiên với các phần tử s1 , s2 ,..., sn được gọi là các thành phần độc 106 Nguyễn Thị Huyền, Phan Trọng Hanh “Kỹ thuật phân tích …tín hiệu âm thanh” Nghiên cứu khoa học công nghệ lập. A gồm các phần tử aij được gọi là ma trận trộn. Tất cả các véc tơ đều được viết dưới dạng véc tơ cột. Ta có mô hình trộn: x=As Gọi ai là các véc tơ cột của ma trận A, mô hình cũng có thể được viết lại như sau: n x   a i si (2) i 1 Mô hình trên được gọi là phân tích thành phần độc lập hoặc mô hình ICA. Mô hình ICA là một mô hình sinh (generative model) với ý nghĩa là nó mô tả quá trình dữ liệu được quan sát được tạo ra bởi một quá trình tổ hợp các phần tử si như thế nào. Khởi đầu cho ICA là một giả thiết rất đơn giản rằng các phần tử si là độc lập thống kê và có phân bố phi Gaussian (nongaussian). Giả thiết thứ hai là các ma trận xáo trộn chưa biết là các ma trận vuông. Cái chúng ta quan sát được chỉ là véc tơ ngẫu nhiên x và ta cần phải ước lượng cả A và s sử dụng nó. Trong mô hình ICA, xem mỗi một tổ hợp xi cũng như mỗi một thành phần độc lập sk là một biến ngẫu nhiên thay thế cho một tín hiệu riêng. Không mất tính tổng quát, giả thiết rằng cả tín hiệu được tổ hợp và cả thành phần độc lập đều có trung bình 0. Nếu không, các biến xi quan sát được có thể luôn luôn được định tâm lại bằng cách trừ đi một lượng trung bình mẫu để đảm bảo mô hình có trung bình 0. Tức là các tổ hợp đầu vào của thuật toán x ' là kết quả tiền xử lý bởi: x  x '  E x '  (3) được xử lý trước khi kỹ thuật ICA thực hiện. Do các thành phần độc lập có trung bình 0, nên: E s  A 1E x (4) Như vậy, sau khi ước lượng ma trận tổ hợp và các thành phần độc lập với các dữ liệu trung bình 0 có thể đơn giản được xây dựng lại bằng việc thêm A 1 E x '  vào các thành phần độc lập trung bình 0. Với mô hình có trung bình 0 này sẽ thuận tiện cho việc sử dụng ma trận véc tơ để thay thế cho các tổng trong biểu thức trên. 2.2. Ước lượng hợp lý cực đại Ước lượng hợp lý cực đại (Maximum Likelihood- ML) [5] thực hiện ước lượng đại lượng ˆML của véc tơ tham số θ được chọn sao cho ˆML làm cực đại hóa hàm phân bố xác suất chung: p  x n    p  x 1 , x 1 ,..., x  n  |    p ( x1  )  p ( x2  )  ...  p ( xn  ) (5) của các tham số x(1), x(2), …, x(n) là n quan sát độc lập thống kê và có phân bố xác định. Ước lượng hợp lý cực đại tương ứng với giá trị ˆML làm cho các tham số xác định được là hợp lý nhất. Các phân bố điển hình thường có hàm mật độ xác suất có dạng mũ nên để thuận tiện hơn khi giải quyết vấn đề ước lượng hợp lý cực đại, ta thường xét hàm log hợp lý: lnp(xn| θ). Hiển nhiên là ước lượng hợp lý cực đại ˆML cũng làm cực đại hóa hàm log hợp lý. Như vậy, ước lượng hợp lý cực đại chính là nghiệm của biểu thức:  ln p  x n   0 (6)   ˆML Tạp chí Nghiên cứu KH&CN quâ ...