Tổng quan nghiên cứu về học liên kết và tiềm năng ứng dụng trong thị giác máy tính

Bài viết này trình bày tổng quan tình hình nghiên cứu của FL nói chung trên thế giới và ứng dụng trong CV nói riêng, làm nổi bật tầm quan trọng, các ứng dụng tiềm năng, thách thức và triển vọng trong tương lai của nó trong thị giác máy tính.
Nội dung trích xuất từ tài liệu:
Tổng quan nghiên cứu về học liên kết và tiềm năng ứng dụng trong thị giác máy tính Tuyển tập Hội nghị Khoa học thường niên năm 2023. ISBN: 978-604-82-7522-8 TỔNG QUAN NGHIÊN CỨU VỀ HỌC LIÊN KẾT VÀ TIỀM NĂNG ỨNG DỤNG TRONG THỊ GIÁC MÁY TÍNH Kiều Tuấn Dũng1, Lê Thị Lan2, Trần Thị Thanh Hải2 1 Trường Đại học Thủy lợi, email: dungkt@tlu.edu.vn 2 Viện Nghiên cứu Quốc tế MICA, Trường Điện - Điện tử, Đại học Bách khoa Hà Nội 1. GIỚI THIỆU CHUNG Bài báo này trình bày tổng quan tình hình nghiên cứu của FL nói chung trên thế giới và Cuộc Cách mạng công nghiệp lần thứ tư ứng dụng trong CV nói riêng, làm nổi bật tầm với nền tảng trí tuệ nhân tạo (Artificial quan trọng, các ứng dụng tiềm năng, thách Intelligence - AI), robot, dữ liệu lớn và thức và triển vọng trong tương lai của nó internet kết nối vạn vật (Internet of Thing - trong thị giác máy tính. Với tầm quan trọng IoT) tạo ra tiền đề cho phép thực hiện các thay ngày càng tăng của quyền riêng tư dữ liệu và đổi mạnh mẽ trong nhiều lĩnh vực của đời nhu cầu về các mô hình học tập phi tập trung, sống. Là một nhánh của AI, thị giác máy tính các mô hình nghiên cứu ứng dụng FL trong (Computer Vision - CV), đã trở thành một bài toán CV được thiết lập để xác định lại lĩnh vực nghiên cứu ngày càng quan trọng do cách xử lý và diễn giải dữ liệu trực quan. sự phổ biến của các camera từ các khu vực công cộng đến các hộ gia đình cũng như khối lượng khổng lồ các dữ liệu hình ảnh mà con người lưu trữ và chia sẻ trên các nền tảng xã hội. Các bộ dữ liệu qui mô lớn tạo ra các thách thức với các thuật toán học máy tập trung: khối lượng tính toán khổng lồ và rủi ro quyền riêng tư liên quan đến lưu trữ và xử lý dữ liệu. Để giải quyết những vấn đề này, học Hình 1. Kiến trúc học liên kết cho bài toán liên kết (Federated Learning - FL) đã ra đời và phân tích ảnh CT từ nguồn đa quốc gia [2] trở thành một giải pháp đầy hứa hẹn, cho phép bảo vệ quyền riêng tư bằng cách huấn luyện Hình 1 cho thấy cách các bệnh viện hợp các mô hình cục bộ tại các máy trạm/khách và tác để huấn luyện mô hình học máy nhưng gửi các mô hình này lên máy chủ để tạo ra mô không chia sẻ dữ liệu nhằm đảm bảo quyền hình tổng thể thay vì việc gửi dữ liệu lên máy riêng tư thông tin của bệnh nhân. chủ như trong các mô hình tập trung. Ngoài ra, tải tính toán được phân phối trên nhiều 2. PHƯƠNG PHÁP NGHIÊN CỨU máy trạm, giúp giảm gánh nặng cho các máy Để đảm bảo đánh giá toàn diện, chúng tôi chủ trung tâm. FL đã được chứng minh là có đã tiến hành tìm kiếm các tài liệu liên quan từ hiệu quả trong nhiều tác vụ của thị giác máy các cơ sở dữ liệu đáng tin cậy như IEEE tính, bao gồm phân loại hình ảnh, phát hiện Xplore, Google Scholar và Thư viện số ACM đối tượng và phân đoạn ngữ nghĩa [1]. Sự ra cũng như các hội thảo, hội nghị quốc tế có uy đời của học liên kết và sự kết hợp của nó với tín ở các hội nghị quốc tế có uy tín hàng đầu thị giác máy tính đánh dấu một bước tiến đổi về học máy như ICML, ICLR, NeurIPS; các mới trong lĩnh vực học máy và trí tuệ nhân tạo. hội nghị về thị giác máy tính hàng đầu như 87 Tuyển tập Hội nghị Khoa học thường niên năm 2023. ISBN: 978-604-82-7522-8 CVPR, ICCV, ECCV và các hội nghị hàng tập dữ liệu của chính máy khách đó và tập dữ đầu về trí tuệ nhân tạo và khai thác dữ liệu liệu của các máy khách khác. như AAAI, AISTATS, KDD trong 5 năm trở  Hướng nghiên cứu về bảo mật (security) lại đây (từ 2018 - 2013). Sau quá trình sàng bao gồm 2 nhánh con là tấn công (attack) và lọc, các nghiên cứu được phân loại dựa trên phòng thủ (defense). các lĩnh vực trọng tâm của chúng - các nguyên  Hướng nghiên cứu Dạng khảo sát tắc cơ bản của FL, ứng dụng FL trong CV, các (Survey) với 1 số nhóm định hướng gồm các từ thách thức và xu hướng trong tương lai. khóa: General, Security, Personalization, Aggregation, Incentive, Applications, Fairness, 3. KẾT QUẢ NGHIÊN CỨU Graph, System. Trên thế giới, số lượng công trình nghiên  Hướng nghiên cứu về Cải thiện sự hiệu cứu có công bố về học liên kết tăng mạnh và quả (Efficiency) dựa trên truyền thông đa dạng các chủ đề, lĩnh vực nghiên cứu cho (Communication-Based); dựa trên phần cứng thấy sức hút của nó trong những năm tới. (Hardware-Based); dựa trên thuật toán (Algorithm-Based). 3.1. Kết quả nghiên cứu chung về FL  Hướng nghiên cứu về Tối ưu hóa Học liên kết được Google giới thiệu lần (Optimization): Các phương pháp tối ưu hóa đầu tiên vào năm 2016. Từ 2019 tới nay, trong FL thường sử dụng các thuật toán tối Google đã tổ chức các hội thảo về học liên ưu hóa phân tán như Federated Averaging, kết tập trung. Gần đây, các bài báo về FL Federated SGD hoặc Federated Adam. xuất hiện nhiều trong các hội thảo, hội nghị  Hướng nghiên cứu về Tính công bằng như chỉ ra trong Hình 2, được dự báo là chủ (Fairness): Các phương pháp và công cụ để đề nghiên cứu quan tâm trong những năm tới.  đảm bảo tính công bằng và bình đẳng trong trí tuệ nhân tạo bao gồm việc thu thập và sử dụng các dữ liệu đại diện cho tất cả các nhóm, đánh giá và đo lường sự công bằng và bình đẳng của các thuật toán và hệ thống, và thiết kế các thuật toán và hệ thống để đảm bảo tính công ...