Luận văn Thạc sĩ Hệ thống thông tin: nghiên cứu dự đoán tác dụng phụ của thuốc từ y văn sử dụng mạng nơ-ron dựa trên cơ chế tập trung

Trong phạm vi khóa luận sẽ trình bày về mô hình mạng nơ-ron dựa trên cơ chế tập trung (attention-based neural networks) áp dụng vào việc dự đoán tác dụng phụ của thuốc sử dụng dữ liệu từ y văn. Kết quả thử nghiệm của khóa luận chỉ ra rằng mô hình ATT-RNN, ATT-GRU, ATT-LSTM hoạt động tốt hơn mô hình CNN khi không sử dụng các kỹ thuật attention và ATT-GRU đạt được điểm F1 trung bình tốt nhất là 0,6037 trên bộ thử nghiệm trong số các DNN được thử nghiệm.
Nội dung trích xuất từ tài liệu:
Luận văn Thạc sĩ Hệ thống thông tin: nghiên cứu dự đoán tác dụng phụ của thuốc từ y văn sử dụng mạng nơ-ron dựa trên cơ chế tập trung ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ ──────── * ─────── NGUYỄN THỊ QUYỀNNGHIÊN CỨU DỰ ĐOÁN TÁC DỤNG PHỤ CỦA THUỐC TỪ Y VĂN SỬ DỤNG MẠNG NƠ-RON DỰA TRÊN CƠ CHẾ TẬP TRUNG LUẬN VĂN THẠC SĨ HỆ THỐNG THÔNG TIN HÀ NỘI 06 – 2021 ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ ──────── * ─────── NGUYỄN THỊ QUYỀNNGHIÊN CỨU DỰ ĐOÁN TÁC DỤNG PHỤ CỦA THUỐC TỪ Y VĂN SỬ DỤNG MẠNG NƠ-RON DỰA TRÊN CƠ CHẾ TẬP TRUNG Ngành : Công nghệ thông tin Chuyên ngành : Hệ thống thông tin Mã số : 8480104.01 LUẬN VĂN THẠC SĨ HỆ THỐNG THÔNG TIN NGƯỜI HƯỚNG DẪN KHOA HỌC: TS. Đặng Thanh Hải HÀ NỘI 06 – 2021 2 LỜI CAM ĐOAN Tác giả xin cam đoan rằng luận văn thạc sĩ công nghệ thông tin “Dự đoántác dụng phụ của thuốc từ y văn sử dụng mạng nơ ron dựa trên cơ chế tập trung”là công trình nghiên cứu của riêng tác giả, không sao chép lại của người khác.Trong toàn bộ nội dung của luận văn, những điều đã được trình bày hoặc là củachính cá nhân tác giả hoặc là được tổng hợp từ nhiều nguồn tài liệu. Tất cả cácnguồn tài liệu tham khảo đều có xuất xứ rõ ràng và hợp pháp. Tác giả xin hoàn toàn chịu trách nhiệm và chịu mọi hình thức kỷ luật theoquy định cho lời cam đoan này. Hà Nội, ngày 30 tháng 06 năm 2021 Nguyễn Thị Quyền 3 LỜI CẢM ƠN Trước tiên em xin dành lời cảm ơn chân thành và sâu sắc đến thầy giáo, TS.Đặng Thanh Hải – người đã hướng dẫn, khuyến khích, chỉ bảo và tạo cho emnhững điều kiện tốt nhất từ khi bắt đầu cho tới khi hoàn thành công việc của mình. Em xin dành lời cảm ơn chân thành tới các thầy cô giáo khoa Công nghệthông tin, trường Đại học Công nghệ, ĐHQGHN đã tận tình đào tạo, cung cấpcho em những kiến thức vô cùng quý giá và đã tạo điều kiện tốt nhất cho em trongsuốt quá trình học tập, nghiên cứu tại trường. Đồng thời em xin cảm ơn tất cả những người thân yêu trong gia đình cùngtoàn thể bạn bè những người đã luôn giúp đỡ, động viên những khi vấp phải nhữngkhó khăn, bế tắc và giúp đỡ em hoàn thành luận văn này. Hà Nội, ngày 30 tháng 06 năm 2021 Nguyễn Thị Quyền 4 MỤC LỤC LỜI CAM ĐOAN ................................................................................................. 3 LỜI CẢM ƠN....................................................................................................... 4 MỤC LỤC ............................................................................................................ 5 DANH MỤC CÁC KÝ HIỆU VÀ CHỮ VIẾT TẮT .......................................... 7 DANH MỤC HÌNH VẼ ....................................................................................... 8 DANH MỤC BẢNG BIỂU .................................................................................. 9 MỞ ĐẦU ............................................................................................................ 10 CHƯƠNG 1: TỔNG QUAN VỀ TÁC DỤNG PHỤ CỦA THUỐC................. 12 1.1. Khái niệm ................................................................................................ 12 1.2. Hiện trạng ................................................................................................ 12 1.3. Hướng tiếp cận ........................................................................................ 13 CHƯƠNG 2: CƠ SỞ LÝ THUYẾT................................................................... 16 2.1. Mạng nơ-ron nhân tạo ............................................................................. 16 2.1.1. Mạng nơ-ron tích chập (CNN) ......................................................... 17 2.1.2. Mạng nơ-ron hồi quy (RNN) ............................................................ 19 2.1.3. Mạng bộ nhớ dài – ngắn LSTM ....................................................... 21 2.1.4. Mạng GRU ....................................................................................... 22 2.2. Word Embedding .................................................................................... 24 2.3. Position Embedding ....................... ...