PHẦN MỀM THIẾT KẾ VÀ CHẤM ĐIỂM TỰ ĐỘNG BIỂU MẪU THI TRẮC NGHIỆM - 10

Phần mềm thiết kế và chấm điểm tự động biểu mẫu thi trắc nghiệmSau khi nén tổng trọng hoá thành giá trị cụ thể, đến lượt mình, mỗi nút ẩn sẽ gửi kết quả đến tất cả các nút xuất. Và mỗi nút xuất thực hiện các thao tác tương tự như đã thực hiện trong nút ẩn để cho giá trị kết xuất của nút xuất. Giá trị của các nút xuất chính là giá trị thực, nghĩa là giá trị của các biến phụ thuộc cần xác định. Như vậy, bản chất của quá trình ánh xạ là...
Nội dung trích xuất từ tài liệu:
PHẦN MỀM THIẾT KẾ VÀ CHẤM ĐIỂM TỰ ĐỘNG BIỂU MẪU THI TRẮC NGHIỆM - 10 Phần mềm thiết kế và chấm điểm tự động biểu mẫu thi trắc nghiệm Sau khi nén tổng trọng hoá thành giá trị cụ thể, đến lượt mình, mỗi nút ẩn sẽgửi kết quả đến tất cả các nút xuất. Và mỗi nút xuất thực hiện các thao tác tương tự như đã thực hiện trong nútẩn để cho giá trị kết xuất của nút xuất. Giá trị của các nút xuất chính là giá trị thực,nghĩa là giá trị của các biến phụ thuộc cần xác định. Như vậy, bản chất của quá trình ánh xạ là xác định các đầu ra từ các đầu vàotuỳ thuộc vào giá trị của các trọng số trong mạng.PL.2.4.2 Quá trình học Trong trạng thái học (còn đựơc gọi là luyện mạng), thông tin được lan truyềntheo 2 chiều nhiều lần để học các trọng số. Cụ thể: Quá trình luyện mạng đựơc bắt đầu bằng mạng với các trọng số tuỳ ý và tiếnhành lặp đi lặp lại 2 việc: ánh xạ và lan truyền ngược sai số. Mỗi lần lặp được gọi làmột thế hệ. Trong mỗi thế hệ, mang hiệu chỉnh các trọng số sao cho sai số giảm dần(sai số là độ lệch giữa các kết xuất thực và các kết xuất đích đã có sẵn trong tậpmẫu). Tiến trình điều chỉnh nhiều lần giúp cho trọng dần dần đạt được tập hợp cácgiá trị tối ưu. Thường mạng cần thực hiện nhiều thế hệ trước khi việc luyện mạnghoàn tất. Để cập nhật trọng trong mỗi thế hệ, mạng phải xử lý tất cả các mẫu trong tậpmẫu. Đối với từng mẫu, mạng thực hiện như sau: Trước tiên, mạng thực hiện quá trình lan truyền tiến, nghĩa là mạng ánh xạcác biến nhập của mẫu hiện hành thành các giá trị xuất bằng cách sử dụng các trọnghiện hành. Ở những thế hệ đầu, các kết xuất thường chưa chính xác vì trọng ban đầudo ta chọn ngẫu nhiên, chưa có gì là đúng. Kế tiếp, sai số được tính dựa trên giá trị của kết xuất và giá trị đích lấy từ tậpmẫu. Trên cơ sở sai số tính đuợc, mạng sẽ cập nhật lại các trọng số theo nguyên tắclan truyền ngược sai số (gọi là giai đoạn lan truyền ngược, chi tiết sẽ được nói rõ ởphần sau). - 113 - Phần mềm thiết kế và chấm điểm tự động biểu mẫu thi trắc nghiệm Như vậy, để học mỗi mẫu, mạng thi hành 2 bước: lan truyền tiến – thực hiệnánh xạ và lan truyền ngược sai số - cập nhật các trọng. Quá trình học được diễn tả qua đoạn mã giả như sau: Lặp { Duyêt qua toàn bộ tập mẫu, với một mẫu: { Lan truyền tiến Tính sai số và lan truyền ngược sai số } Cập nhật lại trọng số của mạng nơron } Ta thấy ở đây chương trình có một vòng lặp vô tận. Do đó trong thực tế taphải thêm vào điều kiện dừng. Giải thích về đoạn mã giả trên như sau: Tại mỗi bước lặp, chương trình duyệt qua tất cả các mẫu. Với mỗi mẫu, tathực hiện giai đoạn lan truyền tiến, nghĩa là xác định giá trị xuất dựa trên các trọngsố hiện có của mạng. Sau đó thực hiện tính sai số để từ đó xác định luợng thay đổitrong mỗi trọng dựa trên mẫu này và tích luỹ toàn bộ thay đổi cần thiết của mạng.Sau khi xử lý qua tất cả các mẫu, ta cập nhật lại trọng số dựa trên các thay đổi đãtích luỹ được. Một lần lặp mới lại được bắt đầu. Trong quá trình học, ta cũng có thể cho cập nhật các trọng khi xử lý từngmẫu thay vì cập nhật trọng số sau khi đã xử lý tất cả các mẫu.PL.2.4.3 Lan truyền ngược sai số Để thực hiện việc học, ta phải tìm các trọng số của mạng sao cho lời giải củamạng khớp nhất với bộ dữ liệu chứa các mẫu sẵn có. Ban đầu, các trọng số nàythường cho lời giải rất sai khác so với kết quả trong bộ dữ liệu mẫu. Nhưng từ sai sốnày, các trọng số sẽ được cập nhật lại, để càng về sau, sai số sẽ càng nhỏ đi. - 114 - Phần mềm thiết kế và chấm điểm tự động biểu mẫu thi trắc nghiệm Quá trình xác định lượng cần thay đổi cho các trọng số từ các sai số là mộtquá trình khá phức tạp (do đó ở đây, chúng tôi chỉ tóm tắt lại sơ khởi qui tắc thựchiện). Qui tắc này sử dụng các thông tin đạo hàm hàm lỗi để cập nhật lại trọng sốsao cho lỗi giảm theo hướng dốc nhất. Đây là một trong những quy tắc nguyên thuỷnhất của lan truyền ngược. Cụ thể, khi hoàn thành một bước lặp qua toàn bộ tậpmẫu, tất cả các trọng số của mạng sẽ được cập nhật lại dựa vào các thông tin đạohàm riêng theo từng trọng số tích luỹ được. Các trọng số sẽ được cập nhật theohướng mà hàm lỗi dốc xuống nhất. Để dễ hiểu hơn, ta hãy tưởng tượng hàm lỗi như một mặt lồi lõm trongkhông gian (gọi tắt là mặt lỗi) dựa trên các trọng số. Tại vị trí thấp nhất trong mặtlỗi, thì giá trị của các trọng số là tốt nhất. Do đó, dựa vào độ dốc tại một điểm trênmặt lỗi, ta sẽ xác định được hướng điều chỉnh các trọng số để lỗi là nhỏ nhất. Độdốc này khi phân tích ra theo từng trọng số thì chính là đạo hàm của hàm lỗi theotrọng số đó. Vậy nên, ta có thể xác định được khoảng thay đổi cần thiết ...