Luận văn thạc sĩ: Kỹ thuật mạng Nơron và giải thuật di truyền trong khai phá dữ liệu và thử nghiệm ứng dụng

Luận văn tập trung nghiên cứu kỹ thuật mạng Nơron và giải thuật di truyền trong khai phá dữ liệu ,đặc biệt là giải pháp tích hợp giải thuật di truyền với giải thuật huấn luyện mạng noron.Trên cơ sở đó,luận văn xây dựng chương trình dự báo dữ liệu sử dụng mạng no7ron truyền thẳng huấn luyện bằng giải thuật lai GA-BP
Nội dung trích xuất từ tài liệu:
Luận văn thạc sĩ: Kỹ thuật mạng Nơron và giải thuật di truyền trong khai phá dữ liệu và thử nghiệm ứng dụng bé gi¸o dôc vµ ®µo t¹o tr−êng ®¹i häc b¸ch khoa hµ néi D−¬ng thÞ hiÒn thanhKü thuËt m¹ng n¬ron vµ gi¶i thuËt di truyÒn trong khai ph¸ d÷ liÖu vµ thö nghiÖm øng dông LuËn v¨n th¹c sü c«ng nghÖ th«ng tin Hµ néi – 2008 Kü thuËt m¹ng n¬ron vµ gi¶i thuËt di truyÒn 1 trong khai ph¸ d÷ liÖu vµ thö nghiÖm øng dông Môc lôcMôc lôc....................................................................................................................... 1Danh môc c¸c tõ viÕt t¾t ............................................................................................. 3Danh môc c¸c b¶ng .................................................................................................... 4Danh môc c¸c h×nh vÏ vµ ®å thÞ ................................................................................. 5Lêi nãi ®Çu ................................................................................................................. 6Ch−¬ng 1. khai ph¸ d÷ liÖu vµ ph¸t hiÖn tri thøc trong csdl ..................81.1. tæng quan vÒ khai ph¸ d÷ liÖu vµ ph¸t hiÖn tri thøc trong CSDL .......8 1.1.1. T¹i sao cÇn ph¸t hiÖn tri thøc? ......................................................................8 1.1.2. Khai ph¸ d÷ liÖu vµ ph¸t hiÖn tri thøc trong c¬ së d÷ liÖu ............................91.2. Qu¸ tr×nh ph¸T HIÖN TRI THøC trong C¥ Së D÷ LIÖU.....................................10 1.2.2. Thu thËp vµ tiÒn xö lý d÷ liÖu .....................................................................10 1.2.3. Khai ph¸ d÷ liÖu ..........................................................................................12 1.2.4. Minh ho¹ vµ ®¸nh gi¸..................................................................................12 1.2.5. §−a kÕt qu¶ vµo thùc tÕ...............................................................................131.3. c¸c kü thuËt Khai ph¸ d÷ liÖu ..........................................................................13 1.3.1. KiÕn tróc cña hÖ thèng khai ph¸ d÷ liÖu .....................................................13 1.3.3. NhiÖm vô chÝnh cña khai ph¸ d÷ liÖu..........................................................17 1.3.4. Mét sè ph−¬ng ph¸p khai ph¸ d÷ liÖu phæ biÕn ..........................................19 1.3.5. Nh÷ng −u thÕ vµ khã kh¨n th¸ch thøc trong nghiªn cøu vµ øng dông kü thuËt khai ph¸ d÷ liÖu .......................................................................................24 KÕt luËn ch−¬ng 1 ....................................................................................................27Ch−¬ng 2. kü thuËt khai ph¸ d÷ liÖu sö dông m¹ng n¬ron vµ gi¶i thuËt di truyÒn ......................................................................................................212.1. M¹ng n¬ron trong khai ph¸ d÷ liÖu ..............................................................28 2.1.1. Kh¸i niÖm m¹ng n¬ron ...............................................................................28 2.1.2. N¬ron sinh häc vµ m¹ng n¬ron sinh häc ....................................................29 2.1.3. M« h×nh vµ qu¸ tr×nh xö lý trong n¬ron nh©n t¹o .......................................30 2.1.4. CÊu tróc vµ ph©n lo¹i m¹ng n¬ron ..............................................................33 2.1.5. Häc vµ lan truyÒn trong m¹ng.....................................................................36 2.1.6. §¸nh gi¸ vÒ m¹ng n¬ron .............................................................................40D−¬ng ThÞ HiÒn Thanh – CNTT 2006 Kü thuËt m¹ng n¬ron vµ gi¶i thuËt di truyÒn 2 trong khai ph¸ d÷ liÖu vµ thö nghiÖm øng dông2.2. Gi¶i thuËt di truyÒn trong khaI PH¸ D÷ LIÖU ..............................................42 2.2.1. C¬ b¶n vÒ gi¶i thuËt di truyÒn .....................................................................42 2.2.2. Mét sè c¸ch biÓu diÔn lêi gi¶i cña gi¶i thuËt di truyÒn...............................45 2.2.3. C¸c to¸n tö di truyÒn ...................................................................................46 2.2.4. C¬ së to¸n häc cña gi¶i thuËt di truyÒn.......................................................52 2.2.5. Nh÷ng c¶i tiÕn cña gi¶i thuËt di truyÒn .......................................................54 KÕt luËn ch−¬ng 2 ....................................................................................................56Ch−¬ng 3. tÝch hîp gi¶i thuËt di truyÒn víi gi¶i thuËt huÊn luyÖn m¹ng n¬ron truyÒn th¼ng nhiÒu líp ..........................................................503.1. §Æt vÊn ®Ò ................................................................................................................573.2. m¹ng n¬ron truyÒn th¼ng nhiÒu líp víi gi¶i thuËt lan truyÒn ng−îc sai sè vµ mét sè c¶i tiÕn ..........................................................................57 3.2.1. KiÕn tróc cña m¹ng n¬ron truyÒn th¼ng nhiÒu líp......................................57 3.2.2. C¬ chÕ häc cña m¹ng n¬ ron truyÒn th¼ng nhiÒu líp..................................59 3.2.3. ThuËt to¸n lan truyÒn ng−îc sai sè .............................................................60 3.2.2. Mét sè c¶i tiÕn cña gi¶i thuËt BP ................................................................713.3. KÕt hîp gi¶i thuËt di truyÒn víi gi¶i thuËt BP ................ ...