ImponujÄ…cy rozwój standardowych algorytmów przy ciÄ…gÅ‚ej obniżce cen sprzÄ™tu i udostÄ™pnianiu coraz to szybszych komponentów przyczyniÅ‚ siÄ™ do zrewolucjonizowania wielu gaÅ‚Ä™zi przemysÅ‚u. Obecnie uczenie maszynowe pozwala automatyzować procesy, które do niedawna musiaÅ‚y być zarzÄ…dzane przez czÅ‚owieka. Zadania, które jeszcze dekadÄ™ temu stanowiÅ‚y nieprzekraczalnÄ… przeszkodÄ™, dziÅ› sÄ… wykonywane przez zwykÅ‚y komputer osobisty. W efekcie dziÄ™ki technologii oraz dostÄ™pnym wysokopoziomowym otwartym platformom każdy, kto zainteresuje siÄ™ uczeniem maszynowym, może projektować i wdrażać niezwykle potężne modele.

Celem tej książki jest przybliżenie profesjonalistom tajników zÅ‚ożonych algorytmów uczenia maszynowego i zasad ich stosowania w praktyce. Poza praktycznymi informacjami dotyczÄ…cymi dziaÅ‚ania algorytmów i ich wdrożeÅ„ znalazÅ‚y siÄ™ tu również niezbÄ™dne podstawy teoretyczne. Opisano klasyczne modele uczenia nadzorowanego, nienadzorowanego i póÅ‚nadzorowanego. Wskazano, w jakich sytuacjach okazujÄ… siÄ™ one najbardziej przydatne. Zaprezentowano techniki wydobywania danych za pomocÄ… modeli bayesowskich, algorytmu MCMC, a także dziÄ™ki stosowaniu ukrytych modeli Markowa. Omówiono zestaw przydatnych do uczenia maszynowego narzÄ™dzi, takich jak biblioteki: scikit-learn, Keras i TensorFlow.

Najciekawsze zagadnienia:

• najważniejsze koncepcje teoretyczne uczenia maszynowego
• modelowanie probabilistyczne i uczenie hebbowskie
• zaawansowane koncepcje modeli neuronowych
• modele generatywne, takie jak splotowe sieci GAN i sieci Wassersteina
• gÅ‚Ä™bokie sieci przekonaÅ„
• zaawansowane algorytmy: TD(tylda), aktor-krytyk, SARSA i Q-uczenie

Uczenie maszynowe — już dziÅ› zaimplementuj rozwiÄ…zania przyszÅ‚oÅ›ci!

Osoby które kupowały "Algorytmy uczenia maszynowego. Zaawansowane techniki implementacji", wybierały także:

• Python na maturze. Kurs video. Algorytmy i podstawy j 135,14 zÅ‚, (48,65 zÅ‚ -64%)
• Algorytmy kryptograficzne. Przewodnik po algorytmach w blockchain, kryptografii kwantowej, protoko 79,00 zÅ‚, (39,50 zÅ‚ -50%)
• Informatyk samouk. Przewodnik po strukturach danych i algorytmach dla pocz 58,98 zÅ‚, (29,49 zÅ‚ -50%)
• My 89,00 zÅ‚, (44,50 zÅ‚ -50%)
• Nauka algorytm 58,98 zÅ‚, (29,49 zÅ‚ -50%)

Spis treści

Algorytmy uczenia maszynowego. Zaawansowane techniki implementacji -- spis treści

O autorze 11

O recenzencie 12

Przedmowa 13

Rozdział 1. Podstawy modelu uczenia maszynowego 19

• Modele a dane 20
  
  • Åšrodkowanie i wybielanie 21
  • Zbiory uczÄ…ce i walidacyjne 24
• Cechy modelu uczenia maszynowego 29
  
  • Pojemność modelu 29
  • Obciążenie estymatora 32
  • Wariancja estymatora 35
• Funkcje straty i kosztu 39
  
  • PrzykÅ‚adowe funkcje kosztu 43
  • Regularyzacja 45
• Podsumowanie 50

Rozdział 2. Wprowadzenie do uczenia półnadzorowanego 51

• Uczenie półnadzorowane 52
  
  • Uczenie transdukcyjne 53
  • Uczenie indukcyjne 53
  • ZaÅ‚ożenia w uczeniu półnadzorowanym 53
• Generatywne mieszaniny gaussowskie 56
  
  • PrzykÅ‚ad generatywnej mieszaniny gaussowskiej 58
• Algorytm kontrastowy pesymistycznego szacowania wiarygodnoÅ›ci 63
  
  • PrzykÅ‚ad zastosowania algorytmu CPLE 65
• Półnadzorowane maszyny wektorów noÅ›nych (S³VM) 68
  
  • PrzykÅ‚adowy algorytm maszyny S³VM 71
• Transdukcyjne maszyny wektorów noÅ›nych 76
  
  • PrzykÅ‚ad maszyny TSVM 77
• Podsumowanie 82

Rozdział 3. Uczenie półnadzorowane bazujące na grafach 85

• Propagacja etykiet 86
  
  • PrzykÅ‚ad zastosowania algorytmu propagacji etykiet 89
  • Propagacja etykiet w bibliotece Scikit-Learn 91
• Rozprzestrzenianie etykiet 94
  
  • PrzykÅ‚ad zastosowania algorytmu rozprzestrzeniania etykiet 95
• Propagacja etykiet na bazie bÅ‚Ä…dzenia losowego Markowa 97
  
  • PrzykÅ‚ad propagacji etykiet na podstawie bÅ‚Ä…dzenia losowego Markowa 98
• Uczenie rozmaitoÅ›ciowe 101
  
  • Algorytm Isomap 102
  • Osadzanie lokalnie liniowe 106
  • Osadzanie widmowe Laplace'a 109
• Algorytm t-SNE 111
• Podsumowanie 113

Rozdział 4. Sieci bayesowskie i ukryte modele Markowa 115

• PrawdopodobieÅ„stwa warunkowe i twierdzenie Bayesa 116
• Sieci bayesowskie 118
  
  • Próbkowanie w sieci bayesowskiej 119
  • PrzykÅ‚ad próbkowania za pomocÄ… biblioteki PyMC3 129
• Ukryte modele Markowa 133
  
  • Algorytm wnioskowania ekstrapolacyjno-interpolacyjnego 134
  • Algorytm Viterbiego 141
• Podsumowanie 144

Rozdział 5. Algorytm EM i jego zastosowania 145

• Uczenie metodami MLE i MAP 146
• Algorytm EM 148
  
  • PrzykÅ‚ad szacowania parametrów 151
• Mieszanina gaussowska 154
  
  • PrzykÅ‚ad implementacji algorytmu mieszanin gaussowskich w bibliotece Scikit-Learn 157
• Analiza czynnikowa (FA) 159
  
  • PrzykÅ‚ad zastosowania analizy czynnikowej w bibliotece Scikit-Learn 164
• Analiza głównych skÅ‚adowych (PCA) 167
  
  • PrzykÅ‚ad zastosowania analizy PCA w bibliotece Scikit-Learn 173
• Analiza skÅ‚adowych niezależnych (ICA) 175
  
  • PrzykÅ‚adowa implementacja algorytmu FastICA w bibliotece Scikit-Learn 178
• Jeszcze sÅ‚owo o ukrytych modelach Markowa 180
• Podsumowanie 181

Rozdział 6. Uczenie hebbowskie i mapy samoorganizujące 183

• ReguÅ‚a Hebba 184
  
  • Analiza reguÅ‚y kowariancji 188
  • Stabilizacja wektora wag i reguÅ‚a Oji 192
• Sieć Sangera 193
  
  • PrzykÅ‚ad zastosowania sieci Sangera 196
• Sieć Rubnera-Tavana 199
  
  • PrzykÅ‚ad zastosowania sieci Rubnera-Tavana 203
• Mapy samoorganizujÄ…ce 205
  
  • PrzykÅ‚ad zastosowania mapy SOM 208
• Podsumowanie 211

Rozdział 7. Algorytmy klasteryzacji 213

• Algorytm k-najbliższych sÄ…siadów 213
  
  • Drzewa KD 217
  • Drzewa kuliste 218
  • PrzykÅ‚ad zastosowania algorytmu KNN w bibliotece Scikit-Learn 220
• Algorytm centroidów 223
  
  • Algorytm k-means++ 225
  • PrzykÅ‚ad zastosowania algorytmu centroidów w bibliotece Scikit-Learn 227
• Algorytm rozmytych c-Å›rednich 235
  
  • PrzykÅ‚ad zastosowania algorytmu rozmytych c-Å›rednich w bibliotece Scikit-Fuzzy 239
• Klasteryzacja widmowa 242
  
  • PrzykÅ‚ad zastosowania klasteryzacji widmowej w bibliotece Scikit-Learn 246
• Podsumowanie 248

Rozdział 8. Uczenie zespołowe 249

• Podstawy uczenia zespołów 249
• Lasy losowe 251
  
  • PrzykÅ‚ad zastosowania lasu losowego w bibliotece Scikit-Learn 257
• Algorytm AdaBoost 260
  
  • AdaBoost.SAMME 264
  • AdaBoost.SAMME.R 266
  • AdaBoost.R2 268
  • PrzykÅ‚ad zastosowania algorytmu AdaBoost w bibliotece Scikit-Learn 271
• Wzmacnianie gradientowe 275
  
  • PrzykÅ‚ad wzmacniania gradientowego drzew w bibliotece Scikit-Learn 279
• ZespoÅ‚y klasyfikatorów gÅ‚osujÄ…cych 282
  
  • PrzykÅ‚ad zastosowania klasyfikatorów gÅ‚osujÄ…cych 283
• Uczenie zespoÅ‚owe jako technika doboru modeli 285
• Podsumowanie 286

Rozdział 9. Sieci neuronowe w uczeniu maszynowym 287

• Podstawowy sztuczny neuron 288
• Perceptron 289
  
  • PrzykÅ‚ad zastosowania perceptronu w bibliotece Scikit-Learn 292
• Perceptrony wielowarstwowe 295
  
  • Funkcje aktywacji 296
  • Algorytm propagacji wstecznej 299
  • PrzykÅ‚ad zastosowania sieci MLP w bibliotece Keras 307
• Algorytmy optymalizacji 311
  
  • Perturbacja gradientu 312
  • Algorytmy momentum i Nesterova 312
  • RMSProp 313
  • Adam 315
  • AdaGrad 316
  • AdaDelta 317
• Regularyzacja i porzucanie 318
  
  • Porzucanie 320
• Normalizacja wsadowa 326
  
  • PrzykÅ‚ad zastosowania normalizacji wsadowej w bibliotece Keras 328
• Podsumowanie 330

Rozdział 10. Zaawansowane modele neuronowe 333

• GÅ‚Ä™bokie sieci splotowe 334
  
  • Operacje splotu 335
  • Warstwy Å‚Ä…czÄ…ce 344
  • Inne przydatne warstwy 347
  • PrzykÅ‚ady stosowania gÅ‚Ä™bokich sieci splotowych w bibliotece Keras 348
• Sieci rekurencyjne 356
  
  • Algorytm propagacji wstecznej w czasie (BPTT) 357
  • Jednostki LSTM 360
  • Jednostki GRU 365
  • PrzykÅ‚ad zastosowania sieci LSTM w bibliotece Keras 367
• Uczenie transferowe 371
• Podsumowanie 373

Rozdział 11. Autokodery 375

• Autokodery 375
  
  • PrzykÅ‚ad gÅ‚Ä™bokiego autokodera splotowego w bibliotece TensorFlow 377
  • Autokodery odszumiajÄ…ce 381
  • Autokodery rzadkie 384
• Autokodery wariacyjne 386
  
  • PrzykÅ‚ad stosowania autokodera wariacyjnego w bibliotece TensorFlow 389
• Podsumowanie 391

Rozdział 12. Generatywne sieci przeciwstawne 393

• Uczenie przeciwstawne 393
  
  • PrzykÅ‚ad zastosowania sieci DCGAN w bibliotece TensorFlow 397
• Sieć Wassersteina (WGAN) 403
  
  • PrzykÅ‚ad zastosowania sieci WGAN w bibliotece TensorFlow 405
• Podsumowanie 408

Rozdział 13. Głębokie sieci przekonań 409

• Losowe pola Markowa 410
• Ograniczone maszyny Boltzmanna 411
• Sieci DBN 415
  
  • PrzykÅ‚ad stosowania nienadzorowanej sieci DBN w Å›rodowisku Python 417
  • PrzykÅ‚ad stosowania nadzorowanej sieci DBN w Å›rodowisku Python 420
• Podsumowanie 422

Rozdział 14. Wstęp do uczenia przez wzmacnianie 423

• Podstawowe terminy w uczeniu przez wzmacnianie 423
  
  • Åšrodowisko 425
  • Polityka 429
• Iteracja polityki 430
  
  • Iteracja polityki w Å›rodowisku szachownicy 434
• Iteracja wartoÅ›ci 438
  
  • Iteracja wartoÅ›ci w Å›rodowisku szachownicy 439
• Algorytm TD(0) 442
  
  • Algorytm TD(0) w Å›rodowisku szachownicy 445
• Podsumowanie 448

Rozdział 15. Zaawansowane algorytmy szacowania polityki 451

• Algorytm TD(λ) 452
  
  • Algorytm TD(λ) w bardziej skomplikowanym Å›rodowisku szachownicy 456
  • Algorytm aktor-krytyk TD(0) w Å›rodowisku szachownicy 462
• Algorytm SARSA 467
  
  • Algorytm SARSA w Å›rodowisku szachownicy 469
• Q-uczenie 472
  
  • Algorytm Q-uczenia w Å›rodowisku szachownicy 473
  • Algorytm Q-uczenia za pomocÄ… sieci neuronowej 475
• Podsumowanie 482

Skorowidz 485