Uczenie maszynowe jest coraz powszechniejsze. Niemal każdego dnia stykamy siÄ™ z tego rodzaju oprogramowaniem, a możliwoÅ›ci tworzonych systemów stale rosnÄ…. Zdobycie praktycznych umiejÄ™tnoÅ›ci w zakresie budowy i treningu sieci neuronowych staje siÄ™ dla profesjonalnych programistów koniecznoÅ›ciÄ…. SpoÅ›ród wielu narzÄ™dzi sÅ‚użących do tworzenia systemów uczenia maszynowego warto zwrócić uwagÄ™ na TensorFlow - nowÄ… bibliotekÄ… udostÄ™pnionÄ… przez Google, przeznaczonÄ… do projektowania i wdrażania zaawansowanych architektur uczenia gÅ‚Ä™bokiego. Bez wÄ…tpienia jest to narzÄ™dzie, które pozwala na wykonywanie zadaÅ„ znacznie wykraczajÄ…cych poza standardowy zakres uczenia maszynowego.

Ta książka jest przeznaczona dla praktyków, przede wszystkim programistów, architektów i naukowców, którzy chcÄ… siÄ™ nauczyć projektowania systemów uczÄ…cych. Podstawowe pojÄ™cia dotyczÄ…ce uczenia maszynowego wyjaÅ›niono tu poprzez praktyczne przykÅ‚ady. Przedstawiono możliwoÅ›ci TensorFlow jako systemu do przeprowadzania obliczeÅ„ na tensorach. Omówiono zastosowania tej biblioteki w wielu bardzo różnych dziedzinach: do budowy systemów sÅ‚użących do rozpoznawania obrazów, rozumienia tekstu napisanego rÄ™cznie przez czÅ‚owieka czy przewidywania wÅ‚aÅ›ciwoÅ›ci potencjalnych leków. DziÄ™ki tej książce można bez trudu zrozumieć matematyczne podstawy systemów uczenia maszynowego, a nastÄ™pnie wykorzystać je podczas tworzenia profesjonalnych sieci neuronowych.

W tej książce między innymi:

• podstawy uczenia maszynowego i rozpoczÄ™cie pracy z TensorFlow
• budowa prototypów i modeli z optymalizacjÄ… hiperparametrów
• przetwarzanie obrazów w splotowych sieciach neuronowych
• obsÅ‚uga zbiorów danych jÄ™zyka naturalnego
• trenowanie sieci za pomocÄ… procesorów graficznych i procesorów tensorowych

TensorFlow: trenuj sieć profesjonalnie!

Osoby które kupowały "Głębokie uczenie z TensorFlow. Od regresji liniowej po uczenie przez wzmacnianie", wybierały także:

• Uczenie maszynowe w aplikacjach. Projektowanie, budowa i wdrażanie 57,74 zÅ‚, (17,90 zÅ‚ -69%)
• TensorFlow. 13 praktycznych projektów wykorzystujÄ…cych uczenie maszynowe 57,74 zÅ‚, (17,90 zÅ‚ -69%)
• Web scraping w Data Science. Kurs video. Uczenie maszynowe i architektura splotowych sieci neuronowych 179,00 zÅ‚, (71,60 zÅ‚ -60%)
• Konwolucyjne sieci neuronowe. Kurs video. Tensorflow i Keras w rozpoznawaniu obraz 149,00 zÅ‚, (59,60 zÅ‚ -60%)
• Data Science w Pythonie. Kurs video. Algorytmy uczenia maszynowego 199,00 zÅ‚, (79,60 zÅ‚ -60%)

Spis treści

Głębokie uczenie z TensorFlow. Od regresji liniowej po uczenie przez wzmacnianie -- spis treści

Wstęp 9

1. Wprowadzenie do uczenia głębokiego 11

• Uczenie maszynowe pożera informatykÄ™ 11
• Podstawowe elementy uczenia gÅ‚Ä™bokiego 12
  
  • W peÅ‚ni poÅ‚Ä…czona warstwa 13
  • Warstwa splotowa 13
  • Warstwy rekurencyjnej sieci neuronowej 14
  • Komórki LSTM 15
• Architektury uczenia gÅ‚Ä™bokiego 15
  
  • LeNet 16
  • AlexNet 16
  • ResNet 17
  • Automatyczne generowanie opisów 18
  • Neuronowe tÅ‚umaczenie maszynowe firmy Google 18
  • Modele jednorazowe 19
  • AlfaGo 21
  • Generatywne sieci kontradyktoryjne 22
  • Neuronowe maszyny Turinga 23
• Åšrodowiska uczenia gÅ‚Ä™bokiego 23
  
  • Ograniczenia TensorFlow 24
• Podsumowanie 25

2. Wprowadzenie do podstawowych elementów TensorFlow 27

• Poznajemy tensory 27
  
  • Skalary, wektory i macierze 28
  • Algebra macierzy 31
  • Tensory 33
  • Tensory w fizyce 34
  • Dygresje matematyczne 35
• Proste obliczenia w TensorFlow 36
  
  • Instalacja TensorFlow i rozpoczÄ™cie pracy 36
  • Inicjalizacja staÅ‚ych tensorów 37
  • Próbkowanie losowych tensorów 38
  • Dodawanie i skalowanie tensorów 39
  • Operacje na macierzach 39
  • Typy tensorów 41
  • Manipulacje ksztaÅ‚tem tensora 41
  • Wprowadzenie do rozgÅ‚aszania 42
• Programowanie imperatywne i deklaratywne 43
  
  • Grafy TensorFlow 44
  • Sesje TensorFlow 45
  • Zmienne TensorFlow 45
• Podsumowanie 47

3. Regresja liniowa i logistyczna z TensorFlow 49

• PrzeglÄ…d matematyczny 49
  
  • Funkcje i różniczkowalność 49
  • Funkcje straty 51
  • Metoda gradientu prostego 55
  • Systemy automatycznego różniczkowania 57
• Uczenie z TensorFlow 59
  
  • Tworzenie ćwiczebnych zbiorów danych 59
  • Nowe koncepcje TensorFlow 64
• Uczenie modeli liniowych i logistycznych w TensorFlow 68
  
  • Regresja liniowa w TensorFlow 68
  • Regresja logistyczna w TensorFlow 75
• Podsumowanie 80

4. W pełni połączone sieci głębokie 81

• Czym jest w peÅ‚ni poÅ‚Ä…czona sieć gÅ‚Ä™boka? 81
• "Neurony" w sieciach w peÅ‚ni poÅ‚Ä…czonych 83
  
  • Uczenie w peÅ‚ni poÅ‚Ä…czonych sieci z propagacjÄ… wstecznÄ… 85
  • Twierdzenie o uniwersalnej zbieżnoÅ›ci 86
  • Dlaczego gÅ‚Ä™bokie sieci? 87
• Szkolenie w peÅ‚ni poÅ‚Ä…czonych sieci neuronowych 88
  
  • Reprezentacje możliwe do uczenia 88
  • Aktywacje 89
  • ZapamiÄ™tywanie w sieciach w peÅ‚ni poÅ‚Ä…czonych 89
  • Regularyzacja 90
  • Szkolenie sieci w peÅ‚ni poÅ‚Ä…czonych 93
• Implementacja w TensorFlow 93
  
  • Instalacja DeepChem 93
  • Zbiór danych Tox21 94
  • Przyjmowanie minigrup wÄ™zÅ‚ów zastÄ™pczych 95
  • Implementacja warstwy ukrytej 95
  • Dodawanie porzucania do warstwy ukrytej 96
  • Implementacja minigrup 97
  • Ocena dokÅ‚adnoÅ›ci modelu 97
  • Korzystanie z TensorBoard do Å›ledzenia zbieżnoÅ›ci modeli 98
• Podsumowanie 99

5. Optymalizacja hiperparametrów 101

• Ewaluacja modelu i optymalizacja hiperparametrów 102
• Wskaźniki, wskaźniki, wskaźniki 103
  
  • Wskaźniki klasyfikacji binarnej 103
  • Wskaźniki klasyfikacji wieloklasowej 106
  • Wskaźniki regresji 107
• Algorytmy optymalizacji hiperparametrów 108
  
  • Ustalenie linii bazowej 108
  • Metoda spadku studenta 110
  • Metoda przeszukiwania siatki 111
  • Losowe wyszukiwanie hiperparametrów 112
  • Zadanie dla czytelnika 113
• Podsumowanie 113

6. Splotowe sieci neuronowe 115

• Wprowadzenie do architektur splotowych 116
  
  • Lokalne pola recepcyjne 116
  • JÄ…dra splotowe 118
  • Warstwy Å‚Ä…czÄ…ce 120
  • Tworzenie sieci splotowych 120
  • Rozszerzone warstwy splotowe 121
• Zastosowania sieci splotowych 122
  
  • Wykrywanie i lokalizacja obiektów 122
  • Segmentacja obrazu 123
  • Sploty grafowe 123
  • Generowanie obrazów przy użyciu autokoderów wariacyjnych 124
• Trenowanie sieci splotowej w TensorFlow 129
  
  • Zbiór danych MNIST 129
  • Wczytywanie zbioru MNIST 130
  • Podstawowe elementy sieci splotowych w TensorFlow 132
  • Architektura splotowa 134
  • Ewaluacja trenowanych modeli 137
  • Zadanie dla czytelnika 139
• Podsumowanie 139

7. Rekurencyjne sieci neuronowe 141

• PrzeglÄ…d architektur rekurencyjnych 142
• Komórki rekurencyjne 144
  
  • DÅ‚uga pamięć krótkoterminowa (LSTM) 144
  • Bramkowane jednostki rekurencyjne (GRU) 146
• Zastosowania modeli rekurencyjnych 146
  
  • Generowanie danych przez sieci rekurencyjne 146
  • Modele seq2seq 147
• Neuronowe maszyny Turinga 149
• Praca z rekurencyjnymi sieciami neuronowymi w praktyce 150
• Przetwarzanie korpusu jÄ™zykowego Penn Treebank 151
  
  • Kod przetwarzania wstÄ™pnego 152
  • Wczytywanie danych do TensorFlow 154
  • Podstawowa architektura rekurencyjna 155
  • Zadanie dla czytelnika 157
• Podsumowanie 157

8. Uczenie przez wzmacnianie 159

• Procesy decyzyjne Markowa 163
• Algorytmy uczenia przez wzmacnianie 164
  
  • Q-uczenie 165
  • Uczenie siÄ™ polityki 166
  • Szkolenie asynchroniczne 168
• Ograniczenia uczenia przez wzmacnianie 168
• Gra w kóÅ‚ko i krzyżyk 170
  
  • Obiektowość 170
  • Abstrakcyjne Å›rodowisko 171
  • Åšrodowisko gry w kóÅ‚ko i krzyżyk 171
  • Abstrakcja warstwowa 174
  • Definiowanie grafu warstw 176
• Algorytm A3C 180
  
  • Funkcja straty A3C 183
  • Definiowanie wÄ…tków roboczych 185
  • Trenowanie polityki 187
  • Zadanie dla czytelnika 188
• Podsumowanie 189

9. Szkolenie dużych głębokich sieci 191

• Specjalistyczny sprzÄ™t dla gÅ‚Ä™bokich sieci 191
• Szkolenie z użyciem CPU 192
  
  • Szkolenie z użyciem GPU 193
  • Procesory tensorowe 194
  • BezpoÅ›rednio programowalne macierze bramek 195
  • UkÅ‚ady neuromorficzne 196
• Rozproszone szkolenie gÅ‚Ä™bokich sieci 197
  
  • RównolegÅ‚ość danych 197
  • RównolegÅ‚ość modeli 198
• Szkolenie na równolegÅ‚ych danych z użyciem wielu ukÅ‚adów GPU na zbiorze CIFAR10 199
  
  • Pobieranie i wczytywanie danych 201
  • GÅ‚Ä™bokie zanurzenie w architekturÄ™ 202
  • Szkolenie na wielu ukÅ‚adach GPU 204
  • Zadanie dla czytelnika 206
• Podsumowanie 207

10. Przyszłość głębokiego uczenia 209

• GÅ‚Ä™bokie uczenie poza branżą technicznÄ… 209
  
  • GÅ‚Ä™bokie uczenie w przemyÅ›le farmaceutycznym 210
  • GÅ‚Ä™bokie uczenie w prawie 211
  • GÅ‚Ä™bokie uczenie w robotyce 211
  • GÅ‚Ä™bokie uczenie w rolnictwie 212
• Etyczne wykorzystanie gÅ‚Ä™bokiego uczenia 212
• Czy uniwersalna sztuczna inteligencja jest nieuchronna? 214
• Co dalej? 214

Skorowidz 216