-
Notifications
You must be signed in to change notification settings - Fork 335
New issue
Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.
By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.
Already on GitHub? Sign in to your account
[id] cs-229-unsupervised-learning #139
base: master
Are you sure you want to change the base?
Changes from 1 commit
54096cd
f96d857
1c1c7ca
7522015
0bdc9d7
1f08af9
e1e4953
b828f96
e8141a6
2d6b7ea
dac448f
1e5a359
68b90cf
1bf5e3f
597295d
344a424
9b4f85d
f1b014d
c819837
f3f225f
658ca3f
b0fa838
2916693
941c931
dbffb1a
12a47ab
c07c746
625b6b6
9b578a9
981c088
ebe5952
1666ef9
80e9009
252530a
303057c
File filter
Filter by extension
Conversations
Jump to
Diff view
Diff view
There are no files selected for viewing
Original file line number | Diff line number | Diff line change |
---|---|---|
|
@@ -60,7 +60,7 @@ | |
|
||
**11. Learning rate ― The learning rate, often noted α or sometimes η, indicates at which pace the weights get updated. This can be fixed or adaptively changed. The current most popular method is called Adam, which is a method that adapts the learning rate.** | ||
|
||
⟶**11. Learning rate - Learning rate (Tingkat pembelajaran), sering dinotasikan sebagai α atau η, merupakan fase pembaruan pembobotan. Tingkat pembelajaran dapat diperbaiki atau diubah secara adaptif. Metode yang paling populer saat ini disebut Adam, yang merupakan metode yang dapat menyesuaikan tingkat pembelajaran. | ||
⟶**11. Learning rate - Learning rate (Tingkat pembelajaran), sering dinotasikan sebagai α atau η, merupakan fase pembaruan pembobotan. Tingkat pembelajaran dapat diperbaiki atau diubah secara adaptif. Metode yang paling populer saat ini disebut Adam, yang merupakan metode yang dapat menyesuaikan tingkat pembelajaran.** | ||
|
||
<br> | ||
|
||
|
@@ -78,61 +78,62 @@ | |
|
||
**14. Updating weights ― In a neural network, weights are updated as follows:** | ||
|
||
⟶ | ||
⟶**14. Memperbaharui bobot w - Dalam neural network, bobot w diperbarui nilainya dengan cara berikut:** | ||
|
||
There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. Memperbaharui nilai weights - Dalam neural network, nilai weights diperbaharui nilainya dengan cara berikut: Menurut saya weights tidak usah diterjemahkan, karena merupakan kosakata teknis pada neural network |
||
<br> | ||
|
||
**15. Step 1: Take a batch of training data.** | ||
|
||
⟶ | ||
⟶**15. Langkah 1: Mengambil jumlah batch dari data latih.** | ||
|
||
There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more.
|
||
<br> | ||
|
||
**16. Step 2: Perform forward propagation to obtain the corresponding loss.** | ||
|
||
⟶ | ||
⟶**16. Langkah 2: Melakukan forward propagation untuk mendapatkan nilai loss yang sesuai. ** | ||
|
||
There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more.
|
||
<br> | ||
|
||
**17. Step 3: Backpropagate the loss to get the gradients.** | ||
|
||
⟶ | ||
⟶ **17. Langkah 3: Melakukan backpropagate terhadap loss untuk mendapatkan gradient.** | ||
|
||
<br> | ||
|
||
**18. Step 4: Use the gradients to update the weights of the network.** | ||
|
||
⟶ | ||
⟶**18. Langkah 4: Menggunakan gradient untuk untuk memperbarui nilai dari network.** | ||
|
||
There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more.
|
||
<br> | ||
|
||
**19. Dropout ― Dropout is a technique meant at preventing overfitting the training data by dropping out units in a neural network. In practice, neurons are either dropped with probability p or kept with probability 1−p** | ||
|
||
⟶ | ||
⟶**19. Dropout - Dropout adalah teknik untuk mencegah overfitting data latih dengan menghilangkan satu atau lebih unit layer dalam neural network. Pada praktiknya, neurons melakukan drop dengan probabilitas p atau tidak melakukannya dengan probabilitas 1-p** | ||
There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more.
|
||
|
||
<br> | ||
|
||
**20. Convolutional Neural Networks** | ||
|
||
⟶ | ||
⟶ **20. Convolutional Neural Networks** | ||
|
||
<br> | ||
|
||
**21. Convolutional layer requirement ― By noting W the input volume size, F the size of the convolutional layer neurons, P the amount of zero padding, then the number of neurons N that fit in a given volume is such that:** | ||
|
||
⟶ | ||
⟶ **21. Kebutuhan layer convolutional - W adalah ukuran volume input, F adalah ukuran dari layer neuron convolutional, P adalah jumlah zero padding, maka jumlah neurons N yang dapat dibentuk dari volume yang diberikan adalah: ** | ||
|
||
There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. maka jumlah neuron N yang sesuai dengan ukuran dimensi masukan adalah: |
||
<br> | ||
|
||
**22. Batch normalization ― It is a step of hyperparameter γ,β that normalizes the batch {xi}. By noting μB,σ2B the mean and variance of that we want to correct to the batch, it is done as follows:** | ||
|
||
⟶ | ||
⟶ **22. Batch normalization - Adalah salah satu step hyperparameter γ,β yang menormalisasikan batch {xi}. Dengan notasi μB,σ2B adalah rata-rata dan variansi nilai yang digunakan untuk perbaikan dalam batch, dapat diselesaikan sebagai berikut:** | ||
|
||
There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. Dengan mendefinisikan μB,σ2B sebagai nilai rata-rata dan variansi dari batch yang ingin kita normalisasi, hal tersebut dapat dilakukan dengan cara: |
||
<br> | ||
|
||
**23. It is usually done after a fully connected/convolutional layer and before a non-linearity layer and aims at allowing higher learning rates and reducing the strong dependence on initialization.** | ||
|
||
⟶ | ||
⟶ **23. Biasanya dilakukan setelah layer sepenuhnya terhubung / konvolusional dan sebelum layer non-linearitas, yang bertujuan untuk peningkatan tingkat pembelajaran yang lebih tinggi dan mengurangi ketergantungan yang kuat pada inisialisasi.** | ||
swicaksono marked this conversation as resolved.
Show resolved
Hide resolved
|
||
|
||
|
||
<br> | ||
|
||
|
There was a problem hiding this comment.
Choose a reason for hiding this comment
The reason will be displayed to describe this comment to others. Learn more.
Learning rate- Learning rate, sering dinotasikan sebagai α atau η, mendefinisikan seberapa cepat nilai weight diperbaharui. Learning rate bisa diset dengan nilai fix atau dirubah secara adaptif. Metode yang paling terkenal saat ini adalah Adam, sebuah method yang merubah learning rate secara adaptif.