「活性化関数」カテゴリーアーカイブ

【1】やりたいこと 機械学習では、活性化関数、損失関数、確率分布、学習率減衰、正則化、etc. いろいろな場面で e を使う。 機械学習ライブラリを使わずに、機械学習プログラムを自力実装するためには絶対に必要な知識なので… 続きを読む »

【1】やりたいこと PyTorchや TensorFlowなどの機械学習ライブラリを使わない場合、ライブラリが提供してくれている機能を自力実装する必要がある。 前回、前々回の投稿では、活性化関数 tanh(x) と si… 続きを読む »

【1】やりたいこと PyTorchや TensorFlowなどの機械学習ライブラリを使わない場合、ライブラリが提供してくれている機能を自力実装する必要がある。 前回の投稿では、活性化関数 tanh(x) の微分を見た。 … 続きを読む »

【1】やりたいこと PyTorchや TensorFlowなどの機械学習ライブラリを使わない場合、ライブラリが提供してくれている機能を自力実装する必要がある。 順伝播と逆伝播を比較すると・・・ 順伝播は、相対的に処理が単… 続きを読む »