初心者データサイエンティストの備忘録

調べたことは全部ここに書いて自分の辞書を作る

2024-08-01から1ヶ月間の記事一覧

【深層学習】RNN・LSTM・UGRNN・GRUの関係性:勾配消失問題の解決とパラメータの削減

深層学習 改訂第2版 (機械学習プロフェッショナルシリーズ)作者:岡谷貴之講談社Amazon はじめに 深層学習を読んでいます。本記事では、本書のChapter 6 に記載の系列データに用いる深層学習モデル間の関係性、および各モデルの構造図や順伝播の式を紹介しま…

順序回帰モデルで用いられる予測量の性質

はじめに 過去の記事で、順序回帰の予測量 や がある条件のもとで、下記の(3)式を満たすと書きました(文字の意味は該当の記事をご覧ください)。本記事ではこのことを証明しようと思います。 (1)式が(3)式を満たすための十分条件と証明 (1)式が(3)式を満た…