kerasでモデルを結合する autoencoderなどを作っていると、保存や推論を行う上での再利用性を考え、encoderとdecoderは分けてModelを作りたいことがある。 autoencoderの学習の際には、作成したencoderのModelとdecoderのModelを結合する。 Modelの結合は前はできなかった keras deeplearning 2019-09-24
pyenv環境でaws cli入れたらコマンドが見つからない pyenv環境でaws cli入れたらコマンドが見つからないって言われたので調べたメモ バージョン:pyenv:1.0.10 公式通りにインストールする。 $ pip3 install awscli --upgrade --user すると、 $ aws -bash: aws: command no python aws 2019-09-24
Rustでmodule間にまたがるmacro呼び出し Rustのmacroをモジュール化して、別のモジュールから呼ぼうと思ったらうまくいかなかった。 日本語の記事があまりなかったのと、自分の備忘録ようにメモを残しておく。 rustのバージョンは1.27.0 参考 https://github.com/rust-lang/book/issues/401 rust 2019-09-24
SeqGANの論文を読む SeqGAN: Sequence Generative Adversarial Nets with Policy Gradient https://arxiv.org/pdf/1609.05473.pdf SeqGANの論文を読んだのでまとめておきます。実装を行おうと思って読んだので手法をメインに読 nlp SeqGAN 論文 2019-09-24
word2vecでベクトルから単語を出力する word2vecで単語をベクトルにしたり、類似度判定した記事はたくさんあるが、ベクトルから類似単語を出力する日本語記事を見つけられなかったのでメモ。 stack overflowにあった。 https://stackoverflow.com/questions/32759712/how-to-fin python word2vec 2019-09-24
ニューラルネットワークを用いた対話モデルのための多様性を促進する目的関数 Qiitaに投稿した記事、kerasでHREDを構築してみるの記事で、こちらの論文が参考になるとのコメント頂いて、読んで見たので簡単にまとめました。 A Diversity-Promoting Objective Function for Neural Conversation Models htt deeplearning seq2seq nlp 論文 2019-09-24
機械学習系の数式によく出てくる記号などのTex表記まとめ すぐ忘れるのでTex表記をまとめて起きます。 Qiitaが使っているというEasy Copy MathJaxを用います。 読み 表示 tex デルタ $\Delta$ \Delta ナブラ $\nabla$ \nabla 白抜き $\mathbb E[\cdot]$ \mathbb E[\cdot] tex 2019-09-24
自然言語処理シリーズの構文解析を読む(概要) はじめに 自然言語処理シリーズの構文解析を読んでいきます。 全体の概要把握:1時間 中身の細かいとこ:3時間 という感じで読み進めて行こうと思います。 概要 構文解析を用いることで、単語の並びの背後にある文法的な構造を明らかにすることができる。構文解析を学ぶことで、自然言語処理で用いられる様々な先人 nlp 構文解析 2019-09-24
文字をベクトル化する 文章生成にchar-level lstmを使ってみる。英語ではうまくいっている例があるが日本語では難しい。これは、日本語は英語に比べ文字数が多く、ニューラルネットワークの次元数(パラメータ数)が増やす必要があるのが原因の1つだと思う。また、次元削減のため、日本語では文章を単語に区切り単語をベクトル化 nlp deeplearning python 2019-09-24
Google ColaboratoryでGoogle driveをマウントする 久しぶりにColaboratory使ったらGoogle driveのマウントが簡単になってた。 before 認証 !apt-get install -y -qq software-properties-common python-software-properties module-init-to python 2019-09-23