昨日9時ごろに寝落ちてしまい朝4時ごろにおきた．今日は家でDL基礎講座の勉強をしていた．系列データの予測タスクでRNNやLSTMの実装をやった．LSTMの長期記憶や短期記憶を担う仕組みや，入力，出力，忘却ゲートが，人間の頭の使い方をうまく実装に落とし込む工夫という感じがして面白かった．attention機構にも少し触れられ熱かった．

twitterでAI+Leanで予想に取り組ませたら朝終わったという通知が来てた，みたいなツイートを見かけた．Leanにちょっと興味が湧いた．そのうちAIがLean使って人間が到底理解できない数学を構築して，人間がやるのはそれを解釈して解読するのと，AIが数学をする環境を整備すること，みたいになっていくのかもしれない．東野さんがいってたAIより人間の方が賢いなんてもはや傲慢だってのは本当に本当だな．