読者です 読者をやめる 読者になる 読者になる

Eddingtonの『Space, Time and Gravitation』がProject Gutenbergから無料で読めるのでメモ

Project Gutenbergの以下より。 https://www.gutenberg.org/ebooks/29782ちなみに、Project Gutenbergとは: プロジェクト・グーテンベルク(Project Gutenberg、略称PG)は、著者の死後一定期間が経過し、(アメリカ著作権法下で)著作権の切れた名作などの…

深層学習系の論文の勉強メモを公開している人がいらっしゃったのでメモ

以下より。 github.com私も勉強不足を痛感して日々勉強。

RNNに関するコード、各応用分野(CV, NLPなど)における論文などのリソースを集めたサイト 『Awesome Recurrent Neural Networks』

以下のサイト。 github.com コードは最近の深層学習系パッケージなら入っているからいいとして、論文のまとめはありがたい。このリストの作者は、以下のCV系深層学習の論文関連情報のサイトもメンテしている; github.com

RNN に関するニューラルネットの最新手法をTensorFlowで実装している人がいた

以下のリポジトリ。 github.com既実装は以下: Highway Networks Recurrent Highway Networks Multiplicative Integration Within RNNs Recurrent Dropout Layer Normalization Layer Normalization & Multiplicative Integration LSTM With Multiple Memory…

Recurrent Batch NormalizationをTensorFlowで実装した

要するにLSTMの内部でバッチ正規化を行うということ。論文と実装は以下の通り。 Tim Cooijmans, Nicolas Ballas, César Laurent, Çağlar Gülçehre, Aaron Courville, "Recurrent Batch Normalization, " arXiv preprint, 2016. https://arxiv.org/abs/1603.0…

TensorFlowのRNN系関数群を色々と強化するライブラリ 『Project RNN Enhancement』

Project RNN Enhancement、ということらしい: github.com作者はSeq2Seqへの応用を念頭に置いているらしいが。

FIT2016の企画 「ここから始める情報処理 ~画像、音声、テキスト、検索、学習、一気にまとめてチュートリアル~」 のスライドまとめ

Facebookにて、山崎俊彦氏がまとめていらっしゃったので、こちらにもメモ的に残しておこうということ。 ディープラーニングでおそ松さんの6つ子は見分けられるのか? FIT2016 from Yota Ishida 【FIT2016チュートリアル】ここから始める情報処理 ~音声編~…

WaveNetの各種実装:TensorFlow, Chainer, and Keras

TensorFlow実装 github.com Chainer実装 その1 github.com その2 github.com Keras実装 その1 github.com その2(バックエンドはTheano?)github.com 番外編:WaveNetによる音声生成の高速化実装(学習ではない) Fast Wavenet: An efficient Wavenet g…

『リーマン多様体の等長埋め込み論小史, あるいは外史』

http://www.math.tsukuba.ac.jp/~tasaki/yuzawa/2004/agaoka2004.pdf

KaluzaとKleinの論文の翻訳が見つかった

個人的に興味あるので。 ci.nii.ac.jpci.nii.ac.jp

MGUとかSGUといったLSTMの派生版をTensorFlowで実装したので、まとめておく

それぞれは以下の通り: MGU (Minimal Gated Unit) 論文 Minimal gated unit for recurrent neural networks 実装 An implementation for MGU based on TensorFlow. · GitHub S-LSTM (Simplified LSTM) 論文 Investigating gated recurrent neural networks …

LSTM autoencoder導入による事前学習の効果の検証 by Tensorflow

下記の論文において、動画像系列のためのLSTMを用いた教師なし学習が提案されている: Nitish Srivastava, Elman Mansimov, Ruslan Salakhutdinov, "Unsupervised Learning of Video Representations using LSTMs," Proceedings of The 32nd International C…

『The Absolute Differential Calculus』by Tulio Levi-Civita

archive.org

『Tips on publishing in NIPS, ICML or any top tier conferences for ML』を日本語訳してみた

NIPS, ICMLなどといった機械学習系のトップ国際会議に通すコツ、といったところ。 https://goo.gl/iTi2gIこれを以下に訳してみた(直訳と意訳のチャンポンでひどい誤訳もあるかもだけどスマンな)。 賢明な(sensible)ストーリーの筋を持つと一般的に成功する…

高校物理などのまとめ記事

fnorio.com

LSTMの解説記事など

Understanding LSTM Networks -- colah's blogqiita.comqiita.com

いくつかのSpringer本が読めるっぽい

https://archive.org/search.php?query=subject%3A%22Global+analysis+%28Mathematics%29%22

『Ueber den Zusammenhang der Räume constanten Riemann'schen Krümmungsmaasses mit den projectiven Räumen.』 by Friedrich Schur

www.digizeitschriften.de

無料で読めるSerge Langの書籍

https://archive.org/search.php?query=creator%3A%22Lang%2C+Serge%22

『Leçons sur l'intégration des équations aux dérivées partielles du premier ordre』 by Edouard Goursat and Carlo Bourlet

archive.org

リーマンの標準座標系の導出のPDF

http://members3.jcom.home.ne.jp/nososnd/grel/ncr.pdf

Applications of the Absolute Differential Calculus by A.J. McConnell

Shiing-Shen Chern と Claude Chevalley による Élie Cartanの数学上の業績をまとめた論文

以下のリンクより。

英訳されて無料で読めるÉlie Cartanの本および記事

英語で読めるのはありがたい。 The Theory of Spinors On certain differential expressions and the Pfaff problem On the integration of systems of total differential equations Lessons on integral invariants The structure of infinite groups Spac…

メモ:情報幾何を勉強するときの書籍

自分は情報幾何をこれから勉強するわけでもないのだが、メモということで。 情報理論 (ちくま学芸文庫) 情報理論の基礎―情報と学習の直観的理解のために 情報幾何学の基礎 (数理情報科学シリーズ) 別冊数理科学 情報幾何学の新展開 2014年 08月号 Informatio…

Geometry, relativity, and the fourth dimension by Rudolf v. B. Rucker.

Elements of Tensor Calculus by Lichnerowicz

The Geometry of G-structures by S.S. Chern

The geometry of G-structures

『微分幾何学の最近の動向,とくに日本での状況』 by 長野 正 先生

微分幾何学の最近の動向,とくに日本での状況

数学者Luther P. Eisenhartが出版した論文のリンク集

以下からリンクをたどって読める(Free PMC Articleをクリックする)。 Eisenhart LP[auth] - PubMed - NCBI

Semi-Riemann Geometry and General Relativity by Shlomo Sternberg

archive.org

Elementary Differential Geometry by Barrett O'Neill

archive.org

Notes on Differential Geometry by N. Hicks

archive.org

Manfredo P. do Carmoの微分幾何の本が復刻版としてDoverから出版される予定

以下の通り、『Differential Geometry of Curves and Surfaces』が2016年11月16日にDoverから発売されるのだそうだ。 Doverよくやった。彼の本『Differential Geometry of Curves and Surfaces』の1976年版のErrataを集めたPDFは↓ http://www.math.washingto…

高木関数およびその諸性質を調べたPDF

連続だけど至るところ微分不可能な高木関数。マニアックな内容ではある。 https://arxiv.org/abs/1112.4205

Jordan Curve Theoremの証明(Brouwerの不動点定理に基づく)

Maehara氏による証明(1984) http://www.maths.ed.ac.uk/~aar/jordan/maehara.pdf

Jordan’s Proof of the Jordan Curve Theorem

http://mizar.org/trybulec65/4.pdf

Oswald Veblenの生涯と貢献をまとめた記事

以下のPDF The Vision, Insight, and Influence of Oswald Veblen

Saunders Mac Lane による Oswald Veblen の Biographical Memoir

偉大な数学者だったんだなぁ。 http://www.nasonline.org/publications/biographical-memoirs/memoir-pdfs/veblen-oswald.pdfJordanの曲線定理を最初に厳密に証明したのも彼。 Jordan curve theorem - Wikipedia, the free encyclopediaWhiteheadとの共著『T…

無料で読めるOswald Veblenの書籍

Projective Geometry Volume I Projective Geometry Volume II

無料で読めるLuther P. Eisenhartの書籍

An introduction to differential geometry with use of the tensor calculus A treatise on the differential geometry of curves and surfaces Riemannian Geometry Continuous Groups of Transformations Coordinate Geometry Transformations of Surface…

無料で読める非ユークリッド幾何学の書籍

Elements of Non Euclidean Geometry archive.org Non-Euclidean Geometry archive.org Bonolaなど、非ユークリッド幾何学の歴史を学ぶには良い書籍かもしれない。

arXivの論文(機械学習関連)を検索・閲覧するサイト

以下のツイートより:Arxivの機械学習関連の論文がニュースフィード的にみられるサイト。便利。https://t.co/8hWOn5hvoG https://t.co/8btkbScA3Q— ピクシィ (@icoxfog417) 2016年6月9日

ニューラルネットワークのアーキテクチャと歴史をまとめた記事(英語)

以下の記事。 culurciello.github.io

Bengio先生らの書籍『Deep Learning』をPDF化した猛者がいた

ここにある。 github.comHTMLで公開されているものをPDF化している。その影響で一部数式が崩れている。 しかしこれ、著作権的にはどうなんだろうね?

深層学習を勉強する上で重要っぽい論文リスト(2010年からの通算引用数)

2010年から引用された深層学習系の論文を集めてリストしてくれた人がいた。 github.comリストに入れる基準は,論文の出版年ごとに以下のようになっている。 2016 : +30 citations 2015 : +100 citations 2014 : +200 citations 2013 : +300 citations 2012 :…

無料で落とせるディジタル音声信号処理の書籍

以下の書籍。 www.nowpublishers.com

Dropoutの理解を深める論文

ちょっと前の論文だけど: papers.nips.ccTJO氏の論文解読メモはこちら tjo.hatenablog.com 重要な結論としては dropout ratio = 0.5の時にL2正則化の効果が最大になる、ということが示されたというわけです。なのでDeep Learningを実装したりライブラリベー…

深層学習の研究会 - Deep Learning JP

Deep Learning JPという研究会(東京大学 松尾研がメイン?)のサイトがある。 deeplearning.jpページのタブから色んな情報に飛べるが, 輪読論文リストのページ 輪読発表資料のページ は要チェックだろう。

深層学習の知見を深めるキャンペーン

この本↓に収録されている, Neural Networks: Tricks of the Trade - SpringerBengio先生の執筆されたChapter↓の、 Practical Recommendations for Gradient-Based Training of Deep Architectures - Springer日本語によるまとめスライド Practical recommen…