Useful inequalities cheat sheet

ここにあります Useful inequalities cheat sheet

『統計的学習理論』の第2章のメモ(一様対数の法則, p.32)

一様対数の法則の不等式は以下に示す通り。すなわち、 以上の確率で次式が成り立つ。 不等式の左辺における の中身の符号を反転したものについても同様の不等式が成り立つので、結局 以上の確率で が成り立つ。 右辺の は誤植ではない。実際、 とおくと、 で…

『統計的学習理論』の誤植

公式の正誤表以外のものを列挙する。 以下の正誤表は私の手元にある第1刷に基づく。 随時追記予定。 p.24 と の共通部分 → と の共通部分 p.28 → p.28 最後の不等式 → 最後の等式 p.68 上から9行目 → p.68 上から13行目 →

『統計的学習理論』の第1章のメモ(AUC, p.12)

p.12に という関係式が現れる。ここで は仮説、TPは真陽性率、AUCは曲線下面積(area under the curve)である。 なぜこの式が成り立つのか? 左辺はROC曲線のプロットに現れるTPの平均値である。 が値域全体を走るにつれて、 は ROC曲線のTPの値を走るわけ…

ホップフィールドネットワークの記憶容量をさらに改善する試み:カーネルロジスティック回帰に基づく学習アルゴリズム

はじめに 以前の記事では、古典的なHopfieldモデルの記憶容量の限界を克服するため、記憶パタンを教師データと見なしてロジスティック回帰によりネットワークの重みを学習する手法を紹介した。その結果、従来のHebb則と比較して、想起性能(特にノイズ耐性)…

M5Stick2 PlusC で集音し、音声波形を表示する

こう書く。 #include <M5Unified.h> // 画面の横幅に合わせてサンプル数を設定 (StickC Plus2は横向きで240px) const int32_t record_length = 240; const uint32_t record_samplerate = 16000; // 16kHzサンプリング int16_t* rec_data; // 音声データを格納するバッファ</m5unified.h>…

【Emacs】カレントディレクトリ(フォルダ)をFinderで開く設定

Finderというかファイルマネージャ(UbuntuだとNautilus)で開く設定。 こうする。 (defun current-dir-open() (interactive) (shell-command "open .")) 押しやすいキーにバインドしておくのもよい。 (global-set-key (kbd "C-1") 'current-dir-open) 参考:…

Emacsのbookmarkの良さ

以下の記事を読んで、bookmarkの使い方を思い出した。 dired バッファに対してもbookmarkはつけられるので、よく使うディレクトリを開くときに便利ということ。 AIコーディング時代にvimへ戻れなかった話。結局Emacsに残った理由 #Vim - Qiita

高容量カーネルHopfieldネットワークの学習メカニズムに関するプレプリントを公開

前回記事で紹介した論文の続編。 アトラクタの安定性が最大化される領域を発見。その起源を考察し、重み行列の「スペクトル集中」にあることを導出。 その領域において、「力」のせめぎ合いによる、自己組織化現象を確認。その場所は不安定ぽく見えるのだけ…

高容量カーネルHopfieldネットワークの性能を定量評価したプレプリントを公開

KLRによる学習を導入することで、記憶容量 になることを確認した( はパターン数, はニューロン数)。 さらに、ネットワークサイズ と最適なカーネル幅 の間に明確なスケーリング則が存在することを発見した。 arxiv.org ※ 2026年4月10日追記:NOLTA誌にア…

日本語5母音の「声道断面積関数」をPythonで可視化してみた

はじめに とあることがきっかけで,日本語5母音の声道断面積関数をプロットしてみたくなったので,やってみたということ. 荒井先生の論文には5母音の声道断面の直径パラメタが載っているので(Table 1),これを参考にする. www.jstage.jst.go.jp 直径パラ…

Mac で GTAGS for Python & Emacs

自分用メモ brew install global cp /opt/homebrew/share/gtags/gtags.conf ~/.globalrc .globalrcに対して、 common:\ :skip= ... の最後に mypy_cache/,ruff_cache/,*.pyc,venv/: など、タグづけにあたりスキップしたいディレクトリや拡張子を追記 python…

ESPRIT 法による複数正弦波のパラメタ推定と Python 実装

はじめに 前回記事から引き続き、本記事も「正弦波のパラメタ推定シリーズ」である。 今回は、高分解能な周波数推定手法のひとつであるESPRIT (Estimation of Signal Parameters via Rotational Invariance Techniques) アルゴリズムについて解説し、Python …

Intel MKL の Numpy / Scipy で高速化したいとき(pip install)

以下のリポジトリより, github.com このコマンドでインストールする. pip install numpy scipy --extra-index-url https://urob.github.io/numpy-mkl 体感で倍速になった気がする(固有値分解,特異値分解).

pandocを使って数式混じりのmarkdownをpdfに変換する方法(Mac)

Mac でのログ。変換対象のmarkdownはlatexによる数式が混じった文章である(github)。 pandoc はbrewでインストールする Eisvogel のページからテンプレートをダウンロード https://github.com/Wandmalfarbe/pandoc-latex-template/releases テンプレートを…

MUSIC 法による複数正弦波のパラメタ推定と Python 実装

はじめに 本記事は最近のマイブームとなっている「正弦波のパラメタ推定シリーズ」のうちの一つである。 今回は、高分解能な周波数推定手法の一つである MUSIC (MUltiple SIgnal Classification) 法 [1-5] について、2つのバリエーションである spectral-MUS…

Emacsで書いたmarkdownをプレビューする設定

Markdown-modeを前提として,まず,これを書いている. (setq markdown-command "pandoc") pandocコマンドはレンダラとして優秀である.見た目をgithubに近づけたいときは,以下のブログ記事を参考にして,cssファイルを適当な場所において (setq markdown-c…

【Emacs】eglotにプロジェクトのルートディレクトリを認識させるには

Emacsのeglotは,当該のディレクトリに .git があれば、自動的にプロジェクトのルートとして認識してくれる。 これがない場合に、下層のディレクトリにあるファイルは全て、ディレクトリ単位で別プロジェクトとして認識し 、サーバーと接続してしまうので困…

basedpyrightの設定

pyproject.tomlには、最低限こんな感じで書いている。 [tool.basedpyright] typeCheckingMode = "recommended" extraPaths = ["/path/to/site-packages/"] reportAny = "none" reportUnusedCallResult = "none" pythonVersion = "3.13" # for override decor…

SCDEに基づく複数減衰正弦波のパラメタ推定とPython実装

はじめに 前回までの記事で、正弦波制約微分方程式(SCDE)に基づくパラメータ推定法について、その拡張を含めて紹介してきた。これまでのモデルは単一の音源を前提としていたが、多くの実用的な場面では、複数の音源が混在した信号を扱う必要がある。ピアノ…

SCDEに基づく単一減衰正弦波のパラメタ推定とPython実装

はじめに これまでの記事では、正弦波制約微分方程式(SCDE)に基づく周波数推定法と、その拡張を紹介した。特に前回記事では、重み付き最小二乗法(WLS)を導入することで、ノイズ耐性が向上することを確認した。 正弦波制約微分方程式(SCDE)に基づくピッ…

正弦波制約微分方程式(SCDE)に基づくピッチ推定法における重み付き最小二乗法(WLS)の導入

はじめに 過去に正弦波制約微分方程式(SCDE)に基づくピッチ推定法の再現実装に関する記事を書いた。 正弦波制約微分方程式(Sinusoidal Constraint Differential Equation; SCDE)によるピッチ推定法をPythonで実装した - 備忘録 本記事はSCDE法を少しだけ…

有限次数調波拘束微分方程式(FOHCDE)に基づく多重ピッチ推定法のPython実装と再現実験

はじめに 本記事は前々回記事、前回記事の続きである。 従来のピッチ推定手法、特にDFTをベースとする手法では、時間分解能と周波数分解能のトレードオフが本質的な課題であった。短時間の信号から近接した複数の周波数を分離・推定することは依然として困難…

Frequency Estimation Method Using Sinusoidal Constraint Differential Equation (SCDE) and Python Implementation

Introduction Conventional frequency estimation methods like FFT (Fast Fourier Transform) and autocorrelation functions are widely used. However, these methods share a common challenge: it is difficult to accurately estimate the frequency w…

有限次数調波拘束微分方程式(Finite-Order Harmonic Constraint Differential Equation; FOHCDE)に基づく基本周波数推定とPython実装

はじめに 本記事は前回記事の続編である。前回は微分方程式の性質を利用して音の周波数を推定する手法「SCDE(Sinusoidal Constraint Differential Equation)」を紹介した。SCDEは、FFTベースの手法では困難であったわずか数ミリ秒という極めて短い信号から…

正弦波制約微分方程式(Sinusoidal Constraint Differential Equation; SCDE)によるピッチ推定法をPythonで実装した

はじめに 従来のピッチ推定手法として、FFT(高速フーリエ変換)や自己相関関数などが広く使われている。しかし、これらの手法には共通の課題があった。それは、「短い時間(例えば数十ミリ秒)の信号から、複数の音が同時に鳴っている場合のピッチを正確に…

ホップフィールドネットワークの記憶容量改善に関する論文(プレプリント)を書いた話:カーネルロジスティック回帰とカーネルリッジ回帰

はじめに 以前の記事にて、ロジスティック回帰とリッジ回帰の学習アルゴリズムによって、Hopfield モデルの記憶容量を改善する試みを紹介した。これらをカーネル法によって拡張することにより、さらなる容量の改善を図ったということ。 論文 現時点で論文は…

ホップフィールドネットワークの記憶容量を改善する試み:リッジ回帰に基づく学習アルゴリズム

はじめに 先日公開した記事では、記憶容量改善の一つのアプローチとして、ロジスティック回帰の枠組みを導入した。そこでは、記憶パタンを {0, 1} の目標値に対応させ、各ニューロンが他のニューロンの状態から自身の状態(0 or 1)を予測する確率をモデル化…

ホップフィールドネットワークの記憶容量を改善する一つの試み:ロジスティック回帰に基づく学習アルゴリズムの実装

はじめに 総ニューロン数に対して約14%を超える記憶パタンを学習させると、Hopfieldモデルはパタンを正確に記憶できなくなり、想起性能が低下する現象が知られている。このニューロン数に対する記憶パタン数の上限は「記憶容量」(あるいは単に容量)と呼ば…

『ホップフィールドモデルとその後の展開』という講演動画

YouTubeにあったので、メモ。 www.youtube.com