2016年最も好きな論文

この記事は,今年読んだ一番好きな論文 Advent Calendar 2016への投稿です. 下記の論文について紹介します.絵を描く時間をわすれており,結果としてわかりにくくなってしまった. Rust, N. C., & DiCarlo, J. J. (2010). Selectivity and tolerance (“invariance”) both increase as visual information propagates from cortical area V4 to IT. The Journal of Neuroscience : the Official Journal of the Society for Neuroscience, 30(39), 12978–12995. http://doi.org/10.1523/JNEUROSCI.0179-10.2010

概要

全然今年発表された論文じゃないんですが真面目に読んだのは今年だし面白かったので解説します.近年,視覚皮質を模したモデルを用いたCNNが注目を集めていて深い階層が効果を発揮する根拠の一つとしてたまに挙げられる論文の一つです.ざっくりいうと,

低次から高次の視覚野にかけてみている物体の脳内表現が一般化 (抽象化といってもいい)されてく ということを示した論文です.以前 (というか今も) の神経科学の論文では各領野から神経細胞の特性をひとつひとつ取り出してV1にはこういう細胞が多くてV4にはこんな特性を持つ細胞がある〜といった論旨の論文がまだまだ根強いのですがこの研究ではある領野の細胞集団のデータをつかってパターン認識を行うという手法を用いているのが特徴です.こういったアプローチの研究も近年増えてきています.著者らは神経科学に機械学習手法をもちこんだ結果を次々と発表していて,注目されているグループです.

intro

視覚に関わるニューロンの受容野

視覚研究ガチ勢には怒られそうな雑解説をします. 下記はノーベル賞も受賞したHubel, Wiesel 氏らによるネコ初期視覚野ニューロンの受容野の同定を示した実験の動画です.

動画LINK

上の動画の前半では初期視覚野の単純型細胞とよばれる細胞の視覚刺激への応答を計測しています.この細胞はある向きで中心が暗く,周辺が明るいバーが担当している領域にあったときにスパイクをたくさん発します.このように,視覚野の特に初期のニューロンはそれぞれ視野のある一部分を担当して,その領域の方位・空間周波数をよみだすフィルターになっていて,フーリエ変換のような計算が脳内で行われているとされています.これらの細胞の応答を集めると逆フーリエ変換ができ,つまり初期視覚野は画像の圧縮表現を行っていると言えます.(詳しくは 大澤先生@阪大のサイトなどをご覧下さい) 近年ではこのような細胞の担当する範囲とその応答特性まで含めて “受容野” と呼ぶことが多いです.

高次の視覚野ニューロンの特性とinvariance (不変性)

それでは高次の視覚野のニューロンはどんな情報を表現しているのかというと,より 抽象的特定の形 に対して強く応答するニューロンがあると言われています.さらにそういったニューロンの多くは,同じ顔の視覚刺激ならば向き・大きさ・表示する場所などが変わっても同じような応答をすることが知られていました.このように視覚刺激の大きさや場所などのパラメータをかえて呈示しても細胞の応答が変化しないことを指して invariance と呼びます.つまりこれらの細胞は初期視覚野のように画像特性を表現しているのではなくより抽象的に「目の前に顔(や特定のオブジェクト)があるかどうか」を表現しているのです.上述したV1の単純型細胞は受容野内でも適切な場所に黒いエッジがないと応答しないのにくらべると,かなり抽象化した表現がされていることが推察されます.

この論文のポイント

これまでの研究の問題点

というストーリーが長い間教科書的には説明されていたのですが,実際により高次視覚野になるにつれて size, position などについての invariance を獲得しているかどうかは統一的・定量的に検証されされていませんでした.IT野の細胞といっても特定の顔にしか応答しない細胞もあれば色々な物体に応答する細胞もあり,多くの細胞の選択性はそれほど高くないのです.また複数の領野で同じ刺激をつかって検証するのは実験的にも大変ですし,多くの論文では「この領野にはこんな細胞が多かった」という程度で終わっている場合が殆どでした.

新しい点

この研究では機械学習の手法であるSVM (線形カーネル) を用いて,上記問題の解決に取り組みました.細胞一つ一つの特性の分布からでなく,各領野細胞の特性をまとめて特徴量として脳活動からそのとき見ていた物体の分類をしようという考えで,つまり細胞一つ一つではなく,集団での表現をみようという考えです.もし invariance が高次視覚野で集団表現されているとすれば,呈示場所 や画像サイズを変更した同様の画像セットを同じクラスとして分類できるはずです.

手法と結果

記録

記録実験自体は単純なもので,まずたくさん物体画像を用意し,そのサイズや呈示する場所を変えて何度もサルに見せます.その際にサルの視覚野V4・ITに神経細胞の応答を測るために電極を刺入しておきます.このようにして計測している細胞がどのような視覚刺激を見たときにどれくらいスパイクを発生するかを記録します.この手法で200個くらいの神経細胞の特性 (どの画像,場所・サイズに対してどのくらいスパイクを発生するか)を調べます.

(サルのイラスト以外はいらすとやさんより)

解析方法および結果

このとき細胞集団の活動からどの画像がでていたか当てることができるか?ということで機械学習の手法を用います.この正解率でV4/ITの情報表現を探ります. まず上の実験での各細胞の応答の強さを特徴ベクトルとしてSVMに学習させます.ある画像を表示した際の応答は,n (記録した細胞数) 次元の空間の一点として表されますので,この空間上にどの画像が画面にでていたかの境界線を定義するということです .

この際に,オブジェクト画像のサイズや表示する場所を変えても弁別ができるとしたら,その細胞集団は表示されている画像の特性ではなくその “物体” そのものを表現していると言えないでしょうか? この論文の大きな結果は,中期視覚野V4細胞の活動データで作ったSVMは刺激画像の場所・大きさがかわったデータを含めると大きく正解率が下がるのに対し,高次視覚野であるIT細胞群のSVMは正解率があまり下がらないということを示したことです.特に画像を表示する場所についてV4と比べ強い invariance を示しており,これはこれまでの研究で示されていた個々のIT野細胞の特徴と一致する結果となりました. [模式図: 本文 fig 7c. ]

最後に

細胞一つ一つでみると微妙な差だったり単なる分布の差だったりした invarianceを,機械学習の手法をもちこんで細胞群をまとめて直接比較するというのが非常に面白いと感じました.上で紹介した解析はこの論文のごく一部で,さらに個々の細胞レベルでの解析もあり,またスクランブル画像 (低次特徴量を保持しつつ画像全体の構造をシャッフルした画像)に対する応答を調べたりもしています.神経科学や機械学習に興味のある方は是非一読ください.


MATLABのPCAとK-meansを試してみる (スパイクソ−ティングもどき)

MATLABのPCAとかの使い方をおさらいしておきたかったのでなにか良い例ないかなとおもったらここにスパイクソーティングはPCAがよく使われてると書かれてたので簡単に試してみた.

疑似スパイクデータ生成は真面目にモデルとか実装するの面倒だったので適当にガボール関数つくってノイズを加えた.ためしに3つユニットを混ぜてみたけっか.

スクリーンショット 2015-08-26 20.30.33

異常な簡単さ.実際のスパイクソーティングは多chだったりテンプレートマッチングとかしたりしてもっと難しいので各自論文チェックしましょう.


日記 2014-10-28

バイクのメインスイッチ配線修理。チーン。
シートも交換したい…

ラボのMacを全部Yosemiteに。ついでにemacsを24.4に。何が変わったかよくわからんが起動早くなった気も。brewも普通に使えたし拍子抜け。
今つぎのトークスライドを実験的にkeynoteで作ってみたり。サクサク動いて好印象だがさてどうなるかなー。


ラボ日記 2014-08

本日は研究科のオープンラボ。院試に合格して来年ラボに来るらしいB4の子が見学に。

案内はしなくてイイとのボスの言葉だったが、研究室くるまえの勉強とかヒアリングとか年間スケジュールとかお金の問題だとかををみっちりレクチャーする羽目に。
なんだか学部生みると目がキラキラしてて心が痛い今日この頃。初心を忘れずに頑張りたい。


神経生理学(視覚)の重要レビューまとめ

神経生理学(視覚)の重要レビューまとめ

被引用数の多い著者のレビューなど

  • Tanaka, K. Inferotemporal cortex and object vision. Annu. Rev. Neurosci. 19, 109–139 (1996). ITのオブジェクト選択性やコラムなど.

  • Itti, L. & Koch, C. Computational modelling of visual attention. Nat. Rev. Neurosci. 2, 194–203 (2001). サリエンシーマップなど

  • Gegenfurtner, K. R. Sensory systems: Cortical mechanisms of colour vision. Nat. Rev. Neurosci. 4, 563–572 (2003). 色知覚.

  • Wu, M. C.-K., David, S. V. & Gallant, J. L. Complete functional characterization of sensory neurons by system identification. Annu. Rev. Neurosci. 29, 477–505 (2006). システム同定の手法を用いたニューロンの特性推定.正則化手法などの紹介.図が良い.

  • Parker, A. J. Binocular depth perception and the cerebral cortex. Nat. Rev. Neurosci. 8, 379–391 (2007). 両眼視差を用いた奥行き知覚の研究のまとめ.Correspondence problem などの表がわかりやすい.

  • Nassi, J. J. & Callaway, E. M. Parallel processing strategies of the primate visual system. Nat. Rev. Neurosci. 10, 360–372 (2009). 視覚経路の並列処理の考察,まとめ.

  • Nienborg, H., Cohen, M. R. & Cumming, B. G. Decision-related activity in sensory neurons: correlations among neurons and with behavior. Annu. Rev. Neurosci. 35, 463–483 (2012). Choice probability などの解説.神経活動と知覚,行動をどのようにして評価するか.

日本語文献

映像メディア学会誌の視覚心理講座という連載が比較的わかりやすい導入になっていた.

  • 眼の仕組みと脳への経路 LINK
  • 視覚情報処理の神経機構 LINK
  • 色覚のフロントエンド L, M, S錐体からXYZ表色系まで LINK
  • 色の見えの基礎 LINK
  • 色の恒常性と認識 LINK
  • 脳機能と眼球運動の非侵襲計測 LINK
  • 空間知覚の基礎 LINK
  • 動き知覚と動画の認識 LINK
  • 画像と自己運動感覚, 仮想現実システム LINK
  • 図形の認識と錯視 LINK
  • 注意と視覚探索 LINK
  • 顔パターン認識の特殊性とその成立過程 LINK

カンデル神経科学もおすすめ.


2014-01-10 Articles

Article

  • Lind BL, Brazhe AR, Jessen SB (2013) Rapid stimulus-evoked astrocyte Ca2+ elevations and hemodynamic responses in mouse somatosensory cortex in vivo. PNAS

ラットS1細胞ののヒゲ刺激応答を高速な二光子カルシウムイメージングで解析

Computer Vision 関連.

Movshon得意のcollisionテスト.V1内のV2投射細胞のBI,方位,色選択性など

Reviews & Other


EmacsでMatlabする

emacsでmatlab : uhiahaの日記

この記事にはお世話になりました.
しかし2013年現在リンク切れしてるようですし,新しい日本語記事も見当たらないので手順と自分の設定を晒したいと思います.
(しかし今時EmacsでMatlabコード書いてるヒトがどのくらいいるのか…)

筆者の環境

  • OS: Mac OSX, 10.9
  • Matlab: 2012a, OSX, Student Version 64-bit
  • Emacs: GNU Emacs 24.3

まずはソース入手

SourceForgeに公式SVNがあるようですのでそこから.あんまりメンテされてないみたいですが.

http://matlab-emacs.cvs.sourceforge.net/matlab-emacs/matlab-emacs/

dl_emacs_support.m を matlabで実行するだけでも勝手にダウンロードされます.
普通に使うだけならこのファイルをEmacsのパスに通せばいいだけらしいです.

基本設定

.emacsファイルの修正

ほぼ上記サイトの通りです.
だいたいMacだとこんな基本設定になるかと思います.

auto-complete設定

ちょっとまだ煮詰めてないです.そのうちdictファイル作ろうかと

(add-to-list 'ac-modes 'matlab-mode)

yasnippet

上記サイトではリンク切れでしたので一応作ってみました.githubで公開してます.修正追加いつでも受け付けてます.
rysk-t/matlab-snippets

用例

scrs_matlabMode.png

M-x matlab-shell

でmatlab-shellがバッファに入ります.

M-C-<RET>

でセル毎に実行出来たりします.

追加

現在自分に合わせて細かい改造中です.
rysk-t/matlab-emacs
cell モードの区切りを見やすくする matlab-highlight-cellbreak,
whosを実行する matlab-shell-run-whosなどを追加しました.

scrs_matlabRe


6月のファジアーノ

ファジアーノ岡山我慢の月

2013年6月は我慢の月でした.

松本戦は技ありのFKを決められてそのまま完封されました.6/2~29日の間の5試合で得点は僅か3点.良い攻めをときおりみせながらもなかなか点が決まらない,もう一歩が足りない印象でした.
エース荒田もしばらく得点が止まっています.ワントップとしてはタイプ的になかなか厳しいので,やはりポストをさばける大型CFが必要なのではないでしょうか.稼働率の高いチアゴみたいなのはいないのか…

生観戦はガンバ戦のみでした.レアンドロは流石すぎた.
上位相手には良い試合してるところをみると,やはりカウンタのチームなのかなと思います.
引かれてサイドから放り込んでも点が入る気がしないのがなぁ…