拡散モデルの数理的内容について扱った一冊。式展開は意外なほどに詳しく追っている。研究の先端をずっと追っている著者なので、もっとも参考になったのはDDPMのような、いまの拡散モデルの隆盛がどのような経緯で、どんな問題に対処しようとして登場してきたのかの整理がきわめて参考になる。その後は、拡散ステップを連続化した確率微分方程式としての解釈、条件付き生成、部分空間での次元を削減したモデリング、対称性を考慮し...
日常的でとても身近な話題から、心理学の実験の話まで、様々なトピックでベイズモデリングを試している一冊。題名通り、けっこう楽しい。様々な事象に対して、それを何をパラメータとして、どんな確率分布を使ってモデリングするのか、技の妙が楽しめる。ベイズ理論の解説は一切ないので、ベイズ統計についての一般的な理解は前提としている。スポーツクラブに対するファン度合いを、好きな程度の感情温度として0~100点として尋ね...
「バーチャルビーイング」「AIマップ」という二つの特集と、昨年12月に大阪で行われたIEEE BigData 2022の開催報告。バーチャルビーイングとは、デジタル上の何らかのキャラクター一般を指す広い概念。そこには自律したエージェントや、ゲームのキャラクター(あくまでリアルな人物の代替に過ぎない)アバターなどが含まれる(p.473, 488f)。面白かった記事は、何かの行為をしてくれるエージェントとしてではなく、ただいるだけで安...
小さい本ながらしっかりとした知識に裏付けられた、タイムリーで信頼のおける一冊。大規模言語モデルの現状とリスクを述べつつ、中心的な部分は言語処理や深層学習の研究史からその仕組みを説き起こす。現状、なぜうまく行っているように見えるのかを、自己注意機構を始めとする大規模言語モデルの仕組みから平易に解説している。大規模言語モデルの成功は、大きなインパクトを与えている。著者もこれまでの機械学習とは異なる次元...
物理学における機械学習と、科学書誌学の特集。どちらもサーベイ的な側面はあるが、なかなか専門的な議論が展開される。ハミルトニアンをニューラルネットワークで推定する話や、Physics-Informed Neural Networkの動向はその中でも読みやすく参考になる。科学書誌学の方は、科学論文のレビューにおけるバイアスの存在(そもそも存在するかどうか)とその対処法あたりが興味深い。あまり結論づいていないことが窺える。...
今月号はだいぶ分厚い。特集も「ネットワークとグラフの出会い」「AIセキュリティの研究動向」で、どちらも多面的で重厚な論文揃い。一つ目の特集は、社会科学系からネットワーク分析の話、数理系からグラフ分析の話を合わせている。株式支配関係をShapley-Shubik Power Indexで可視化したり、サプライチェーン上のボトルネックを可視化するNPI Visualizationの記事を面白く読む。その他、企業間の銀行送金ネットワークの分析とい...
特集「災害情報とAI」。マルチエージェントによる災害時シミュレーションやTwitterなどからの情報収集と情報提供の仕組みなど。どこかで読んだことのある話が中心。こういうものはどうやって社会に普及していくのだろう。継続的に保守運用してくのはなかなか難しく、研究費が切れて持続しないといった話はよく聞く。他には昨年の人工知能分野の博士論文の紹介とか。今回は全体のページ数が薄い気がする。...
データサイエンティストのためのスキルチェックリスト・タスクリストが書かれた背景や基本思想、活かし方を書いている。学生、現在のデータサイエンティストやデータエンジニア、チームマネージャーやプロジェクトマネージャー、人事担当など広い視点に配慮して書いている。だいたい把握している内容だが、一度読んでおくには越したことはない。...
特集は「開かれた知能/周辺から考える/身体・環境・ズレ」とある。普通に知能の研究と聞いて浮かぶのとは異なる、様々なアプローチが記されている。セルオートマトン、魚の群れの統合情報量、リザバー計算、会話分析、虚偽自白の心理学、はてはラッパーとのインタビューなど。半分は郡司幸夫氏が最近書いている天然知能とその弟子筋の論考で、いつも通りな調子。ゼニガタアザラシが、視覚や聴覚の情報なしでも、顔の洞毛の動きに...
グラフのクラスタリングと、行列分解・テンソル分解について。どちらもしっかり書かれており、分かりやすい。何をやろうとしている技術なのかよく分かる。グラフのクラスタリングは、グラフラプラシアンを用いたスペクトラルクラスタリングが扱われる。これは次の無限関係モデルIRBへの橋渡し的な役割が大きい。グラフのクラスタリングだと他にもLouvain法が有名だが、そういった手法には触れられていない。無向グラフで隣接行列を...