Відео

追加調査の結果 xgboostのパラメータの「base_score」が xgb1.6.1の場合 0.5 xgb2.1.1の場合 Noneで それぞれのバージョンで指定なしでモデルを生成すると、上記のleafの差が出るようでした。 base_scoreの意味は正直まだちゃんと理解できてませんが、取り急ぎ目の前の課題は解決できそうです。 勝手に質問して勝手に解決してすいません。

動画を見ていただいてありがとうございます。 Rのドキュメントを確認したところ dtw( x, y = NULL, dist.method = "Euclidean", step.pattern = symmetric2, window.type = "none", keep.internals = FALSE, distance.only = FALSE, open.end = FALSE, open.begin = FALSE, ... ) cran.r-project.org/web/packages/dtw/dtw.pdf というパラメタになっていると思います。 このうち、 dist.methodとwindow.sizeの値によっては異なる値になる可能性があります。 他のパラメタも数値に影響ある可能性ありますが自分は詳しくありません、申し訳ありません。 --- 動画では単純な絶対値(式で表すとlambda a, b:np.abs(a-b))をふたつの点の差の指標として使用していました。これをpythonで実行してみると確かに2.0になることが確認できると思います。 コード↓ from fastdtw import fastdtw import matplotlib.pyplot as plt import numpy as np a = [0, -0.5, -0.5, 0, 1, 1, -1, -1.2] b = [1, 0, -1, -0.3, 0.1, 1, -1] distance, path = fastdtw(a, b, dist=lambda a, b:np.abs(a-b)) print(distance) --> 2.0

@@K_DM 急な質問に対応していただきありがとうございます．参考にさせていただきたいと思います． これからも頑張ってください．

返信遅くなり申し訳ありません www.fsa.go.jp/search/20231211.html のタクソノミ要素リスト.xlsxで確認できると思います。

動画見ていただいてありがとうございます！ ↓がコードになっています（APIキーを環境変数に設定していただく必要があり、Colab上では動かないので注意してください）。 colab.research.google.com/github/nanjakorewa/kdm-notebooks/blob/main/finance/misc/edinet2.ipynb

動画見ていただきありがとうございます！ カーネルリッジ回帰は素晴らしいアプローチだと思います。 既に指数関数のような関係が見られるならば、指数を適用した特徴（x1^2など）を明示的に追加するのが確実だと思います。 が、それは既に試されていると思ったので明示的に特徴を追加する以外で精度が上がる方法が無いか簡単に試してみました。 ▽書いてみたコード github.com/nanjakorewa/linear-regression/blob/main/example.ipynb y = x1**2 + 2 * x2 - 1.5 * x3 + 1.4* x4 - 0.3 * x5 のｙを予測させています。 カーネルリッジ回帰・線形回帰共にｘが大きくなるほど誤差の幅が広がるというパターンが見られたので、スタッキングをして『カーネルリッジ回帰・線形回帰の予測がＡだったら最終的な予測をＢにする』というモデルを作ってみました。誤差の乗り方にパターンがある場合、スタッキングはかなり有効に働くことが多いです。 ただ、スタッキングを複雑にするとモデルの解釈も当然複雑になるため、モデルの解釈もするならばやはり明示的に指数を適用した特徴を追加した方がいいと思います。 回答になっていたら幸いです。

@@K_DM ご丁寧にコードまで書いて頂きありがとうございます。 今現在は、指数関数的な曲線を領域毎で複数の直線にし、それをつなぎ合わせるという手法（？）で検証してます。 モデル対象の物理法則や取得してい る限定的な学習データ。その他、要求される予測精度等を考慮し、自分なりに良さそうと思ったので検証しています。 ただ、この手の検証はトライアンドエラーで、検証結果が十分でない場合、他の手法を探索する必要があります。 今現在の手法で詰んでしまった場合、アドバイス頂いたコードをベースに検証させて頂くかもしれません。 多項式の重回帰はやってみましたが、事前に関数を指定したモデリングはまだ未実施でした。 私は、Python経験2年程度のエンジニアです。まだまだ未熟な点が多いです。up主さんの動画コンテンツは私の実務に役立ってます。XGboostの解説動画など。私はコメントで御礼を伝えることしかできませんが、非常に感謝しております。

コメント・ご視聴ありがとうございます。 k-dm.work/ja/finance/visualize/zigzag/ こちらの方でzigzagのプロットを作成してみました。 以下のライブラリをインストールして使用しています。 github.com/jbn/ZigZag

わざわざツイッターから見ていただいてありがとうございます！ 本当に励みになります！

ご視聴・コメントありがとうございます。 精度が向上するかは変化点をもとに何を予測するかによります。 また、変化点をもとに何かを予測するよりも、変化点の前後で何が起こったのかを分析することの方が実務上は多いと思います。

コメントありがとうございます 勾配降下法では『誤差の勾配を用いて誤差関数が最も小さくなるように係数を探索』しています。 一方、勾配ブースティングでは『誤差の勾配を用いて誤差が最も小さくなるように木の分岐を追加』します。勾配は分岐を追加する際にどれくらい数値を修正すれば誤差が小さくできるかを求める際に使用します。 勾配の大きさは損失関数によって異なりますが、通常は二乗誤差が使用されます。もちろん他の損失関数も使用でき、xgboostの場合はobjectiveパラメタを通じて他の損失関数も指定できます。 xgboost.readthedocs.io/en/stable/parameter.html#learning-task-parameters

@@K_DM 返信ありがとうございます。 勾配ブースティングにおける「勾配」とは、勾配降下法のことではなく、誤差の「勾配」のことを指していたのですね。 大変参考になりました。 立て続けに質問申し訳ないのですが、誤差の勾配とは、損失関数の微分のことですか？

> 定常性であれば時間変化によって統計的性質が変化しない この動画での『変化点』の定義が少し曖昧だったのですが、この動画で使用しているライブラリの実装としては一定期間の平均値や分散などを見て変化しているか見ている感じなので 定常なデータ（平均・分散・自己相関が時間によらず一定）に対しては使うことは難しいと思います。 返信遅くなり申し訳ありません。

御返信ありがとうございます。時系列データを分析する際は、adf検定で定常性を仮定できるか調べるのですが、定常性ありと判断できる系列にも、変化点検知を実装すると変化点が得られたので疑問に感じた次第でした！自分は尤度比検定で変化点を調べたのですが、検定なもんでただの確率論なのでどっちが正しいのか悩んでまし(-_-;)

コメントありがとうございます。 一般に、データから何かを学習(train)し、新たなデータに対して学習結果を使って判断をする問題はすべて機械学習と呼ばれていると思います。 rupturesの場合、手元のデータを使ってハイパーパラメータを調整し、これから来るデータに対して変化点を判断することができます。また、変化点の正解データを使わずに変化点を決定することができます。そのため教師なし学習に該当すると思います。

@@K_DM 質問に回答いただきありがとうございます。勉強になります。 rupturesを使った変化点検出は、機械学習でありAIといえるという認識でよろしいでしょうか？ 知り合いからAIもどきと言われたもので...真相がしりたいです。

すいません、こちら返信忘れていました。 大変申し訳ありません。 私もrupturesを使ってみて、動画を出しましたのでぜひこちらもご覧ください。 ua-cam.com/video/Szx5HXkui6I/v-deo.html 「機械学習」という言葉を「データだけから何かを判断するアルゴリズム」というニュアンスで使っているのでしたら、rupturesも機械学習に該当すると思います。 実態としてはデータを一定区間ごとに分割しデータに変動が無いか調べたりすることで変化点がどこであるか決定しています。 ご参考になれば幸いです

返信おそくなり申し訳ありません。こちら解決もう解決いたしましたか？ 解決できない場合、以下のgithub issueにエラー内容を貼り付けていただけますか？ github.com/nanjakorewa/K_DM_book/issues/10 よろしくお願いいたします

@@K_DM すいません。返信遅れました🙇試行錯誤の末、解決できました！！K_DMさんの動画も助けになりました。ありがとうございます！また有益な動画楽しみにしています！

大学で先生方に教えていただいたノートを振り返りながらやっているので、一冊に全部詰め込まれている本は少ないと思います。 『統計的学習の基礎』という本にすべて載っているはずですが、一冊1万5000円もするので個人購入はしづらいかもしれません。

コメントありがとうございます。 自分の回答としては ・実務ではほぼ調整する必要がない ・調整するとしたら、決定木の作成したルールを確認して、実際に不用そうなルールが削除されているかどうか確認しながら値を調整する ---- 少なくとも自分の経験ではccp_alphaを調整してモデルを調整することはほぼないです。自分が分析をする場合は常にデフォルトの値（ccp_alpha=0.0、つまり指定なし）にしています。 コメントに書いていただいている通り、ccp_alphaは直感的には何が起こるかわかりにくいためです。 決定木を作る前ならば ●シンプルなルールの集まりでいい→木の最大深さmax_depthを小さくする ●なるべくルールの数を少なくする→min_samples_splitやmin_samples_leafの値を大きくして、細かいルールを作られにくくする といった調整ができます。 一方でccp_alphaは木を作った後でルールを取り除いていく手法なので、事前にどんなルールが取り除かれるかは木を作るまでわかりません。そのため適切な値も指定しづらいです。 調整するとしたら、決定木の作成した分岐に明らかに直感的に正しくない複雑なルールがいくつか含まれていて、しかもそれが精度に寄与していない場面などが考えられます。ccp_alphaを少しずつ大きくしながら不用なルールが取り除かれているかチェックしつつパラメタを決める感じです。 参考になれば幸いです。

コメントありがとうございます、返信遅れてしまい申し訳ありません。 動画確認しましたが、こちら動画のミスです。 動的計画法を用いて計算をしており、左下側から右上に向かって順番に最短経路が決まるのが正しいです。そのため、あとの計算結果によって上書きされたり更新されることはありません。 ご指摘ありがとうございます🙇

@@K_DM お礼が遅くなりましたが、ありがとうございます。そこだけ気になったので、実際は更新されないということでスッキリしました。これからも頑張ってください。

コメントありがとうございます。 > AUCが0.1や0.2のモデルもあるし はい、そのようなモデルはあり得ます。 > そのようなモデルがあったとしたら、AUC0.5のモデルよりも精度が悪いモデルということでしょうか AUCが0.5を下回るケースというのは、正解とは逆の予想をしているケースです。つまり、AUC=0.0ならば常に正解と反対の答えを出していることになります。 そのためAUCが仮に0.1とすると、それはほとんどのケースで正解とは反対の予測をしていることになり、むしろ当たっているとも言えます。 もちろん、通常はAUCが0.1や0.0になることは稀です。あるとすれば ・評価データが少なく、たまたま逆の予測をしたデータが多かった ・評価データと訓練データでデータセットの分布が変化していて（いわゆる共変量シフトのような状態）、訓練データから作成されたモデルが評価時にうまく機能しなかった ・コードがおかしい ・正解データの付け方にミスがあった など、少し特殊なケースが該当すると思います。 参考になれば幸いです。

@@K_DM 有難うございます！いま「python3エンジニア認定データ分析試験」の資格取得のために勉強しているのですが、非常に有益な説明動画でした！他の動画もまた見させていただきます！