| 年初来パフォーマンス順 | 前日比順 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
| TOPIX |  |
 |
| 日経225JPY |  |
 |
| 日経225USD |  |
 |
| マザーズ |  |
 |
| REIT |  |
 |
中国市場、インド市場
| 中国 |  |
 |
| インド |  |
 |
| 8月21日 | 香港ハンセン | -1.82 | 0.95 | 0.31 |
| 上海総合 | -1.24 | 0.88 | -0.34 | |
| SENSEX30 | 0.41 | 0.01 | 0.33 | |
| 1309乖離率 | -2.72 | -2.34 | -1.48 | |
| 1678乖離率 | 0.60 | -0.04 | 0.49 |
世界の株価指数と米長期金利 - Yahoo!ファイナンス
ウエルスアドバイザー [ ETF乖離時系列 ]
ウエルスアドバイザー [ ETF乖離時系列 ]
AI
karpathy/llama2.c
「Training」では、物語データをダウンロードし、トークン化の前処理を行う。
I like TinyStories so this is the only example currently available in this repo. But it should be very easy to add datasets, see the code.
物語データとはjsonファイルのことなので、データセットを簡単に追加できるということは、独自のjsonファイルを用意しろ、ということなのだろう。ここは、いろいろと試してみる価値がありそうだ。
まずはダウンロードしたデータを試し、一通り対応した上で、自前のデータで試してみる段取りになるか。
前処理が完了したらトレーニングを実施する。次のように前置きされている様に、”train.py”の内容を確認する必要がある。
See the train.py script for more exotic launches and hyperparameter overrides
デフォルトではGPUで実行する。CPUで実行するには、71行目を書き換える必要がある。
device = "cpu" # examples: 'cpu', 'cuda', 'cuda:0', 'cuda:1' etc., or try 'mps' on macbooks
次のように言及されているように、パラメータ調整が必要だ。チンチラ論文の該当箇所を抜き出しておいた。
Look at the table at the very end of the Chinchilla paper to get a sense of how the Transformer parameters (dim, n_layers, n_heads) grow or shrink together.
