egaopapa

現役システムエンジニア ●機械学習やデータサイエンス、株のnewbie ●埼玉県在住:妻と小学生の娘と0歳の息子 ●保有資格:E資格、情報処理安全確保支援士、統計検定準1級、医療情報技師...

no image

プログラミング言語 投資

日本株をpythonで処理してみる

2023/5/30    

メモ書き的なもの yahoo_finance_api2を利用するのでインストール。銘柄コードを網羅したいのでここからダウンロード。同じく日経平均のデータも。 import sys import pandas as pd import seaborn as sns import matplotlib.pyplot as plt from yahoo_finance_api2 import share ...

AI 技術

GPTさんにGBDTについて教えてもらう

2023/5/26    , ,

実はちゃんと仕組みを理解してなかったので、これを機に理解を深めてみようと思う。教師にChatGPTを使ってみた。 ちなみにKggle本には以下のように書かれている。1.目的変数と予測値から計算される目的関数を改善するように、決定木を作成してモデルに追加する2.1を.をハイパーパラメータで定めた決定木の本数の分だけ繰り返すこれじゃわからないということで勉強をしよう! まずはじめに ChatGPTにど ...

AI 技術

実際のデータでGBDTを試してみる

2023/5/25    , ,

https://signate.jp/competitions/264/dataのデータサイズがお手頃感があるので、これを使って前回の記事の一番最後に書いたLightGBMの特徴について調べてみる。 と高をくくっていたら、特徴量抽出に3日ほどかかりましたとさ・・・実装力のなさが顕著に出た。 display(len(target_df.columns)) >128 元データのカラム数は17だっ ...

AI

コンペでの勾配Boostingについて

2023/5/22    ,

Kaggleなどのコンペでは初手にGBDT(Gradient Boosting Decision Tree)と言われるけど、なんでなんだっけ?みたいなところを勉強してみる。ここではまずlightGBMを触って理解をしてみる。 とりあえずなけなしの知識での仮説としては、 1.カテゴリ変数を変換なく扱うことが出来る2.欠損値をそのままでも扱うことが出来る これが大きな要素であると理解をしている状況。 ...

プログラミング言語 仮想化 技術 開発環境

理想のpython開発環境を作る:pytorchを使う

2023/5/18    , ,

1.簡単なpython環境を作る2.jupyterをVS Codeで使う3.Githubと連携4.Dockerfileで自前の環境構築5.tensorflowを使う6.pytorchを使う(今ココ) 書籍の環境構築は書籍に譲るとして、自前で何かしたいときの対応をしてみる。(pytorch派なのでtensorflowは一旦捨て置く)あとvscodeのnotebookが微妙に使いづらいのでここでなんと ...

プログラミング言語 仮想化 技術 開発環境

理想のpython開発環境を作る:tensorflowを使う

2023/5/15    , ,

1.簡単なpython環境を作る2.jupyterをVS Codeで使う3.Githubと連携4.Dockerfileで自前の環境構築5.tensorflowを使う(今ココ)6.pytorchを使う 4.Dockerfileで自前の環境構築ではrequirements.txtの中にtensorflowを入れている。これが動くかどうか。libcudart.so.11.0がないと怒られる。cuda系の ...

仮想化 技術 開発環境

理想のpython開発環境を作る:Githubと連携

2023/5/10    , ,

1.簡単なpython環境を作る2.jupyterをVS Codeで使う3.Githubと連携(今ココ)4.Dockerfileで自前の環境構築5.tensorflowを使う6.pytorchを使う 書いたコードは出来れば残しておきたいときもある。 Gitはインストールしておきましょう。 vscodeの「コードの管理メニュー」を選択して、Githubに公開を選択。VS Codeとの連携を許可する処 ...

プログラミング言語 仮想化 技術 開発環境

理想のpython開発環境を作る:Dockerfileで自前の環境構築

2023/5/14    , ,

1.簡単なpython環境を作る2.jupyterをVS Codeで使う3.Githubと連携4.Dockerfileで自前の環境構築(今ココ)5.tensorflowを使う6.pytorchを使う これまでは、VSCodeから引っ張ってくるコンテナを使っていたけど、ここでは自前のコンテナを使えるかどうかを確認してみる。 vscode上で自前コンテナの中をいじくりまわす 簡単なDockerFile ...

プログラミング言語 仮想化 技術 開発環境

理想のpython開発環境を作る:jupyterをVS Codeで使う

2023/5/10    , ,

1.簡単なpython環境を作る2.jupyterをVS Codeで使う(今ココ)3.Githubと連携4.Dockerfileで自前の環境構築5.tensorflowを使う6.pytorchを使う jupyterとDevContainerの共存 データサイエンス系ってjupyter notebook使うじゃぁないですか。このあたりをコンテナの環境を使って実現してみたいよね、という作業。とにも書く ...

プログラミング言語 仮想化 技術

理想のpython開発環境を作る:簡単なpython開発環境を作る

2023/5/10    , ,

1.簡単なpython環境を作る(今ココ)2.jupyterをVS Codeで使う3.Githubと連携4.Dockerfileで自前の環境構築5.tensorflowを使う6.pytorchを使う まずは簡単なpython環境から 新しいコンテナを作って開発 CUDA toolkitとかの関連で設定が面倒くさそうなのが予想されるので、まずは簡単なものからやってみよう。 まずはVS Codeの「D ...