技術 データサイエンティスト [メモ]日本におけるデータサイエンティストの分業体制における課題点について 日本データサイエンティスト協会によると、 データサイエンティストは以下のように、3つのスキルが必要と言われています。 1:ビジネス力 2:エンジニアリング力 3:データサイエンス力 これらのスキ... 2019-02-13
技術 確定申告 [確定申告]amazonの購入履歴をCSVで取得する手順 確定申告対応用 https://leemanparadise.com/neta/amazon-purchase-history-csv-download/... 2019-02-11
技術 slack [slack]メンバーの削除方法 (2021/9/21時点) slackのメンバー削除方法が結構わかりにくいところにあるので、手順メモ残します。 1. slackの画面左上にあるワークスペース名をクリック 2. 設定と管理をクリック 3. メンバーを管理するをク... 2019-01-26
技術 プログラムpythonPresto [python]トレジャーデータ (presto)にjupyterからアクセスする手順 jupyterでpandas-tdをインストールする !pip install pandas-td 必要なライブラリの読み込み import os import pandas as pd import... 2019-01-16
技術 プログラムpython [python]データの変換による特徴量の作成方法 データの確認 df.head() apply関数 # 1)datetimeから年を取得して、yearという項目を追加する(spilitで-毎に分割して、一番最初) df = df.apply(lamb... 2019-01-06
技術 プログラムpython機械学習 [python]欠損値に関する処理例 分析用に収集したデータに欠損値(null)が入っている場合、そのまま利用すると、正しい分析結果が得られない場合がある。 その為、この欠損値が含まれるデータを除外したり、欠損値を0や対象項目の平均値に変... 2019-01-05
技術 SQLPrestoトレジャーデータ 【トレジャーデータ 】テーブル名称やカラムが存在するテーブルを検索する便利コード information_schemaからいろいろ抽出するときによく使うコード 対象テーブル名が存在するものをすべて抽出する SELECT CONCAT(table_schema, '.', table... 2018-12-21
技術 Prestoトレジャーデータ 【トレジャーデータ 】よく使うUDFのメモ(随時更新) トレジャーデータ で高速検索を行う場合は、 パーティションの切られているtimeを利用する。また、日付関数はUDFが用意されており、 それを使うことで効率よく処理を行える。 対象日付のレコードを抽出す... 2018-12-13
技術 SQLPrestoトレジャーデータ 【トレジャーデータ】timeを使わない場合での日付操作コマンドメモ ◆特徴 トレジャーデータでパーティションされるのは、デフォルト設定のtimeのみである。それ以外の項目に対して、検索をしてもインデックスがない為、高速な検索ができない。 ◆課題点 過去分のデータを手動... 2018-12-07
技術 システムBI 【分析】BIツール導入&運用してみて、事前に考慮しておいた方が良い事 BIツール導入して分析してガンガン成果を出していく! という思想のもと、導入する事は最近珍しくなくなってきましたが、 何も考えずに導入すると運用フェーズ以降で色々課題が出てきて、あー事前にこうしておけ... 2018-12-05
技術 SQLPresto 【Presto】よく使うコマンドのメモ Prestoで利用するコマンドでよく使うものをまとめていきます。 テーブルの項目の属性とコメントを確認する SHOW COLUMNS FROM table1 >Column, Type, Ext... 2018-12-04
技術 システム 【windows】デバイスマネージャーを直接表示するコマンド win10以降は開くのが面倒になった為、コマンド記載。 ①windowsマークを左クリック ②ファイル名を指定して実行から、 「devmgmt.msc」と入力し「OK」をクリックする ... 2018-10-02