目的:データを加工・分析する

表形式データを変換・集計する

「CSV を整形・集計したい」

この目的で選ぶときに見る軸

  1. メモリ上限
  2. 処理速度
  3. 対応形式

下の表の「主要制約」は各ツールで最も先に当たる制約。軸ごとの値はツール詳細の制約表で確認する。

この目的に使える手段(4件)

表形式データを変換・集計する を持つツールの比較
ツール分類種別学習料金成熟主要制約検証
DuckDB
1プロセスに組み込んで動く、列指向の分析(OLAP)用 SQL エンジン
データ処理・分析ツール無料安定同時アクセスの制限:書き込みできるプロセスは1つ。読み取り専用なら複数プロセスで開ける。同じ行を同時に変更するトランザクションは競合エラーになる
Python
読みやすさを優先した動的型付け言語。データ処理・自動化・AI分野の共通語
言語・実行環境言語無料安定スレッド並列の上限(GIL):CPython では同時に1スレッドしか Python バイトコードを実行しない。I/O 中は解放される
SQLite
サーバー不要、単一ファイルで動く組み込み型の関係データベース
データの保存ツール無料安定同時書き込み数:1 ライター / 瞬間(読み取りは無制限)。WAL モードでも書き込みは同時に1つ
pandas
Python で表形式データをメモリ上で整形・集計・可視化する標準ライブラリ
データ処理・分析フレームワーク無料安定メモリ内処理の前提:データセットは1台のメモリに収まる必要がある。メモリのかなりの割合を占めるデータでも、操作が中間コピーを作るため扱いにくくなる