俺流テキストデータベース #4 スピードアップ呼び出し術

Pocket
LINEで送る
GREE にシェア
LinkedIn にシェア

プログラムをやり始めた頃は「Hello World」だけで感動できるモチベーションがありますが、人は物事に慣れてくる生き物なため、次第に同じことだけでは感動できなくなり、さらに上位の感動を求めるようになります。
 

プログラムの基本はif文とfor文だけで十分ですが、次には「効率」を追求するための「アルゴリズム」に行き着きます。
 

より質の高いプログラムを作り続けられれば、人は常に満足したコーディングライフを送れるという事がわかります。
 

前回行なった保存したデータベースの読み込み処理ですが、基本的にはPHPプラットフォームで展開されているので、PHP自体の処理を超えられないというボトルネッックが存在してしまいます。
 

今回は、LinuxOSのベースにもなっているShellスクリプトを使ってデータソースを読み解く手段をサンプルを使って解説します。

サンプルソースコードと解説

 

 

前回使用した1ファイルに1jsonを保存する方式は、今回は使いません。
PHPで読み込んだtrxtデータをjson_decodeするだけなので、前回と同じコードになります。
 

今回はcsv読み込みにはawk、json-multi形式にはjqコマンドを使ってphpへの取り込みを実現しています。
 

phpのexecコマンドを使う事で、ワンラインshellコマンドとして値を受け取れるので、前回まで、一旦全てのテキストデータをphpでメモリ保存して、それを処理していましたが、shellコマンドを使ってのテキストファイルからのデータ読み込みは、phpのメモリを使うよりはるかに高速に行う事ができるので、かなりの速度改善が見込めます。
 

もちろん、shellスクリプトも、awkスクリプトも、jqコマンドも、それぞれしっかり学習する必要はありますが、まずは今回のソースコードを少しずつ変えて使って見てもある程度使える程度には学習できるはずです。
 

ちなみに、csv形式をcatコマンド+cutコマンド+grepコマンドで、任意セル箇所の文字列を判定する事は可能ですが、判定結果後に、対象のレコードを全てPHPに受け渡したかったので、判定から結果の形式がコントロールできるawkコマンドを使って見ました。
 

awk記事も以前に書いたので、よかったら参考までに見てくださいませ。

awkメモ書き


 

jqコマンドの方は、かなりパイプで繋いでいる事が見てわかると思いますが、「cat + tr + sed + echo + jq」と言う具合に、json-multi形式を一旦json形式に整形してからjqに受け渡しています。
 

jqコマンドもずっと前に記事投稿しているのでこちらも気になる人はどうぞ。

JSONファイルをコマンドで扱える「jq」を学習してみる #1「初期設定」


 

いろいろ検討事項

前回の読み込み処理から、今回の読み込み処理に切り替える事で、速度改善が見込めますが、その際にデータの保持形式で、price部分が、3桁ごとにカンマ(,)で区切る文字列をそのまま保存しているので、数値ではなく、文字列登録になっています。
 

データ取得の段階で、数字はすべてnumericで登録すると、jqコマンドやawkコマンドでの四則演算など簡単な値集計を行う事が可能になります。
 

データベースのカラム設計と同じような思考で設計するといいでしょう。
 

さらに読み込んだ後で、PHPで整形するよりも、各種コマンドで結果を直接取得したい場合は、それぞれの言語ライブラリを作っておくと言うてもあります。
 

次回はそうしたやり方を紹介したいと思います。

次回予告

俺流テキストデータベース #5 コマンドで直接結果取得パターン

Leave a Reply

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です