Fork me on GitHub

Erlang Term Storage (ETS)

Erlang Term Storage、略してETSは、OTP内部に組み込まれている強力なストレージエンジンで、Elixirから利用することができます。このレッスンではETSを呼び出す方法と、アプリケーションで使用する方法を見ていきます。

目次

概要

ETSは堅牢なインメモリストアで、ElixirやErlangのオブジェクトを保管するためのものです。ETSはとても大きなデータを格納し、定数時間でのデータアクセスを提供します。

ETSのテーブルは個々のプロセスによって生成、所有されています。テーブルを所有しているプロセスが死ぬと、テーブルは破壊されます。初期状態では、ETSはノードにつき1400テーブルに制限されています。

テーブルの作成

テーブルはnew/2で作成します。この関数はテーブル名と、一連のオプションを受け取り、以降の操作で用いることのできるテーブルのIDを返します。

例としてユーザをニックネームで管理し、検索するテーブルを作ります:

iex> table = :ets.new(:user_lookup, [:set, :protected])
8212

GenServerと同じように、IDの代わりに名前でETSテーブルにアクセスする方法があります。:named_tableをオプションに含めることで、名前を用いて直接テーブルにアクセスできます:

iex> :ets.new(:user_lookup, [:set, :protected, :named_table])
:user_lookup

テーブルの型

ETSで利用できるテーブルの型は4つあります:

アクセス制御

ETSでのアクセス制御はモジュール内部のアクセス制御と似ています:

データの挿入

ETSはスキーマを持ちません。唯一の制限は、データは最初の項がキーであるタプルとして格納されなくてはいけないというものです。新しいデータを追加するにはinsert/2を用います:

iex> :ets.insert(:user_lookup, {"doomspork", "Sean", ["Elixir", "Ruby", "Java"]})
true

insert/2setordered_setに用いると、既存のデータは置換されます。これを避けるため、キーが存在している場合にfalseを返してくれるinsert_new/2があります:

iex> :ets.insert_new(:user_lookup, {"doomspork", "Sean", ["Elixir", "Ruby", "Java"]})
false
iex> :ets.insert_new(:user_lookup, {"3100", "", ["Elixir", "Ruby", "JavaScript"]})
true

データの検索

ETSは格納したデータを検索するために便利で柔軟な方法をいくつか提供しています。データの検索をキーや異なった形式のパターンマッチングで行う方法について見ていきます。

最も効率が良く、理想的な検索方法はキーによる探索です。便利ではあるものの、マッチングはテーブルを反復するので、特に巨大なデータセットに対しては慎重に用いるべきです。

キー探索

キーが与えられる場合は、lookup/2を用いて全レコードを検索することができます:

iex> :ets.lookup(:user_lookup, "doomspork")
[{"doomspork", "Sean", ["Elixir", "Ruby", "Java"]}]

単純なマッチ

ETSはErlangで作られているため、マッチ変数が 少しだけ ダサく見えることを警告しておきます。

マッチ内で変数を指定するには、:"$1":"$2":"$3"などのアトムを用います。変数の数字は結果の位置を示していて、マッチの位置ではありません。興味のない値については、:"_"変数を用います。

値もマッチングで用いることはできますが、変数だけが結果として返ってきます。値と変数を一緒に使ってみて、どうなるかを見てみましょう:

iex> :ets.match(:user_lookup, {:"$1", "Sean", :"_"})
[["doomspork"]]

変数が結果リストの順番にどう影響するか、他の例を見てみましょう:

iex> :ets.match(:user_lookup, {:"$99", :"$1", :"$3"})
[["Sean", ["Elixir", "Ruby", "Java"], "doomspork"],
 ["", ["Elixir", "Ruby", "JavaScript"], "3100"]]

リストではなく、元のオブジェクトが欲しい場合はどうするのが良いでしょう。match_object/2を用いることができます。これは変数に関わらず、オブジェクト全体を返します:

iex> :ets.match_object(:user_lookup, {:"$1", :"_", :"$3"})
[{"doomspork", "Sean", ["Elixir", "Ruby", "Java"]},
 {"3100", "", ["Elixir", "Ruby", "JavaScript"]}]

iex> :ets.match_object(:user_lookup, {:"_", "Sean", :"_"})
[{"doomspork", "Sean", ["Elixir", "Ruby", "Java"]}]

発展的な探索

単純なマッチのケースを学びましたが、何かもっとSQLクエリのようなものがあると良いでしょうか。ありがたいことに、もっとしっかりとした構文が利用できます。データをselect/2で探索するには、3つの引数を持つタプルのリストを作る必要があります。これらのタプルはパターン、0以上のガード節、そして戻り値のフォーマットを表します。

マッチ変数と2つの新しい変数、:"$$":"$_"は戻り値を作るのに用いることが出来ます。この新しい変数は戻り値のフォーマット用のショートカットで、:"$$"は結果をリストで、:$_は元のデータオブジェクトで取得します。

先ほどのmatch/2の例を、select/2に置き換えましょう:

iex> :ets.match_object(:user_lookup, {:"$1", :"_", :"$3"})
[{"doomspork", "Sean", ["Elixir", "Ruby", "Java"]},
 {"3100", "", ["Elixir", "Ruby", "JavaScript"]}]

iex> :ets.select(:user_lookup, [{{:"$1", :"_", :"$3"}, [], [:"$_"]}])
[{"doomspork", "Sean", ["Elixir", "Ruby", "Java"]},
 {"spork", 30, ["ruby", "elixir"]}]

select/2はレコードのどれをどう扱うかについて先ほどよりはまともな管理を可能にしますが、構文は極めて不親切ですし、後々もっとひどくなるはずです。これを制御するため、ETSモジュールはfun2ms/1を備えています。これは関数をマッチスペック(match_spec)に置き換えるものです。fun2ms/1を使うとより親しみやすい関数の構文を用いてクエリを作成することができます。

fun2ms/1select/2を用いて、2言語以上を知っている全てのユーザ名を探してみましょう:

iex> fun = :ets.fun2ms(fn {username, _, langs} when length(langs) > 2 -> username end)
[{{:"$1", :"_", :"$2"}, [{:>, {:length, :"$2"}, 2}], [:"$1"]}]

iex> :ets.select(:user_lookup, fun)
["doomspork", "3100"]

マッチスペックについてもっと学びたいですか?Erlangの公式ドキュメントからmatch_specを確認してください。

データの削除

レコードの除去

レコードの除去はinsert/2lookup/2と同じように直接的です。delete/2でテーブルとキーを指定するだけです。この関数は指定されたキーと値の両方を削除します:

iex> :ets.delete(:user_lookup, "doomspork")
true

テーブルの除去

ETSテーブルは親が消滅するまではガベージコレクトされません。所有プロセスを殺すことなく、テーブル全体を削除する必要がある場合もあります。そうした時のために、delete/1を用いることができます:

iex> :ets.delete(:user_lookup)
true

ETSの使用例

ここまで学んだことをうまく活かして、高コストな処理用の単純なキャッシュを作ってみましょう。モジュールと関数、引数、オプションを受け取るget/4関数を実装します。オプションについては今のところ:ttlだけを気にするようにしておきます。

この例では、ETSテーブルはスーパーバイザといった他のプロセスの一部として作られます:

defmodule SimpleCache do
  @moduledoc """
  高コストな関数呼び出し用の、単純なETSベースのキャッシュ
  """

  @doc """
  キャッシュされた値を検索するか、与えられた関数をキャッシュして
  結果を返します。
  """
  def get(mod, fun, args, opts \\ []) do
    case lookup(mod, fun, args) do
      nil ->
        ttl = Keyword.get(opts, :ttl, 3600)
        cache_apply(mod, fun, args, ttl)
      result -> result
    end
  end

  @doc """
  キャッシュされた結果を探索し、期限切れかどうかを確認します
  """
  defp lookup(mod, fun, args) do
    case :ets.lookup(:simple_cache, [mod, fun, args]) do
      [result|_] -> check_freshness(result)
      [] -> nil
    end
  end

  @doc """
  結果の期限時刻を現在のシステム時刻と比較します。
  """
  defp check_freshness({mfa, result, expiration}) do
    cond do
      expiration > :os.system_time(:seconds) -> result
      :else -> nil
    end
  end

  @doc """
  関数を追加し、期限を計算し、結果をキャッシュします。
  """
  defp cache_apply(mod, fun, args, ttl) do
    result = apply(mod, fun, args)
    expiration = :os.system_time(:seconds) + ttl
    :ets.insert(:simple_cache, {[mod, fun, args], result, expiration})
    result
  end
end

キャッシュをデモするため、システム時刻と10秒のTTL(生存時間)を返す関数を使用します。以下の例のように、値が破棄されるまではキャッシュされた結果が帰ります:

defmodule ExampleApp do
  def test do
    :os.system_time(:seconds)
  end
end

iex> :ets.new(:simple_cache, [:named_table])
:simple_cache
iex> ExampleApp.test
1451089115
iex> SimpleCache.get(ExampleApp, :test, [], ttl: 10)
1451089119
iex> ExampleApp.test
1451089123
iex> ExampleApp.test
1451089127
iex> SimpleCache.get(ExampleApp, :test, [], ttl: 10)
1451089119

10秒後に再度試行すれば、新しい結果を得るはずです:

iex> ExampleApp.test
1451089131
iex> SimpleCache.get(ExampleApp, :test, [], ttl: 10)
1451089134

ここまで見たように、スケール可能で高速なキャッシュを外部の依存なしに実装することが可能です。これはETSの多くの用途のほんの一部分に過ぎません。

ディスクを用いたETS

ETSはインメモリのデータストレージ用だとわかりましたが、ディスクを用いるストレージが必要な場合はどうでしょうか。こうした用途にはディスクベースのストレージ、DETSがあります。ETSとDETSのAPIはテーブルの作成を除いて互換性があります。DETSはopen_file/2を使用し、:named_tableオプションは必要ありません:

iex> {:ok, table} = :dets.open_file(:disk_storage, [type: :set])
{:ok, :disk_storage}
iex> :dets.insert_new(table, {"doomspork", "Sean", ["Elixir", "Ruby", "Java"]})
true
iex> select_all = :ets.fun2ms(&(&1))
[{:"$1", [], [:"$1"]}]
iex> :dets.select(table, select_all)
[{"doomspork", "Sean", ["Elixir", "Ruby", "Java"]}]

iexを終了したらローカルディレクトリを見てください。disk_storageというファイルが新しく存在するはずです:

$ ls | grep -c disk_storage
1

最後に注記しておきますが、DETSはETSと異なりorderd_setには対応していません。setbag、そしてduplicate_bagにのみ対応しています。


このページをシェアする