ファンネルソートを使用する

ファンネルソート (funnel sort / funnelsort) は、キャッシュや外部メモリのブロック転送回数を漸近最適に近づけることを目的とした、キャッシュ忘却型(cache-oblivious)の比較ソートである。

通常のマージソートも比較回数は O(n log n) だが、二入力マージを浅い再帰で繰り返すと、作業集合がキャッシュに収まりきらない段階で転送が膨らみやすい。

ファンネルソートは、だいたい n^{1/3} 本の整列済み列をバッファ付きの k 入力マージャ(k-funnel / k-merger)でまとめて併合する形に組み替え、階層メモリを意識したスケジュールをアルゴリズム自体に埋め込む。

本稿のデモと計測コードは簡略化した版である。

  1. ブロック分割: 入力長 n に対し k ≈ n^{1/3}(2 の冪へ切り上げ)を選び、長さおよそ n/k ≈ n^{2/3} の連続区間へ分ける。
  2. 再帰整列: 各ブロックを同じ手続きで整列する。十分小さい区間は挿入ソートへ落とす。
  3. 遅延 k 入力マージャ: k 本の整列済みストリームを、二入力マージャの完全二分木で併合する。各内部ノードは出力バッファを持ち、バッファが空(または半分未満)になったときだけ子マージャを再帰的に呼び出して補充する(lazy fill)。
  4. バッファ寸法: 部分木の葉数を m とするとバッファ容量をおよそ m^{3/2}、根ではおよそ k^3 にとる。空間は O(k^2) 級に収まり、k ≈ n^{1/3} なら全体で線形の補助領域に抑えられる。

キャッシュサイズ M やブロック長 B をパラメータに書かない点がキャッシュ忘却の要点である。解析では「キャッシュ容量がブロック長の二乗程度より大きい」(行数がブロック長以上ある)と置くことが多く、そのもとで I/O 複雑さが最適級になることが知られる。CPU 上の壁時計では定数倍と実装の重さが効き、単純なマージソートより速くなるとは限らない。

procedure fill(v)  // lazy binary merger at node v
  while v.buffer is not full and not v.exhausted
    if v.left.buffer empty and not v.left.exhausted then fill(v.left)
    if v.right.buffer empty and not v.right.exhausted then fill(v.right)
    if both children exhausted then
      v.exhausted = true; return
    move smaller head of the two children into v.buffer

procedure k_merger_merge(streams[0..k))
  build binary merge tree over streams with sized buffers
  while output incomplete
    fill(root)
    drain root.buffer into result

procedure funnel_sort(A)
  n = length(A)
  if n is small then
    insertion_sort(A); return
  k = next_power_of_two(ceil(n^(1/3)))
  split A into k contiguous blocks of size ~ n/k
  for each block B
    funnel_sort(B)
  k_merger_merge(the k sorted blocks)
  copy merged result back into A

比較モデルでは時間 O(n log n)、空間は再帰とマージャ合わせて O(n) 程度。キャッシュ忘却モデルでは、キャッシュがブロック長に対して十分大きいという前提のもとで、ソートの I/O 下界に近い転送回数を狙う。

デモでは要素数が少ないため k が 2 や 4 程度になり、バッファ寸法の効果は見えにくい。本番の計測コードはより大きい入力で同じ骨格を動かす。

類似アルゴリズムとの相違点

マージソートは区間を半分に分け二入力マージを重ねる。ファンネルソートはブロック数を n^{1/3} 前後に取り、遅延 k 入力マージャのバッファ階層で併合順を制御する点が異なる。

カスケードマージソートポリフェーズマージソートは、作業領域の狭め方やテープ本数・ラン分布といった「マージ政策」が主題である。ファンネルソートは I/O(キャッシュミス)回数を漸近項で抑えるデータ配置と呼び出しスケジュールが主題で、外部テープの本数最適化とは別系統である。

ファンエンデボアスソートもファンエンデボアスレイアウトと名前が近いが、整数宇宙上の非比較構造であり、比較ベースのキャッシュ忘却マージとは目的が違う。

計算時間量および空間計算量を計測する

Size Average time Maximum time Average memory Maximum memory
256 0.000015 0.000082 70 76
512 0.000038 0.000104 78 84
1024 0.000083 0.000290 86 92
2048 0.000175 0.000523 101 108
4096 0.000331 0.002476 130 136
8192 0.000719 0.004079 142 148
16384 0.001937 0.011934 235 276
32768 0.003832 0.013313 491 532
65536 0.008529 0.023747 1020 2396
131072 0.027481 0.067488 2027 2068
262144 0.046291 0.095529 4071 4112
計測に使用したコードを表示する

set -euo pipefail

WORKDIR="$(mktemp -d)"
trap 'rm -rf "$WORKDIR"' EXIT

cat > "$WORKDIR/Dockerfile" <<'EOF'
FROM rust:1.95.0

WORKDIR /app

RUN mkdir -p src

RUN cat > Cargo.toml <<'CARGO'
[package]
name = "rust-benchmark"
version = "0.1.0"
edition = "2021"

[profile.release]
lto = true
codegen-units = 1
panic = "abort"
CARGO

RUN cat > src/main.rs <<'RUST'
use std::{
    env,
    process::Command,
    time::{Duration, Instant},
};
const MIN_POWER: u32 = 8;
const MAX_POWER: u32 = 18;
const RUNS: usize = 8192;
fn insertion_sort(a: &mut [usize]) {
    for i in 1..a.len() {
        let mut j = i;
        while j > 0 && a[j - 1] > a[j] {
            a.swap(j - 1, j);
            j -= 1;
        }
    }
}



// Pedagogical lazy funnelsort (Brodal–Fagerberg / Frigo-style skeleton):
// split into ~n^{1/3} contiguous blocks, recurse, then merge with a lazy
// k-merger — a binary tree of buffered binary mergers whose buffer sizes
// follow the recursive top/bottom split (cache-oblivious I/O is the point;
// this port keeps the control flow and buffer geometry for measurement).

fn funnel_cbrt_ceil(n: usize) -> usize {
    if n <= 1 {
        return n;
    }
    let mut x = (n as f64).cbrt().ceil() as usize;
    if x < 2 {
        x = 2;
    }
    while x * x * x < n {
        x += 1;
    }
    x
}

fn funnel_next_pow2(mut x: usize) -> usize {
    if x <= 2 {
        return 2;
    }
    x -= 1;
    x |= x >> 1;
    x |= x >> 2;
    x |= x >> 4;
    x |= x >> 8;
    x |= x >> 16;
    #[cfg(target_pointer_width = "64")]
    {
        x |= x >> 32;
    }
    x + 1
}

fn funnel_buffer_cap(leaves: usize) -> usize {
    // α⌈k^{3/2}⌉-style capacity for a subtree with `leaves` inputs (α = 1).
    if leaves <= 1 {
        return 2;
    }
    let k = leaves as f64;
    ((k * k.sqrt()).ceil() as usize).max(2)
}

struct FunnelNode {
    /// Ring-style buffer: elements live in `buf[head..]` (internal nodes only).
    buf: Vec<usize>,
    head: usize,
    cap: usize,
    /// Leaf run `[lo, hi)` in the array being sorted; None for internal nodes.
    run: Option<(usize, usize)>,
    pos: usize,
    left: Option<usize>,
    right: Option<usize>,
    exhausted: bool,
}

impl FunnelNode {
    fn leaf(lo: usize, hi: usize) -> Self {
        Self {
            buf: Vec::new(),
            head: 0,
            cap: 0,
            run: Some((lo, hi)),
            pos: lo,
            left: None,
            right: None,
            exhausted: lo >= hi,
        }
    }

    fn internal(cap: usize, left: usize, right: usize) -> Self {
        Self {
            buf: Vec::with_capacity(cap),
            head: 0,
            cap,
            run: None,
            pos: 0,
            left: Some(left),
            right: Some(right),
            exhausted: false,
        }
    }

    fn buf_len(&self) -> usize {
        self.buf.len().saturating_sub(self.head)
    }

    fn buf_clear_consumed(&mut self) {
        if self.head > 0 {
            self.buf.drain(0..self.head);
            self.head = 0;
        }
    }

    fn buf_push(&mut self, v: usize) {
        self.buf_clear_consumed();
        self.buf.push(v);
    }

    fn buf_peek(&self) -> Option<usize> {
        self.buf.get(self.head).copied()
    }

    fn buf_pop(&mut self) -> Option<usize> {
        if self.head >= self.buf.len() {
            return None;
        }
        let v = self.buf[self.head];
        self.head += 1;
        if self.head == self.buf.len() {
            self.buf.clear();
            self.head = 0;
        }
        Some(v)
    }
}

fn funnel_build_tree(k: usize, runs: &[(usize, usize)]) -> (Vec<FunnelNode>, usize) {
    let mut nodes: Vec<FunnelNode> = Vec::with_capacity(2 * k);
    for i in 0..k {
        if i < runs.len() {
            nodes.push(FunnelNode::leaf(runs[i].0, runs[i].1));
        } else {
            nodes.push(FunnelNode::leaf(0, 0));
        }
    }
    let mut layer: Vec<usize> = (0..k).collect();
    let mut leaves_per: Vec<usize> = vec![1; k];
    while layer.len() > 1 {
        let mut next_layer = Vec::new();
        let mut next_leaves = Vec::new();
        let mut i = 0;
        while i < layer.len() {
            if i + 1 < layer.len() {
                let left = layer[i];
                let right = layer[i + 1];
                let leaves = leaves_per[i] + leaves_per[i + 1];
                let parent = nodes.len();
                nodes.push(FunnelNode::internal(funnel_buffer_cap(leaves), left, right));
                next_layer.push(parent);
                next_leaves.push(leaves);
                i += 2;
            } else {
                next_layer.push(layer[i]);
                next_leaves.push(leaves_per[i]);
                i += 1;
            }
        }
        layer = next_layer;
        leaves_per = next_leaves;
    }
    let root = layer[0];
    if nodes[root].run.is_none() {
        let total_leaves = runs.len().max(1);
        let want = (total_leaves as f64).powi(3).ceil() as usize;
        nodes[root].cap = nodes[root].cap.max(want).max(2);
        nodes[root].buf = Vec::with_capacity(nodes[root].cap);
    }
    (nodes, root)
}

fn funnel_leaf_has(nodes: &[FunnelNode], leaf: usize) -> bool {
    !nodes[leaf].exhausted
        && nodes[leaf]
            .run
            .map(|(lo, hi)| {
                let _ = lo;
                nodes[leaf].pos < hi
            })
            .unwrap_or(false)
}

fn funnel_leaf_peek(nodes: &[FunnelNode], leaf: usize, a: &[usize]) -> Option<usize> {
    if !funnel_leaf_has(nodes, leaf) {
        return None;
    }
    Some(a[nodes[leaf].pos])
}

fn funnel_leaf_pop(nodes: &mut [FunnelNode], leaf: usize, a: &[usize]) -> Option<usize> {
    let v = funnel_leaf_peek(nodes, leaf, a)?;
    nodes[leaf].pos += 1;
    if let Some((_, hi)) = nodes[leaf].run {
        if nodes[leaf].pos >= hi {
            nodes[leaf].exhausted = true;
        }
    }
    Some(v)
}

fn funnel_fill(nodes: &mut [FunnelNode], idx: usize, a: &[usize]) {
    if nodes[idx].run.is_some() || nodes[idx].exhausted {
        return;
    }
    let cap = nodes[idx].cap;
    while nodes[idx].buf_len() < cap {
        let left = nodes[idx].left.expect("internal");
        let right = nodes[idx].right.expect("internal");

        if nodes[left].run.is_none() && nodes[left].buf_len() == 0 && !nodes[left].exhausted {
            funnel_fill(nodes, left, a);
        }
        if nodes[right].run.is_none() && nodes[right].buf_len() == 0 && !nodes[right].exhausted {
            funnel_fill(nodes, right, a);
        }

        let left_ok = if nodes[left].run.is_some() {
            funnel_leaf_has(nodes, left)
        } else {
            nodes[left].buf_len() > 0
        };
        let right_ok = if nodes[right].run.is_some() {
            funnel_leaf_has(nodes, right)
        } else {
            nodes[right].buf_len() > 0
        };

        if !left_ok && !right_ok {
            nodes[idx].exhausted = true;
            break;
        }

        let take_left = if left_ok && right_ok {
            let lv = if nodes[left].run.is_some() {
                funnel_leaf_peek(nodes, left, a).unwrap()
            } else {
                nodes[left].buf_peek().unwrap()
            };
            let rv = if nodes[right].run.is_some() {
                funnel_leaf_peek(nodes, right, a).unwrap()
            } else {
                nodes[right].buf_peek().unwrap()
            };
            lv <= rv
        } else {
            left_ok
        };

        let v = if take_left {
            if nodes[left].run.is_some() {
                funnel_leaf_pop(nodes, left, a).unwrap()
            } else {
                nodes[left].buf_pop().unwrap()
            }
        } else if nodes[right].run.is_some() {
            funnel_leaf_pop(nodes, right, a).unwrap()
        } else {
            nodes[right].buf_pop().unwrap()
        };
        nodes[idx].buf_push(v);
    }
}

fn funnel_merge_runs(a: &mut [usize], runs: &[(usize, usize)], k: usize) {
    if runs.len() <= 1 {
        return;
    }
    let (mut nodes, root) = funnel_build_tree(k, runs);
    let total: usize = runs.iter().map(|(lo, hi)| hi - lo).sum();
    let mut out = Vec::with_capacity(total);
    while out.len() < total {
        funnel_fill(&mut nodes, root, a);
        if nodes[root].buf_len() == 0 {
            break;
        }
        let head = nodes[root].head;
        out.extend_from_slice(&nodes[root].buf[head..]);
        nodes[root].buf.clear();
        nodes[root].head = 0;
        if nodes[root].exhausted {
            break;
        }
    }
    debug_assert_eq!(out.len(), total);
    let base = runs[0].0;
    a[base..base + total].copy_from_slice(&out);
}

fn funnel_sort(a: &mut [usize]) {
    let n = a.len();
    if n <= 8 {
        insertion_sort(a);
        return;
    }
    let mut k = funnel_next_pow2(funnel_cbrt_ceil(n));
    while k > n {
        k /= 2;
    }
    k = k.max(2);

    let block = (n + k - 1) / k;
    let mut runs: Vec<(usize, usize)> = Vec::with_capacity(k);
    let mut i = 0;
    while i < n {
        let end = (i + block).min(n);
        funnel_sort(&mut a[i..end]);
        if end > i {
            runs.push((i, end));
        }
        i = end;
    }
    let merge_k = funnel_next_pow2(runs.len().max(2));
    funnel_merge_runs(a, &runs, merge_k);
}


fn benchmark_sort(array: &mut [usize]) {

    funnel_sort(array);

}

fn is_non_decreasing(a: &[usize]) -> bool {
    a.windows(2).all(|w| w[0] <= w[1])
}

fn same_multiset(a: &[usize], b: &[usize]) -> bool {
    if a.len() != b.len() {
        return false;
    }

    let mut left = a.to_vec();
    let mut right = b.to_vec();
    left.sort_unstable();
    right.sort_unstable();
    left == right
}

fn check_correctness_case(label: &str, mut input: Vec<usize>) {
    let original = input.clone();

    benchmark_sort(&mut input);

    if !is_non_decreasing(&input) {
        panic!("correctness case {}: output is not sorted", label);
    }

    if !same_multiset(&input, &original) {
        panic!("correctness case {}: elements were lost or added", label);
    }
}

fn few_unique_values(size: usize, unique: usize, seed: u64) -> Vec<usize> {
    let mut state = seed;

    (0..size)
        .map(|_| {
            state ^= state << 13;
            state ^= state >> 7;
            state ^= state << 17;
            (state as usize % unique) + 1
        })
        .collect()
}

fn run_correctness_checks() {
    check_correctness_case("empty", vec![]);
    check_correctness_case("single", vec![42]);
    check_correctness_case("duplicates", vec![3, 1, 3, 2, 1, 2]);
    check_correctness_case("sorted", vec![1, 2, 3, 4, 5]);
    check_correctness_case("reverse", vec![5, 4, 3, 2, 1]);
    check_correctness_case("all_equal", vec![7, 7, 7, 7]);
    check_correctness_case("skewed_range", vec![1_000_000, 2, 1_000_001, 1, 999_999]);
    // Static-buffer Grail skips the in-buffer build when key collection is sparse
    // (ideal_buffer = false). Exercising that path catches regressions in buffer gating.
    check_correctness_case(
        "few_keys_len16",
        vec![2, 2, 2, 2, 2, 2, 2, 2, 4, 3, 1, 2, 3, 4, 1, 4],
    );
    for seed in 0..32 {
        check_correctness_case(
            &format!("few_keys_len32_seed_{seed}"),
            few_unique_values(32, 4, seed),
        );
    }
}


fn shuffled(size: usize, seed: u64) -> Vec<usize> {
    let mut v: Vec<usize> = (1..=size).collect();

    let mut state = seed;

    for i in (1..size).rev() {
        state ^= state << 13;
        state ^= state >> 7;
        state ^= state << 17;

        let j = (state as usize) % (i + 1);

        v.swap(i, j);
    }

    v
}

fn memory_usage_kb() -> usize {
    // VmHWM (peak RSS, KiB). Reported memory subtracts a per-size baseline that only
    // holds the input array, so the table reflects auxiliary space during sorting.
    let contents = std::fs::read_to_string("/proc/self/status")
        .unwrap_or_default();

    for line in contents.lines() {
        if let Some(rest) = line.strip_prefix("VmHWM:") {
            let kb = rest
                .split_whitespace()
                .next()
                .unwrap_or("0")
                .parse::<usize>()
                .unwrap_or(0);

            return kb;
        }
    }

    0
}

fn micros(d: Duration) -> u128 {
    d.as_micros()
}

fn input_array(size: usize, seed: u64) -> Vec<usize> {
    shuffled(size, seed)
}

fn run_baseline(size: usize) -> usize {
    let _hold = input_array(size, 1);
    memory_usage_kb()
}

fn run_once(size: usize, seed: usize) -> (u128, usize) {
    let mut array = input_array(size, seed as u64);

    let start = Instant::now();

    benchmark_sort(&mut array);

    let elapsed = start.elapsed();
    let mem = memory_usage_kb();

    let expected: Vec<usize> = (1..=size).collect();
    if array != expected {
        panic!(
            "sort failed with seed {} for size {}",
            seed,
            size
        );
    }

    (micros(elapsed), mem)
}

fn run_baseline_child(args: &[String]) {
    let size = args[2].parse::<usize>().expect("invalid size");
    let mem = run_baseline(size);
    println!("{}", mem);
}

fn run_child(args: &[String]) {
    let size = args[2].parse::<usize>().expect("invalid size");
    let seed = args[3].parse::<usize>().expect("invalid seed");
    let (elapsed_us, mem) = run_once(size, seed);
    println!("{} {}", elapsed_us, mem);
}

fn main() {
    let args: Vec<String> = env::args().collect();
    if args.get(1).is_some_and(|arg| arg == "--baseline-once") {
        run_baseline_child(&args);
        return;
    }
    if args.get(1).is_some_and(|arg| arg == "--run-once") {
        run_child(&args);
        return;
    }

    run_correctness_checks();

    println!(
        "| {:>10} | {:>15} | {:>15} | {:>15} | {:>15} |",
        "Size",
        "Average time",
        "Maximum time",
        "Average memory",
        "Maximum memory"
    );

    println!(
        "|{:-<11}:|{:-<16}:|{:-<16}:|{:-<16}:|{:-<16}:|",
        "",
        "",
        "",
        "",
        ""
    );

    for power in MIN_POWER..=MAX_POWER {
        let size = 1usize << power;

        let baseline_output = Command::new(env::current_exe().expect("failed to find current executable"))
            .arg("--baseline-once")
            .arg(size.to_string())
            .output()
            .expect("failed to run benchmark baseline process");

        if !baseline_output.status.success() {
            panic!(
                "benchmark baseline process failed: {}",
                String::from_utf8_lossy(&baseline_output.stderr)
            );
        }

        let baseline_stdout = String::from_utf8(baseline_output.stdout)
            .expect("baseline process returned non-UTF-8 output");
        let baseline_mem = baseline_stdout
            .split_whitespace()
            .next()
            .expect("missing baseline memory usage")
            .parse::<usize>()
            .expect("invalid baseline memory usage");

        let mut total_time: u128 = 0;
        let mut max_time: u128 = 0;

        let mut total_mem: usize = 0;
        let mut max_mem: usize = 0;

        for seed in 1..=RUNS {
            let output = Command::new(env::current_exe().expect("failed to find current executable"))
                .arg("--run-once")
                .arg(size.to_string())
                .arg(seed.to_string())
                .output()
                .expect("failed to run benchmark child process");

            if !output.status.success() {
                panic!(
                    "benchmark child process failed: {}",
                    String::from_utf8_lossy(&output.stderr)
                );
            }

            let stdout = String::from_utf8(output.stdout)
                .expect("child process returned non-UTF-8 output");
            let mut fields = stdout.split_whitespace();
            let elapsed_us = fields
                .next()
                .expect("missing elapsed time")
                .parse::<u128>()
                .expect("invalid elapsed time");
            let mem = fields
                .next()
                .expect("missing memory usage")
                .parse::<usize>()
                .expect("invalid memory usage");

            total_time += elapsed_us;

            if elapsed_us > max_time {
                max_time = elapsed_us;
            }

            let aux_mem = mem.saturating_sub(baseline_mem);

            total_mem += aux_mem;

            if aux_mem > max_mem {
                max_mem = aux_mem;
            }
        }

        let avg_time = total_time / RUNS as u128;
        let avg_mem = total_mem / RUNS;

        println!(
            "| {:>10} | {:>15} | {:>15} | {:>15} | {:>15} |",
            size,
            format!("{}.{:06}", avg_time / 1_000_000, avg_time % 1_000_000),
            format!("{}.{:06}", max_time / 1_000_000, max_time % 1_000_000),
            avg_mem,
            max_mem
        );
    }
}
RUST

RUN cargo build --release

CMD ["./target/release/rust-benchmark"]
EOF

docker build -t rust-benchmark "$WORKDIR"
docker run --rm --init rust-benchmark