Быстрее не значит короче

public

Автор: Сергей Куксенко · CodeFreeze


Два варианта суммирования массива. У одного короче машинный код, у другого больше инструкций и перемещений данных. Второй работает быстрее. Подсчёт инструкций не объясняет результат: нужно смотреть, какие операции могут выполняться независимо.

Сергей Куксенко из команды производительности Java SE в Oracle разбирает такие эффекты на встрече CodeFreeze 2013 года. «Квантовые» здесь — не про квантовые компьютеры, а про особенности выполнения, которые плохо видны на уровне исходного кода, но проявляются в измерениях.

Общий вопрос доклада — что именно мы измеряем. На скорость влияют зависимости между вычислениями, порядок входных данных и профиль, который успел собрать JIT. Иногда неожиданное ускорение объясняется не более удачным алгоритмом, а совсем другими условиями его выполнения.

Кому смотреть: Java-разработчикам, которые пишут микробенчмарки или пытаются объяснить неожиданные результаты оптимизации вычислительного кода.

Из этого можно взять в работу: проверить выигрыш не на одном удобном наборе данных, а при изменении их порядка и распределения, сохраняя проверку результата вычислений.


При последовательном суммировании следующая операция ждёт результат предыдущей. Несколько независимых накопителей позволяют процессору выполнять больше работы параллельно. Но у такого преобразования есть существенное условие: оно меняет порядок сложений, а арифметика с плавающей точкой не ассоциативна. Полученное ускорение нельзя автоматически считать заменой, сохраняющей тот же результат.

Другой пример связан с вызовами через интерфейс. В показанном эксперименте последовательность из четырёх реализаций после развёртки цикла оказывается быстрее последовательности из трёх. Причина — не особая дешевизна четвёртого класса. Возникают два отдельных места вызова, и при регулярном порядке данных каждое видит только два типа. Это позволяет сработать показанной оптимизации HotSpot.

Такой результат легко неверно обобщить, если смотреть только на итоговую таблицу времени. Существенны и расположение вызовов, и последовательность объектов, и поведение конкретной JVM. Тогдашние пороги оптимизаций — не обещание для современных версий.

Само измерение также может обмануть. В одном примере опечатка делает результат вычисления заведомо нулевым, после чего JIT удаляет ненужную работу. А необходимость прогрева автор связывает не только с Java: своё изменяющееся состояние есть у операционной системы и процессора.

Докладу больше десяти лет, и его аппаратные числа устарели. Зато показанный способ разбирать результат — от неожиданного замера к проверяемому объяснению — полезнее готового списка «быстрых» конструкций языка.