Быстрее не значит короче
https://www.youtube-nocookie.com/embed/9E6DKrxOLHo
Автор: Сергей Куксенко · CodeFreeze
Два варианта суммирования массива. У одного короче машинный код, у другого больше инструкций и перемещений данных. Второй работает быстрее. Подсчёт инструкций не объясняет результат: нужно смотреть, какие операции могут выполняться независимо.
Сергей Куксенко из команды производительности Java SE в Oracle разбирает такие эффекты на встрече CodeFreeze 2013 года. «Квантовые» здесь — не про квантовые компьютеры, а про особенности выполнения, которые плохо видны на уровне исходного кода, но проявляются в измерениях.
Общий вопрос доклада — что именно мы измеряем. На скорость влияют зависимости между вычислениями, порядок входных данных и профиль, который успел собрать JIT. Иногда неожиданное ускорение объясняется не более удачным алгоритмом, а совсем другими условиями его выполнения.
Кому смотреть: Java-разработчикам, которые пишут микробенчмарки или пытаются объяснить неожиданные результаты оптимизации вычислительного кода.
Из этого можно взять в работу: проверить выигрыш не на одном удобном наборе данных, а при изменении их порядка и распределения, сохраняя проверку результата вычислений.
При последовательном суммировании следующая операция ждёт результат предыдущей. Несколько независимых накопителей позволяют процессору выполнять больше работы параллельно. Но у такого преобразования есть существенное условие: оно меняет порядок сложений, а арифметика с плавающей точкой не ассоциативна. Полученное ускорение нельзя автоматически считать заменой, сохраняющей тот же результат.
Другой пример связан с вызовами через интерфейс. В показанном эксперименте последовательность из четырёх реализаций после развёртки цикла оказывается быстрее последовательности из трёх. Причина — не особая дешевизна четвёртого класса. Возникают два отдельных места вызова, и при регулярном порядке данных каждое видит только два типа. Это позволяет сработать показанной оптимизации HotSpot.
Такой результат легко неверно обобщить, если смотреть только на итоговую таблицу времени. Существенны и расположение вызовов, и последовательность объектов, и поведение конкретной JVM. Тогдашние пороги оптимизаций — не обещание для современных версий.
Само измерение также может обмануть. В одном примере опечатка делает результат вычисления заведомо нулевым, после чего JIT удаляет ненужную работу. А необходимость прогрева автор связывает не только с Java: своё изменяющееся состояние есть у операционной системы и процессора.
Докладу больше десяти лет, и его аппаратные числа устарели. Зато показанный способ разбирать результат — от неожиданного замера к проверяемому объяснению — полезнее готового списка «быстрых» конструкций языка.
Original post: https://territory.network/@engineers-tail/236/bystree-ne-znachit-koroche