Системы понижения разрядности в мастеринге

Разрядность аудио и эффекты квантования

Как известно, для представления звука в цифровой форме аналоговый сигнал дискретизируется по времени и квантуется по амплитуде, то есть непрерывный сигнал заменяется дискретными его значениями - отсчетами в некоторых точках. Частота дискретизации 44,1 кГц означает, что по времени эти отсчеты берутся 44100 раз в секунду. Разрядность 16 бит означает, что амплитуда каждого такого отсчета может принимать одно из 65536 возможных значений. Теоретически динамический диапазон формата 16/44,1 составляет 98,5 дБ.

Много это или мало? Рассмотрим на примере. Пусть мы хотим записать на компакт-диск симфонический концерт. Динамический диапазон классической музыки часто достигает 40…50 дБ. Получается, что во время самых тихих участков записи (-45 дБ) на квантование по амплитуде остается всего около 8 бит. Все наверняка знают, как звучат восьмибитные записи. Кроме высокого уровня шума, в таких записях часто встречаются и более неприятные артефакты квантования в виде гармонических искажений, которые зависят от уровня сигнала.

При записи звука на студии все чаще используются форматы аудио с более высокой разрядностью, чем 16 бит. За последние несколько лет 24-битный формат стал стандартом для высококачественной звукозаписи, и в нем работают большинство студий. При подготовке студийных фонограмм к записи на CD встает необходимость преобразования разрядности записей в 16 бит. Несмотря на кажущуюся простоту этой операции, для ее выполнения существуют различные методы. Их качеством в значительной степени определяется звучание получающейся 16-битной фонограммы.

Как видно из примера с классической музыкой, относительная величина искажений в цифровом формате зависит от уровня сигнала. Искажения тем заметнее, чем ниже уровень сигнала. Поэтому одно из возможных решений - максимизация уровня сигнала перед снижением разрядности, что делается с помощью приборов динамической обработки - компрессоров и лимитеров. Однако сжатие динамического диапазона фонограммы, которое при этом достигается, не всегда благоприятно отражается на звучании. Если отвлечься от артефактов, вносимых приборами динамической обработки, то сужение динамического диапазона само по себе может приводить к потере музыкальной выразительности. Поэтому для записей с широким динамическим диапазоном (классика, джаз и др.) желательно применять наиболее качественные методы снижения разрядности.

Округление

Рассмотрим самый простой способ понизить разрядность аудио. Он заключается в округлении каждого отсчета исходного 24-битного аудио к ближайшему допустимому значению амплитуды в 16-разрядной сетке квантования. Разновидность этого метода - усечение (truncate) - это округление к ближайшему снизу допустимому значению.

Рис.1. 24-битный сигнал и 16-битный сигнал, полученный из него округлением

Рис.2. Спектр 24-битного тестового сигнала и 16-битного сигнала, полученного из него округлением. Пик этого сигнала скрыт за пиком 24-битного сигнала

Будем называть шумом квантования сигнал, представляющий собой разницу между исходным 24-битным и квантованным 16-битным сигналом. Поскольку 16-битный сигнал является суммой исходного сигнала и шума квантования, то изучать свойства систем снижения разрядности можно, изучая шум квантования, который возникает в них для различных входных сигналов.

Очевидно, что метод округления дает минимально возможную амплитуду шума квантования для каждого отсчета. Однако получающийся при этом шум квантования не является наилучшим с точки зрения звучания. Он существенно коррелирован с исходным сигналом, и на спектре шума квантования видны пики - гармонические искажения (рисунки 1, 2). Поэтому результирующий 16-битный сигнал имеет характерное "грязное" звучание, причем искажения сильно меняются со временем в зависимости от сигнала.

Где встречается округление?

К сожалению, округление очень часто применяется при работе с цифровым звуком. Во многих звуковых редакторах именно округление используется при редактировании 16-битного звука. Часто к артефактам округления приводят и неправильно выполненные операции dithering и noise shaping (см. далее). Искажения звука в результате округления могут быть не сразу замечены, но эти изменения приводят к необратимому ухудшению качества фонограммы.

Как избежать округления?

Работая со звуковыми редакторами или другими программами обработки звука, нужно стараться совершать все преобразования в формате с повышенной разрядностью (24 или 32 бита).

В этом случае вы почти гарантированы от округления. Если же работа производится в 16-битном формате, то попробуйте провести следующий небольшой тест.

Сгенерируйте синусоиду с произвольной частотой (например, 1 кГц) и маленькой амплитудой (например, -60 дБ). Затем обработайте эту синусоиду с помощью эффектов. После этого проанализируйте полученный звук на спектроанализаторе. Если где-то по ходу преобразований возникло округление, то на результирующем спектре будут видны пики гармонических искажений (как на рисунке 2). Если же вместо округления применялся более правильный способ снижения разрядности (dithering), то гармонических искажений не будет, а будет просто шум (например, как на рисунке 7).

Во многих звуковых редакторах можно выбирать способ работы с сигналом: округление или dithering.

Рис.3. 24-битный сигнал и 16-битный сигнал, полученный из 24-битного с помощью dithering’а

Рис.4. Спектры 16-битных сигналов, полученных с помощью округления и с помощью dithering’а

Dithering

Что такое dithering и как он устроен?

Для предотвращения возникновения гармонических искажений требуется устранить корреляцию шума квантования с исходным аудиосигналом. Для этого существует метод, называемый dithering. Он заключается в добавлении к исходному сигналу перед округлением специально сгенерированного шума небольшой амплитуды. В зависимости от свойств этого шума, слышимые гармонические искажения могут быть либо совершенно устранены, либо значительно подавлены (рисунки 3, 4). Расплата за подавление искажений - немного повышенный (до +6 дБ по сравнению с округлением) уровень шума в фонограмме.

Важно не путать dithering-шум с шумом квантования. Если положить шум dithering'а равным нулю, то мы получим округление в чистом виде, но шум квантования при этом вовсе не будет равен нулю.

Разновидности dithering'a

Разные виды dithering-шума отличаются по амплитуде, по спектру и по функции распределения вероятности значений шума по амплитуде (PDF - probability distribution function). Для белого шума PDF показывает, как часто встречаются в шуме значения различных амплитуд. Стандартные виды PDF - треугольная, прямоугольная, гауссова. Например, треугольная PDF означает, что в шуме чаще будут встречаться значения с амплитудой вблизи нуля, чем с большими амплитудами. А при прямоугольной PDF все значения амплитуд шума (естественно, в определенных пределах) равновероятны.

Для обозначения максимальной амплитуды dithering-шума будем использовать единицу LSB (least significant bit - наименее значащий бит) - расстояние между двумя соседними (ближайшими возможными) значениями амплитуды в квантованном 16-битном сигнале. Если говорят, что шум имеет амплитуду 1 LSB от пика до пика (1 LSB peak-to-peak), то это значит, что он может принимать значения от -0,5 LSB до +0,5 LSB.

Чаще всего для dithering'а используется белый шум с амплитудой от 1 до 2 LSB. Существуют два стандартных вида dithering-шума. Первый - белый шум с прямоугольной PDF и амплитудой 1 LSB от пика до пика. Такой шум практически полностью устраняет гармонические искажения в квантованном сигнале, однако имеет недостаток: громкость шума квантования меняется со временем, и зависит от исходного сигнала. Это явление называется модуляцией шума.

Второй распространенный вид шума dithering'а - тоже белый шум, но с амплитудой 2 LSB от пика до пика и треугольной PDF. Такой шум наиболее часто используется при снижении разрядности и называется standard TPDF dither (TPDF - triangular PDF). Этот вид dithering'а вносит немного больше шума в фонограмму (-98 дБ (А)), однако практически полностью устраняет гармонические искажения и модуляцию шума.

В некоторых системах снижения разрядности можно выбирать амплитуду dithering-шума, изменяя баланс между количеством шума и количеством искажений. Маленькая амплитуда dithering-шума вносит меньше заметного шума, однако может не полностью устранить гармонические искажения и модуляцию шума. Большая амплитуда dithering-шума вносит больше слышимого шума, но практически полностью подавляет искажения и модуляции. Для большинства приложений оптимальным выбором среди алгоритмов dithering'а является standard TPDF dither.

Существуют и другие виды dithering'а. В некоторых из них шум имеет не белый, а более сложный спектр с целью понизить воспринимаемую громкость шума. Однако, используя только dithering, невозможно сильно изменить спектр шума квантования. Даже если вывести спектр dithering-шума полностью за пределы слышимого диапазона (выше 20 кГц), то шум квантования все равно будет присутствовать и ниже 20 кГц, причем в заметных количествах. Для эффективного формирования спектра шума квантования необходимо генерировать dithering-шум с учетом самого исходного сигнала. Алгоритмы для этого довольно сложны и применяются в таких системах, как Apogee UV22 и POW-R. Иногда таким системам свойственны некоторые побочные артефакты, связанные с коррелированностью dithering-шума и исходного сигнала, или цикличностью dithering-шума.

Насколько полезен dithering? Несмотря на то, что стандартный dithering повышает уровень шума фонограммы до -98 дБ (А), это не значит, что мы не сможем услышать в фонограмме звуки тише -98 дБ. В 16-битной фонограмме, если использовался стандартный dithering, можно отчетливо различить звуки с такими маленькими амплитудами, как -100…-110 дБ - особенно наглядно это демонстрируется на синусоидах со средними частотами. Дело в том, что наше ухо может "слышать сквозь шум", действуя как спектроанализатор. Как на спектрограммах видны пики синусоид, возвышающиеся над шумом квантования (например, на рисунке 4), так и наше ухо способно улавливать эти пики сквозь шум, несмотря на то, что суммарная амплитуда шума больше амплитуды полезного сигнала.

При этом в 16-битном сигнале практически отсутствуют гармонические искажения, связанные с квантованием (рисунок 4). Синусоида звучит абсолютно неискаженной, без обертонов. Единственный эффект квантования с ditheringом - постоянный шум, который, впрочем, обычно находится ниже порога слышимости.

Dithering применяется во многих системах для мастеринга и в звуковых редакторах при работе со звуком пониженной разрядности. Почти любые преобразования 16-битного звука (например, эквалайзер, реверберация, динамическая обработка, изменение частоты дискретизации) дают в результате звук большей разрядности. Но так как исходный звук был 16-битный, то звуковые редакторы приводят к 16-битному формату и результирующий звук.

Правильный способ такого приведения - это dithering, а "неправильный" - округление. Dithering применяется при каждой операции над 16-битным звуком, добавляя определенное количество шума. Если операций много, то уровень шума может стать заметным, хотя это все же лучше искажений округления. Поэтому при редактировании звука обычно применяются форматы с повышенной разрядностью (например, 24 или 32 бита) - в них нет необходимости применять dithering, поскольку при такой разрядности артефакты квантования слишком малы, чтобы обращать на них внимание. Отметим, что операцию снижения разрядности до 16 бит в этом случае выполняют в последнюю очередь, стремясь всю обработку (в том числе, изменение частоты дискретизации и лимитирование) провести в формате с повышенной разрядностью.

При мастеринге некоторые звукоинженеры предпочитают стандартный dithering другим, более сложным методам снижения разрядности из-за "проверенности" метода и "нейтральности" звучания белого шума.

Noise shaping

Как уже упоминалось, спектр dithering-шума можно варьировать, чтобы уменьшить воспринимаемую громкость шума. Наше ухо неодинаково чувствительно к звукам различных частот. Поэтому можно попытаться переместить dithering-шум в те частотные диапазоны, где наше ухо наименее чувствительно. Тогда воспринимаемая громкость шума понизится. С помощью методов dithering'а этого удавалось достичь лишь отчасти. Метод формирования шума (noise shaping) позволяет придать спектру шума квантования практически любую форму.

Noise shaping - следующий класс алгоритмов снижения разрядности, расширяющий возможности алгоритмов dithering'а. Основная идея заключается во введении обратной связи в процесс снижения разрядности. Ошибка квантования, полученная для текущего временного отсчета, участвует в процессе формирования шума для следующего временного отсчета. В этом процессе используется фильтр, который и определяет форму спектра шума квантования.

Рис.5. Шум квантования. Сверху – стандартный dithering, снизу – noise shaping

Отметим свойства шума квантования, получающегося в результате noise shaping.

1. Шум квантования имеет спектр, соответствующий частотной характеристике фильтра, который применЯлсЯ при noise shaping.
2. Суммарная амплитуда шума квантования значительно выше, чем у стандартного dithering'а за счет более высокой энергии шума в определенных частотных полосах, однако воспринимаемая громкость шума, при правильном выборе фильтра, значительно ниже. Обычно фильтры выбираются так, чтобы большая часть шума квантования смещалась в область высоких частот (выше 15 кГц), где чувствительность уха наименьшая (рисунки 5, 6).

   Рис.6. Спектр шума квантования. Стандартный dithering и один из видов noise shaping

3. Коэффициенты фильтра должны быть нормированы так, чтобы соблюдалось следующее условие: чтобы вытеснить шум квантования из одной частотной области, нужно "столько же" шума квантования прибавить в другой частотной области. То есть на рисунке 6 площадь S1 должна быть равна площади S2.
4. При соблюдении условия 3, noise shaping обеспечивает такую же степень подавления гармонических искажений и модуляций шума, как и соответствующий dithering.

Системы noise shaping

Все системы стремятся вытеснить как можно больше шума из области средних частот, где наше ухо наиболее чувствительно. Вытеснять этот шум в область низких частот трудно: там мало "свободного места" (см. рисунок 6). Поэтому чаще всего шум вытесняется в область высоких частот. Ясно, что, чем больше мы убираем шума из средних частот, тем больше его становится в области высоких частот. Если принять за условную границу этих областей частоту 15 кГц, то основная часть шума сосредоточится на отрезке 15…22 кГц (более высоких частот в CD-аудио нет). Одно из основных ограничений, которые из-за этого возникают, таково: нельзя допустить слишком большой амплитуды шума в ВЧ-области. Если амплитуда ВЧ-шума будет слишком велика, то это может иметь нежелательные последствия:

1. Некоторые люди относительно хорошо слышат ВЧ-шумы, и для них чрезмерный шум noise-shaping будет слышен при очень громком прослушивании как неприятный свист.
2. Слишком сильный ВЧ-шум может повредить ВЧ-динамики громкоговорителей при очень большой громкости воспроизведения.
3. Слишком сильный ВЧ-шум изменяет амплитудный профиль фонограммы, и это может привести к проблемам при необходимости последующей обработки фонограммы, например, в случае динамической обработки при ремастеринге.
4. При ошибках чтения с аудио-CD плеер интерполирует неправильно считанные семплы. Высокая амплитуда ВЧ-шума затрудняет процесс интерполяции (снижает точность), и это увеличивает щелчки от интерполяции.

Чтобы минимизировать эти нежелательные последствия, предполагаемая амплитуда ВЧ-шума при noise shaping обычно не превышает -60 дБFS. В некоторых системах можно выбирать один из нескольких режимов работы, регулируя компромисс между маленькой амплитудой ВЧ-шума и более сильным подавлением среднечастотного (слышимого) шума.

Системы noise shaping дают большее преимущество при высоких частотах дискретизации. В этом случае ультразвуковая область до половины частоты дискретизации широка, и в ней "больше места" для вытеснения туда шума из слышимой области. Этот факт успешно используется в АЦП и ЦАП с передискретизацией (oversampling) для повышения динамического диапазона в слышимой области при маленькой реальной разрядности преобразователя.

Основное различие всех систем noise shaping - в фильтре. Именно он определяет форму спектра шума. Во многих системах фильтры имеют не очень гладкую частотную характеристику в слышимой полосе, и это может приводить к окрашенности шума. Из-за этого некоторые звукоинженеры предпочитают использовать стандартный dithering, а не системы noise shaping.

Noise shaping, так же как и dithering, при снижении разрядности практически полностью устраняет гармонические искажения и модуляцию шума. Кроме того, громкость шума квантования обычно становится заметно ниже, чем когда используется стандартный dithering. В результате мы получаем возможность слышать в фонограмме неискаженные звуки с уровнем -120…-110 дБ (особенно наглядно это демонстрируется на синусоидах со средними частотами).

Системы noise shaping - важная составная часть мастеринговых систем. Они расширяют слышимый динамический диапазон на компакт-диске.

Обзор популярных систем снижения разрядности

Здесь кратко рассмотрим наиболее распространенные системы снижения разрядности с комментариями по поводу их звучания.

Основные параметры оценки - субъективная громкость шума квантования и уровень ВЧ-шума (понятно, что при равной громкости шума предпочтение отдается системе с меньшим уровнем ВЧ-шума). Все рассмотренные системы имеют примерно одинаковый уровень подавления гармонических искажений и модуляций шума, поэтому основной оцениваемый параметр - именно громкость шума квантования и его окраска.

Отметим, что субъективная громкость шума является результатом собственных измерений автора, и, чаще всего, значительно отличается от рекламных заявлений производителей.

В сводной таблице в конце статьи приводятся краткие параметры рассмотренных систем снижения разрядности и некоторых других.

Стандартный dithering

Этот метод (standard TPDF dither) уже рассмотрен. Громкость шума квантования этого метода является критерием для оценки громкости шума квантования других методов. Из всех рассмотренных систем этот метод дает максимальную громкость слышимого шума.

Рис.7. 16-битные сигналы, полученные с помощью стандартного dithering’а и с помощью UV22

Apogee UV22

Это, пожалуй, самая распространенная система снижения разрядности. Алгоритм UV22 и его многочисленные модификации встроены во многие цифровые приборы разных фирм и в некоторые компьютерные звуковые редакторы (например, VST plug-in UV22).

В UV22 использован dithering специальным шумом, содержащим максимум энергии выше 18 кГц. По заявлениям производителя, шум генерируется в зависимости от исходного аудиосигнала и содержит три пика с динамически меняющимися частотами выше 18 кГц.

В слышимой полосе шум квантования имеет ровный белый спектр. Слышимая громкость шума на 5 дБ ниже, чем у стандартного dithering'а. Однако в шуме прослеживаются периодические "поцикивания", которые могут несколько портить общую картину.

Рис.8. 16-битные сигналы, полученные с помощью стандартного dithering’a и с помощью Sony SBM

Рис. 9. 16-битные сигналы, полученные с помощью стандартного dithering’а и с помощью Waves L1 IDR

Sony Super Bit Mapping

Еще одна распространенная система снижения разрядности - разработка Sony.

В системе SBM используется noise shaping с фильтром 12-го порядка. Форма частотной характеристики была подобрана экспериментально, отталкиваясь от кривых Флетчера-Мэнсона. Она имеет довольно гладкую форму. Слышимая громкость шума на 5 дБ ниже, чем у стандартного dithering'а. Шум больше заметен на высоких частотах, чем на низких.

Waves L1 IDR

Эта система снижения разрядности встроена в известный лимитер L1 фирмы Waves. В разработке алгоритмов L1 принимал участие Майкл Герзон - всемирно известный специалист в области цифрового звука. Система доступна в виде подключаемых модулей разных форматов. Имеется несколько режимов - фильтров noise shaping с различными степенями подавления слышимого шума. Здесь мы рассматриваем режим "Ultra" как наиболее мощный.

Максимум энергии шума приходится на полосу выше 18 кГц. В слышимом диапазоне шум подавляется сильнее на низких частотах и чуть слабее на высоких. Слышимая громкость шума примерно на 8 дБ ниже, чем у стандартного dithering'а, причем слышны, в первую очередь, высокочастотные составляющие в районе 12 кГц.

Waves L2 IDR

Рис.10. 16-битные сигналы, полученные с помощью стандартного dithering’а и с помощью Waves L2 IDR

Рис.11. 16-битные сигналы, полученные с помощью стандартного dithering’а и с помощью POW-R

Более новая система снижения разрядности из не менее известного лимитера L2. Доступна как в программном варианте, так и в приборах L2. Как и в системе L1 IDR, имеется несколько режимов - фильтров noise shaping. Здесь мы рассматриваем режим "Ultra" как наиболее мощный.

Максимум энергии шума приходится на полосу выше 17 кГц. В слышимом диапазоне шум подавляется сильнее всего в районе 4 кГц - максимума чувствительности уха. Однако недостаточное подавление шума в районе 10...15 кГц приводит к появлению довольно неприятной высокочастотной окраски у шума квантования. Слышимая громкость шума примерно на 7 дБ ниже, чем у стандартного dithering'а.

POW-R

Система POW-R - относительно новая разработка консорциума POW-R (Weiss, Apogee, Z-systems, Millenia). Система встроена во многие цифровые приборы и в некоторые звуковые редакторы. Имеется несколько режимов работы: dithering специальным видом шума и несколько фильтров noise shaping. Здесь мы рассматриваем наиболее мощный режим - POW-R 3, представляющий собой noise shaping с фильтром 9-го порядка.

Максимум энергии шума приходится на полосу выше 17 кГц. В слышимом диапазоне шум подавляется сильнее всего в районах 3,5 и 12,5 кГц - максимумах чувствительности уха. Однако недостаточное подавление шума в районе 8…10 кГц приводит к увеличению общей слышимой громкости шума. Она примерно на 7…8 дБ ниже, чем у стандартного dithering'а.

MegaBitMax

Рис.12. 16-битные сигналы, полученные с помощью стандартного dithering’а и с помощью MegaBitMax

Упомянем еще одну новую систему - собственную разработку автора статьи. В данный момент система MegaBitMax лицензирована TC Works и встраивается в программные продукты этой компании. При разработке системы были проведены новые обширные эксперименты по восприятию шумов, и на их основании были разработаны фильтры noise shaping, которые дают минимальную громкость слышимого шума квантования при каждой заданной величине ВЧ-шума. Кроме того, большое внимание уделялось нейтральности, неокрашенности звучания шума.

В системе MegaBitMax имеется набор фильтров noise shaping и специальная функция уменьшения выбросов ВЧ-шума. Максимум энергии шума приходится на полосу выше 17 кГц. В диапазоне 3…14 кГц спектр шума белый, что согласуется с данными экспериментов автора по нахождению оптимального распределения шума. В наиболее мощных режимах слышимая громкость шума на 12…14 дБ ниже, чем в стандартном dithering'е.

Сводная таблица параметров

Алгоритм	Пиковая амплитуда шума квантования, дБ	RMS шума квантования, дБ	Громкость шума квантования (отн. standard TPDF dither), дБ
MEGABITMAX ("Ultra+LPDN" preset)	-61	-72	-14
MEGABITMAX ("High+LPDN" preset)	-72	-81	-11
Waves L1 IDR ("Ultra" preset)	-67	-79	-8
MEGABITMAX ("Medium+LPDN" preset)	-84	-89	-7
POW-R (pow-r3 mode)	-66	-78	-7
Waves L2 IDR ("Ultra" preset)	-65	-78	-7
Cool Edit (44,1 KHz curve)	-62	-75	-7
WaveLab (Type3 curve)	-60	-73	-7
Sony Super Bit Mapping	-81	-92	-6
POW-R (pow-r2 mode)	-77	-89	-6
Waves L1 IDR ("Normal" preset)	-75	-87	-6
Waves L2 IDR ("Normal" preset)	-74	-88	-6
Sound Forge (hi-pass triangular dither +equal loudness noise shaping contour)	-68	-80	-6
MEGABITMAX ("Light+LPDN" preset)	-90	-94	-5
Apogee UV22	-78	-84	-5
POW-R (pow-r1 mode)	-75	-83	-5
Cool Edit (C3 curve)	-75	-87	-4
Cool Edit (C1 curve)	-75	-86	-2
No noise shaping (TPDF dithering)	-90	-96	0

Заключение

Мы рассмотрели методы снижения разрядности цифрового аудио и сравнили несколько распространенных профессиональных систем снижения разрядности. Как видно из таблицы, эффект от этих систем существенно различается. Однако не стоит делать выводы о качестве той или иной системы только на основании полученных числовых данных. Большое значение имеет не только амплитуда и громкость шума квантования, но и его окраска, взаимодействие с исходным аудиоматериалом.

Необходимо помнить, что любая система снижения разрядности - это всегда компромисс между уровнем шума и уровнем искажений (или модуляций шума).

Все производители систем понижения разрядности заявляют, что именно их система наиболее оптимальна. Поэтому на первом месте при выборе той или иной системы снижения разрядности должны стоять тесты и прослушивания. И пусть сведения этой статьи помогут вам сделать правильный выбор!

Алексей Лукин

Журнал "Звукорежиссер" 2003 #1