32флоат -вопросы важные по математике и секвенсорам

[daicehawk]

вопрос чисто по математике -
насколько понимаю, точность вычисления в 32флоат равна, по сути, 24 битам, а 8 бит используются, только когда идет значение выше 0 дб (если брать привязку к целочисленной сетке).
Вопрос - когда идет умножение, например, на панораму или фейдер, значение фейдера или панорамы ссотв-но приводится тоже к 32-фп? Опять же, вопрос, если выставляемое на екране разрешение фейдеров - 0...127(7 бит), причем 0 положение - 100, то как происходит конвертация значения фейдеров в 32флоат. и еще, вытекающий из него вопрос - по какому механизму происходит интерполяция значений фейдеров из 128 значений во флоат, и что берется за частоту дискретизации при интерполяции - PPQ или частота проекта в хосте?
Интересно услышать мнение Алексея Лукина.
вчера специально сгенерил чистый DCoffset -сампл и сделал фейд ин для проверки утверждения, что низкое разрешение фейдеров поганит звук - сохранил 32флоат открыл ф форже и глянул -есть ли лестница, которая должна была появиться от низкого разрешения фейдера - ни фига подобного, интерполяция внутренняя происходит!!!! потом весь вечер сидел и думал про суммацию и умножение в 32флоат, так еще по :smoker: делу,

 

[Alexey Lukin]

Originally posted by daicehawk+--><div class='quotetop'>QUOTE(daicehawk)</div>

насколько понимаю, точность вычисления в 32флоат равна, по сути, 24 битам, а 8 бит используются, только когда идет значение выше 0 дб[/b]

Не совсем. 8 бит используются для масштабирования абсолютной амплитуды тех 24 бит. Т.е. в 32-float можно звук ослабить на 150 дБ и потом поднять обратно практически без потери точности. В реальной работе точность зависит от конкретного алгоритма, но в среднем обычно составляет 25 - 26 бит.

Originally posted by daicehawk+--><div class='quotetop'>QUOTE(daicehawk)</div>

Вопрос - когда идет умножение, например, на панораму или фейдер, значение фейдера или панорамы ссотв-но приводится тоже к 32-фп?[/b]

Обычно - да.

<!--QuoteBegin-daicehawk@
Опять же, вопрос, если выставляемое на екране разрешение фейдеров - 0...127(7 бит), причем 0 положение - 100, то как происходит конвертация значения фейдеров в 32флоат. и еще, вытекающий из него вопрос - по какому механизму происходит интерполяция значений фейдеров из 128 значений во флоат, и что берется за частоту дискретизации при интерполяции - PPQ или частота проекта в хосте?

А вот это уже от хоста зависит. Я не знаю, как это делают разные хосты. Ясно, что хорошо бы интерполировать значение каждый сэмпл, но реально это не всегда так. У плагинов есть, например, такое понятие как интервал автоматизации, в течение него параметры не меняются. Как это у хостов - надо проверять экспериментально, примерно так:

<!--QuoteBegin-daicehawk
вчера специально сгенерил чистый DCoffset -сампл и сделал фейд ин для проверки утверждения, что низкое разрешение фейдеров поганит звук - сохранил 32флоат открыл ф форже и глянул -есть ли лестница, которая должна была появиться от низкого разрешения фейдера - ни фига подобного, интерполяция внутренняя происходит!!!!