CoolEdit, как и большинство других программ, использует для ресамплинга полифазную фильтрацию. При этом параметр Quality влияет на длину фильтра. Если он велик, то фильтр длинный, в полосе пропускания АЧХ ровная, в полосе подавления анти-алиасинг сильный. Если Q мало, то фильтр короткий, АЧХ хуже, анти-алиасинг не такой сильный, но зато меньше звон, т.е. размазывание энергии по времени. Таким образом, Q обеспечивает управление этим компромиссом.
Когда же мы включаем Pre-post-filter, то мы добавляем в процесс еще один очень острый фильтр, который, в общем-то, не нужен: все функции фильтрации выполняет полифазный фильтр передискретизации. Таким образом, при включении pre-post-фильтрации мы утрачиваем контроль над звоном: он просто становится самым сильным из возможных. А о последствиях звона фильтров передискретизации много писали: ссылки есть на второй странице топика:
http://www.ruforum.net/?topic=18317:0. (Там все не так однозначно, но лучше его избегать на всякий случай).
Попробуйте не включать pre-post-filter и делать все при помощи Q. Уверен: при достаточных Q никакого алиасинга не будет. Сам я обычно использую значения в районе 80 - 150.