Наушники у меня полузакрытого типа и я разобрался с проблемой, оказалось что надо выставить в настройках Reaper не asio4all, а Yamaha steinberg usb ASiO, затем нажать asio configuration и с первой вкладки убрать галочку от слова MIX или через панель управления, как я выше писал в комментариях.