Если есть возможность, идем стандартным путем: на вход- любой периодический сигнал (синус, пила или треугольник), на выход - что-нибудь похожее на осциллограф, при возникновении искажений идем с конца.
Судя по описываемому эффекту, у Вас идет смещение по постоянному току в выходном или...