确实，楼主提供的信息不够，无法判断。不过可以根据楼主提供的三张照片猜一下。
三个信号的频率都是50kHz。正弦波的幅度是0.6V。方波的输出类似微分，最大值是1V。三角波的输出类似电容耦合的方波，最大值是0.5V。
由于AGC电路的放大倍数依赖反馈的AGC电压，而AGC电压是将输出整流滤波得到的。显然，正弦波的放大倍数是比较稳定的，所以输出相对正常。而方波与三角波的放大倍数都不正常：在一个周期开始的时候放大倍数很高，输出的是方波或三角波的一部分，而后放大倍数迅速下降，导致输出波形不正常。
如果这个猜测是准确的，那么问题就在于：AGC电压产生部分的滤波电路时间常数太小。