按照楼主所说，使用的直流电源应该是接近理想的电压源。
矛盾在于：如果直流电源是接近理想的电压源，那么A、B两点之间电压超过直流电源输出电压时，电流将“倒灌”，当然能量也倒灌。这样，A、B两点之间电压不可能超过直流电源输出电压。
所以，该直流电源不可能是接近理想的电压源。
不允许电流“倒灌”的直流电源，显然是非线性的。有一种可能是电源中串联了二极管(也可以是接成桥式的四支二极管)，而且二极管之后没有较大电容。这样，电流就不会“倒灌”。

不过，现实中遇到这样的电源，可能性非常非常小，可以排除。

另外一种可能，是开关接触点发生跳动，即：接通－>断开－>接通。发生跳动是因为接触点的弹性。
再假定电路中存在比较大的分布电感，例如使用了较长的联接导线。分布电感图中标注为Lx。

如果开关K是“接通－>断开－>接通”这样动作的，那么再添上电感Lx，可以解释尖峰产生。开关K接通，直流电源向电容C充电，此时分布电感Lx会流过较大电流。开关K又断开，分布电感Lx的自感电动势叠加在直流电源输出电压上，造成尖峰。然后开关K又接通，电压保持稳定。

另外，楼主的示波器是接在A、B两点，还是接在电容两端？
接在A、B两点之间，示波器上波形应该是水平直线上有一个尖峰。
接在电容两端，示波器上波形应该是个“台阶”，尖峰位于台阶前沿。

普通示波器是不可能测量3kV甚至5kV电压的。楼主必定使用了高压探头。如果探头和地线夹是接在电容两端，那么还有一种可能性：示波器探头的频率响应在高频段强而在较低频段弱。

别看楼主的问题好像非常简单，其实分析起来是相当麻烦的。要考虑到的因素相当多，而且不确定。