sintomoさん、お世話様です。
ちょっとレスが遅すぎたでしょうか？

退職月の社会保険料は徴収しないのですが、
文面を読みますと当月の保険料を当月給与からその会社では
徴収されているという意味でいいでしょうか？
（４月分の保険料を４月給与から徴収）

上記の前提でご質問にお答えします。

私も退職月に賞与の支給があったケースがあり、
退職後数年経ってから本人から指摘がありました。
（賞与分も社会保険料徴収不要になります）
振込口座を訊いて返金しました。
源泉徴収票のことまでは気が回りませんでしたが、
おっしゃるように訂正すべきと思います。

何かありましたら、また書き込みしてください。