ちょっと違う回答もありますが、お書きになられている通り、源泉徴収及び納付は、実際に支払った日の翌月10日(毎月納付の場合)が期限となりますので、延滞でもなんでもありませんので、お書きになられている通りで間違いなく、実際に支払った月の翌月10日に納付すべき事となります。

但し、支払調書については、未払分(その部分は内書き)も含めて記載すべき事とはなります。
http://www.nta.go.jp/shiraberu/ippanjoho/pamph/hotei/tebiki2007/pdf/05.pdf