Вообще мат, видимо, изначально не был ругательством, а имел обережный характер и применялся в ритуальных и магических действиях связанных с плодородием (отсюда и корень - "мат")
К средневековью, судя по всему, мат приобретает бранный смысл. Как уже упоминалось в теме, обнаружены несколько берестяных грамот, где употребляются подобные слова. Одна из грамот, если не ошибаюсь, датируется 12 в.