Rodil se je vasi Kilovče pod Premom pri Ilirski Bistrici. Letnica 1620 se sicer večkrat omenja, čeprav je verjetnejša letnica 1623, kar lahko razberemo iz napisa na nagrobniku v frančiškanski cerkvi v Novem mestu (v tlakih levega prednjega dela ladje). O tem, kje je hodil v šolo in kje študiral, ni znanega skoraj nič. Bil je župnik v Dolenjskih Toplicah, in sicer dvanajst ali trinajst let. Nato je prevzel vodstvo velike župnije Šentjernej, vendar se je že čez dve leti preselil v Novo mesto, kjer je postal kanonik kolegiatnega kapitlja.
Njegova osebnost je bila v 17. stoletju na Slovenskem med pomembnejšimi in med vsestranskimi. O njem poročata Janez Vajkard Valvasor in Marko Pohlin. Bil je živahna, nekonvencionalna osebnost, o čemer priča začetek njegovega lastnega nagrobnega napisa »Tukaj kanonik Matija Kastelec leži, ki še, ko je mrtev, ne molči«. Bil je prevajalec, pisatelj, pesnik, slovaropisec, jezikoslovec ter tudi stavbenik. Je prvi katoliški prevajalec celotnega Svetega pisma, ki pa ni bilo nikoli natisnjeno. Prevajal je tudi poezijo. V prepisu je ohranjen latinsko slovenski slovar (Dictionarium Latino – Carniolum), za katerega je gradivo zbral iz že obstoječih slovarjev, iz del protestantskih piscev, pa tudi neposredno iz narečij. S svojo prvo knjigo Bratovske bukvice sv. Roženkranca je sprožil bogato publicistično dejavnost, ki je izumrla po izgonu protestantov.
Kastelec je v Novem mestu namreč ustanovil bratovščino sv. rožnega venca, katere voditelj je bil sam. Pri deželnem tiskarju Mayerju je izšel njegov »Nebeški cilj« (1684), obsežna knjiga verskih premišljevanj, kjer se je trudil za bogat in živahen način izražanja, s čimer je v slovensko književnost vpeljal barok. Tretja Kastelčeva knjiga je »Navuk kristjanski«, ostali tiski pa niso ohranjeni. Simpatiziral je z novomeškimi frančiškani, med katerimi je bil tudi njegov rodni brat, p. Hiacint; bil je dobrotnik njegove cerkve in je v njej tudi pokopan.
Bratovske bukvice sv. Roženkranca, 1678
Nebeški cilj, 1684
Navuk kristjanski, 1688
Slovenski biografski leksikon: 1. knj.: Abraham-Lužar. Ljubljana, Zadružna gospodarska banka, 1925, str. 431.
Enciklopedija Slovenije: 5: Kari-Krei. Ljubljana: Mladinska knjiga, 1991, str. 12–13.
Faganel, J. Matija Kastelec – baročni književnik: skica za portret. V: Dolenjski zbornik: (500 let Kolegiatnega kapitlja v Novem mestu), 1996, str. 89–94.