Rodil se je v znani narodnozavedni Kramarjevi hiši v Bistrici v Rožu na avstrijskem Koroškem. Že v zgodnji mladosti je vzljubil slovensko ljudsko pesem. Pri stricu župniku se je v dijaških letih navzel zavednega slovenskega mišljenja, da je vztrajal na učiteljišču kljub temu, da je zaradi širjenja slovenskega Einspielerjevega tednika “Mir” in zaradi kvarteta, ki ga je zasnoval in z njim prepeval slovenske pesmi, dobival ukore. V svojih službenih krajih v Št. Ilju ob Dravi, Kazazah, Gorjah in Čačah je poleg šole vse svoje moči in znanje posvetil slovenskim rojakom in jih učil sadjarstva, vrtnarstva in čebelarstva. Posebno pa je gojil petje in povsod ustanavljal pevske zbore, zbiral in harmoniziral koroške ljudske pesmi in jih vadil v svojih zborih, da so se ohranile in oživile. V Zilji, v Čačah pod Dobračem se je seznanil z Oskarjem Devom, ki je tedaj sestavljal svojo zbirko koroških pesmi. Dal mu je svoje zapise pesmi, prav tako tudi drugim zbirateljem. Tako so bile prvič objavljene pesmi: Čej so tiste stezice, Da b’ biva liepa ura, Dečva, to mi povej in še druge. Na Koroškem je Horvat ustanovil vsaj enajst pevskih zborov, s katerimi je razširjal slovensko kulturo. Nemški nacionalisti mu niso bili naklonjeni in pri svojem delu je imel veliko težav. Dosegli so, da je bil leta 1910 kljub odlični kvalifikaciji – za svojo metodo pouka v pisanju in branju je dobil priznanje – iz Ziljske doline premeščen v nemški Pontafel ob italijanski meji, češ da slovenski učitelj ni sposoben vzgajati nemške mladine v nacionalnem duhu. Ker drugega ni mogel, je s svojim družinskim pevskim zborčkom prepeval slovenske pesmi. Končno je tik pred prvo svetovno vojno (1913) prišel za nadučitelja v Globasnico in ob koncu leta 1918 ga je jugoslovanska vlada imenovala za nadučitelja na Prevaljah, kjer je bilo njegovo pomembno delo, da je preosnoval sedemrazredno nemško šolo, z dvema podružnicama na Fari in Lešah, v slovensko ljudsko šolo in s tem doživel zadoščenje za vsa zapostavljanja. Toda v času bojev za severno mejo je maja 1919 vdrl Volkswehr na Prevalje, oropal šolo in stanovanje, kmalu nato mu je zbolela žena in nenadoma sta mu umrla dva odrasla sinova. Leta 1922 je šel Horvat v pokoj in živel v Kamniku, kjer je na svojem posestvu gospodaril, vrtnaril in pisal.
- Venec koroških moških zborov. Kamnik, samozal., 1932.
- Slovenec, 9. 8. 1933, št. 179a, str. 3.
- Slovenec, 29. 7. 1938, št. 172a, str. 3.
- Suhodolčan Dolenc, Marija & Jukič, Margareta: Biografski leksikon Občine Prevalje. Prevalje, 2005, str. 161-162.
- Juvan, Alenka: Tam pri Celovcu —. Kamnik, 2020, str. 10.