Ljudsko šolo in gimnazijo je obiskoval v Novem mestu. Na filozofski fakulteti Univerze na Dunaju je med letoma 1893 in 1897 študiral slovansko in klasično filologijo ter leta 1898 doktoriral. Že kot študent je v reviji Dom in svet objavljal kritike in ocene slavističnih publikacij, mdr. je ocenil Hostnikov Ročni rusko-slovenski slovar, knjigo Ilirizem P. Kulakovskega in Jagićevo Istočniki dlja istorii slavjanskoj filologii.
Leta 1898 se je kot suplent zaposlil na državni nižji gimnaziji v Ljubljani, leta 1902 pa kot profesor na takratni deželni gimnaziji na Ptuju. Ob poučevanju je bil še upravitelj učiteljske knjižnice, blagajnik in kasneje predsednik podpornega društva Dijaška kuhinja. Kot zaveden Slovenec se je po letu 1918 zavzemal za slovenizacijo gimnazije in ohranitev popolne srednje šole na Ptuju. Leta 1922 je bil imenovan za ravnatelja ptujske gimnazije in to delo opravljal do upokojitve leta 1933.
Na Ptuju se je aktivno vključil v javno življenje. Vrsto let je bil delaven odbornik, tajnik in nato predsednik Narodne čitalnice. Tu so leta 1907 ustanovili Ljudsko knjižnico, ki je delovala kot javna knjižnica in je bralcem nudila predvsem kvalitetno slovensko literaturo; do leta 1918 jo je vodil poseben odsek pod vodstvom Komljanca in ob pomoči drugih čitalničarjev. Bil je tudi odbornik, od leta 1930 pa načelnik Posojilnice Ptuj (v letih 1883–1927 Hranilno in posojilno društvo). Nudila je ugodne poroštvene kredite slovenskemu kmečkemu prebivalstvu, ki je bilo v finančni stiski in so ga izkoriščali nemški oderuhi.
Leta 1903 je postal član, med letoma 1928 in 1939 pa je bil predsednik Muzejskega društva Ptuj, ki si je prizadevalo za raziskovanje, zbiranje in ohranjanje kulturne dediščine na Ptujskem. V tem času je muzej pridobil nekaj dodatnih prostorov, uredili so prostore za priročno knjižnico, izkopavali na Ptuju in v Hajdini ter pridobili latenske najdbe iz Formina in Stojnc. Komljanec je skupaj s Antonom Smodičem in Viktorjem Skrabarjem sodeloval v odboru za ustanovitev vinarskega muzeja v nekdanjem mestnem obrambnem stolpu ob Dravi (danes Miheličeva galerija), ki pa je bil odprt šele leta 1946. Za njegove zasluge ga je Muzejsko društvo imenovalo za svojega častnega člana.
Objavil je več člankov, v katerih je obravnaval predvsem teme povezane z gimnazijo, posojilnico in muzejem, napisal pa je tudi nekaj življenjepisov vidnejših Ptujčanov.
Umrl je na Ptuju in je pokopan na starem rogozniškem pokopališču.
F. K.: Dr. Josip Komljanec, Koledar družbe sv. Mohorja, 1947, str. 140–141.
Pomembnejši učenci novomeške gimnazije. V: 225 let novomeške gimnazije, 1971, str. 364–365.
