Jozef Kollár se narodil 8. března 1899 v Banské Štiavnici, Slovensko, do prosté rodiny horníka. Po smrti otce mu bylo umožněno vystudovat gymnázium díky jeho kmotrovi. Během tohoto období začal projevovat zájem o malbu a později začal studovat umění v ateliéru malíře Elemíra Halász-Hradila v Košicích. Díky této zkušenosti mohl cestovat na výstavy světových umělců, studovat v letní umělecké škole v Nagybányi a dokonce navštěvoval Akademii výtvarných umění v Mnichově, ačkoli byl kvůli nepokojům nucen z akademie odejít.

Následně pokračoval ve studiu v Budapešti u profesora Júliuse Rudnaye. Po několika letech se vrátil do Banské Štiavnice, ale neměl žádné finanční prostředky. Pracoval v městském muzeu a maloval obrazy v okolní krajině. Jeho práce zahrnovala krajiny, portréty horníků a starších lidí.

Jozef Kollár uskutečnil svou první samostatnou výstavu v Košicích v roce 1931, která byla velmi úspěšná a umožnila mu strávit 8 měsíců stipendijního pobytu v Itálii, Německu a Rakousku. Po návratu se aktivně zapojil do uměleckých spolků a podporoval myšlenku zřídit uměleckou kolonii v Piešťanech. Po ukončení této iniciativy se vrátil zpět do Banské Štiavnice, kde žil a tvořil až do vysokého věku.

Jozef Kollár zemřel 21. října 1982 v Banské Štiavnici. Během svého života získal tituly Zasloužilý umělec (1957) a Národní umělec (1972, Československo) za svou významnou tvorbu v oblasti malby a krajinomalby.