Karel Müller se narodil 12. prosince 1899 v Praze, která tehdy byla součástí Rakousko-Uherska. Jeho otec byl učitelem. Již v mládí projevoval vášeň k četbě a kreslení, a jeho nadání bylo rozpoznáno během studií na pražské reálce, kdy profesor Josef Mandl ocenil jeho kresby.

Po absolvování Soukromé malířské školy Ferdinanda Engelmüllera v Praze pokračoval ve studiu na Akademii výtvarných umění v Praze (AVU) v letech 1918 – 1921, kde měl možnost učit se od umělců jako Vlaho Bukovac, Josef Loukota a Jakub Obrovský. Poté v letech 1921 – 1924 pokračoval ve studiu na AVU v grafickém ateliéru u Maxe Švabinského. Během svého studia se spřátelil s umělcem Cyrilem Boudou, s nímž si udržoval přátelství po celý život.

V roce 1925 získal stipendium od nadace Josefa Hlávky a strávil rok v Paříži, což ovlivnilo jeho tvorbu. Po absolvování státních zkoušek z pedagogiky začal pracovat jako středoškolský profesor kreslení na různých školách po celé republice, včetně měst jako Ústí nad Labem, Lučenec, Levice, Jindřichův Hradec, Vyškov, Kroměříž, Michalovce a Sušice. Od roku 1943 až do roku 1959 působil jako pedagog na Státní grafické škole v Praze.

Teprve poté, co odešel do důchodu, mohl se v Praze plně věnovat svému umění. Karel Müller žil na Malé Straně ve Vlašské ulici, kde se soustředil na tvůrčí činnost. Během léta trávil čas se svou manželkou ve Vraném nad Vltavou, kde vlastnil domek s ateliérem. Jeho přítel Cyril Bouda často k nim jezdil. Karel Müller byl jmenován čestným občanem města Vrané nad Vltavou.

Byl členem spolku Umělecká beseda a Sdružení českých umělců grafiků Hollar od roku 1932 až do svého úmrtí. Za svou celoživotní práci věnovanou zobrazování Prahy obdržel v roce 1971 cenu hlavního města Prahy. Rovněž byl oceněn nakladatelstvím Albatros a získal čestné uznání od ministerstva kultury za ilustrace knihy "Malý Wolfgang Amadeus" od rakouské spisovatelky Rotraut Hinderks-Kutscherové.

Karel Müller zemřel 17. května 1977 v Praze, kde strávil většinu svého života.