Karel Otto Hrubý se narodil 15. května 1916 ve Vídni. Studoval práva na Karlově univerzitě v Praze od roku 1935, ale studium nedokončil z důvodu uzavření českých vysokých škol během německé okupace v roce 1939. Přestože začal studovat práva, své povolání nasměroval k uměleckému směru.

Během okupace působil jako jazzový hudebník, ale po uzávěrce českých vysokých škol byl v roce 1941 totálně nasazen v rámci Moravy. Po skončení války se začal věnovat fotografii a stal se fotoreportérem v novinách Rovnost. V roce 1947 pracoval jako kameraman dokumentárních a reklamních filmů v Brně a později jako divadelní fotograf. Od roku 1951 do roku 1977 učil fotografii na Škole uměleckých řemesel v Brně (ŠUŘ) a dalších školách. Během té doby také pracoval jako profesionální fotograf, specializující se na novinářskou, reportážní a technickou fotografii.

Hrubý vynikl ve volné fotografii jako krajinář a tvůrce momentek zahrnovaných pod pojem "poezie všedního dne". Publikoval recenze na fotografické výstavy a odborné texty. V roce 1974 spolu s Antonínem Hinštem vydal teoretickou knihu "Krajinářská fotografie". Po odchodu do důchodu se přestěhoval na chalupu do Senotína v jižních Čechách, kde se věnoval také malířství.

Karel Otto Hrubý zemřel 19. července 1998 v Senotíně.