1909 absolvierte Kohlhoff eine Lehre in der Königlichen Porzellan-Manufaktur in Berlin und arbeitete zunächst autodidaktisch als Maler. Erste Erfolge feierte er auf der Großen Berliner Kunstausstellung 1914 sowie bei weiteren Ausstellungsteilnahmen der Freien Sezession und der Berliner Sezession. 1918 gründete er mit seinen Freunden Franz Heckendorf, Bruno Krauskopf und Harry Deierling eine Kunstschule. Er hatte Wohnsitze in Berlin und Heidelberg. 1919 wurde ihm der „Große Preußische Staatspreis“ verliehen, was mit einem Ankauf der Berliner National-Galerie verbunden war. Auf Vorschlag von Lovis Corinth wurde Kohlhoff in den Vorstand der Berliner Secession gewählt. Neben Museen und Galerien erwarben auch Corinth, Kollwitz und Liebermann Bilder von ihm. 1932 zeigte die Galerie Fritz Gurlitt eine Einzelausstellung seiner Werke. 1935 bis 1936 hielt sich der Künstler in der Türkei auf, um an einem Denkmal für Kemal Atatürk zu arbeiten, wurde dann aber zur Rückkehr aufgefordert. Bis 1939 schuf er diverse Fresken und Wandbilder für öffentliche Gebäude. 1937 wurden 8 seiner Bilder als „entartet“ erklärt. Als Kriegsberichterstatter und Kriegsmaler gelangte Kohlhoff 1939 nach Süd-Russland. 1943 verlor er seinen Sohn bei Kämpfen im Kaukasus und seine Mutter beim Luftangriff auf Berlin. Dazu wurde sein Atelier mit allen dort befindlichen Arbeiten zerstört. 1944 wurde Kohlhoff, der aus Krankheitsgründen 1943 aus der Wehrmacht entlassen wurde, wieder einberufen und gelangte in russische Gefangenschaft, aus der es ihm gelang zu fliehen.