En noviembre de 1918, fue elegido miembro del Gobierno de Trabajadores y Campesinos de Ucrania, Comisario del Pueblo Interno y Comunista de Ucrania y comandante del Distrito Militar de Járkov. En mayo de 1919, dirigió la campaña contra los bandidos de Grigoriev. En junio, fue nombrado comandante del 14º Grupo de Ejército. Pronto comandó la defensa de Katerinosra. Posteriormente se desempeñó como comandante de las líneas internas de Ucrania y dirigió la defensa de Kiev.
Voroshilov y Budyonny creían que un gran número de unidades de caballería eran flexibles y poderosas, y que el Ejército Rojo soviético debía formar un ejército de grupo de caballería considerable. Por lo tanto, cuando Budyonny hizo esta sugerencia al gobierno central, estuvo totalmente de acuerdo. En noviembre de 1919, Voroshilov fue nombrado comisario militar del Primer Ejército de Caballería. Budyonny dijo en sus memorias que Voroshilov "fue una de las figuras centrales que dirigió a todo el ejército en combate". "La composición especial de la unidad de caballería requiere el nombramiento de personas que no sólo tengan un prestigio político general, sino que también sean más o menos conocidas por su carrera militar y gocen de cierto prestigio. Voroshilov dirigió esta unidad para aplastar el ataque de". El ejército de Denikin. Liberó a Ucrania del ejército blanco polaco y eliminó las fuerzas de Wrangel.
Después de eso, Voroshilov trabajó durante mucho tiempo en el partido y el gobierno en el Ejército Rojo soviético. Desde 1924 se desempeñó como comandante del Distrito Militar de Moscú. Junto con Frunze y otros, participó en el liderazgo de la reforma militar. De 1925 a 1934, fue ascendido a Comisario del Pueblo del Ejército y la Armada y presidente del Consejo Militar Revolucionario de la Unión Soviética. Después de eso, se desempeñó como Comisario del Pueblo de Defensa de la Unión Soviética durante 6 años y dedicó muchos esfuerzos a fortalecer la construcción del ejército soviético.