中共衡陽市委機構編制委員會辦公室的前身為成立于1952年7月的衡陽市整編委員會。
1956年改名為衡陽市編制委員會。"文革"期間,機構癱瘓。
1978年恢復設置市編制委員會,為市直一級機構,將市委組織部編制科改為編委辦公室,作為辦事機構,歸口組織部管理。
1983年機構改革時,衡陽市編委與衡陽地區編委合并組成新的衡陽市編制委員會,為市委、市政府直屬機構,歸口市委組織部管理,并改委員會制為主任負責制。
1990年9月,市編制委員會改名為市機構編制委員會,下設正縣級辦公室。同時,按中央、省的統一模式,又將主任負責制改為委員會制。
1992年7月,市機構編制委員會改名為中共衡陽市委機構編制委員會,下設正縣級辦公室。
1994年7月機構改革時,中共衡陽市委機構編制委員會辦公室列入市委工作部門,為市委機構編制委員會的常設辦事機構,既是市委的工作機構,又是市政府的職能部門,內設綜合科、行政機構編制科、事業機構編制科,下設市事業單位法人登記管理辦公室,定行政編制11名、事業編制4名。
2001年11月機構改革時,事業單位法人登記管理辦公室改為事業單位登記管理科(加掛衡陽市事業單位登記管理局牌子),為內設機構。改革后,市委機構編制委員會辦公室內設綜合科、行政機構編制科、事業機構編制科、事業單位登記管理科4個科,定行政編制14名、后勤服務事業編制1名。