Институт ведёт свою историю с 1894 г. Его образование связано с созданием в Российской империи новой для того времени отрасли промышленности – бездымное пороходелие. Основателем научной школы института является великий русский ученый Дмитрий Иванович Менделеев.
Институт был создан в результате реорганизации Центральной научно-исследовательской лаборатории № 84 Высшего Совета Народного хозяйства СССР в Ленинграде и получил название Военно-химический научно-исследовательский институт с подчинением Военно-химическому объединению (приказ по ВСНХ СССР № 544 от 17 августа 1931 г.). В январе 1932 г. ВХНИИ был передислоцирован в Москву.
В 1937 г. ВХНИИ был переименован в Научно-исследовательский институт № 6 (НИИ-6). В течение почти тридцати лет НИИ-6 был одним из головных НИИ в оборонно-промышленном комплексе страны. Его разработки внесли весомый вклад в победу русского оружия в Великой Отечественной войне. В течение многих лет НИИ-6 являлся единственной в стране научной организацией, обеспечивающей разработку и внедрение в производство порохов, взрывчатых веществ и изделий из них для снабжения Красной Армии. Ученые и специалисты НИИ-6 внесли значительный вклад в разработку и производство кумулятивных снарядов и гранат, зарядов для легендарных «Катюш», противотанковых гранат с зажигательной смесью.
За образцовое выполнение заданий Правительства по отработке технологий производства боеприпасов и в связи с 50-летием со дня основания институт Указом Президиума Верховного Совета СССР от 24 сентября 1944 г. награжден орденом Трудового Красного Знамени. Правительственные награды получили 78 работников.
В 1969 г. приказом министра машиностроения СССР В.В. Бахирева институт получил статус Центрального НИИ отрасли боеприпасов и специальной химии, став Центральным научно-исследовательским институтом химии и механики (ЦНИИХМ). В этом качестве в ЦНИИХМ были успешно решены две важнейшие задачи: разработан и внедрен программно-целевой метод планирования развития образцов вооружения и военной техники и управления отраслью с использованием уровневой идеологии; создан опережающий научный задел по основным направлениям развития боеприпасов и специальной химии. Важную роль играла и экспертная функция института, которая способствовала отбору лучших технических решений, сокращению сроков разработок и ликвидации параллелизма работ.
Во исполнение Указа Президента Российской Федерации от 22 июня 1993 г. № 939 «О государственных научных центрах Российской Федерации» Постановлением Правительства Российской Федерации от 11 июля 1994 г. № 816 Центральному научно-исследовательскому институту химии и механики присвоен статус Государственного научного центра Российской Федерации.