Функции органов военного управления во времена Московской Руси выполняли чины походно-полевой службы, введённые в полках «нового строя» при царе Алексее Михайловиче в 1630-е годы, - полковые сторожеставцы и станоставцы. В середине XVII века полковых сторожеставцев и станоставцев по примеру армий западноевропейских государств стали именовать квартирмейстерами.
     В стройную централизованную систему квартирмейстерская служба сложилась в годы Северной войны (1700-1721 гг.). 9(20) февраля 1702 года в русской армии учреждается должность генерал-квартирмейстера, на которую назначается князь А.Ф. Шаховской. Тем самым было положено начало созданию системы органов оперативного управления, основными задачами которых были и остаются подготовка предложений по планированию применения войск и обеспечение управления ими в ходе боевых действий.
     Первоначально квартирмейстерские органы создавались только в штабах действующей армии (на период боевых действий). В мирное время подготовке квартирмейстеров уделялось мало внимания. Да и сам Генеральный штаб понимался тогда не как орган военного управления, а как собрание высших военных чинов.
     14(25) января 1763 года Екатерина II утвердила предложения военной комиссии и штат Генерального штаба. Впервые в истории русской армии создавался постоянно действующий орган военного управления, которому вменялось в обязанность в мирное время заниматься вопросами подготовки к будущим войнам. Вся последующая история квартирмейстерской службы связана с Генеральным штабом, в состав которого она неизменно входила при всех реорганизациях, а порой брала на себя и полное выполнение его функций (в период упразднения Генерального штаба с 1796 по 1827 год).
     В ходе военных реформ 60-70-х годов XIX века, получивших название «милютинских», департамент Генерального штаба был преобразован в Главное управление Генерального штаба (ГУГШ). Военный министр Д.А. Милютин, сам бывший «из квартирмейстеров», стремился превратить ГУГШ в свой рабочий орган, охватывающий все основные вопросы руководства вооружёнными силами в мирное и военное время.
     После неудачной для России войны с Японией восстанавливается должность начальника Генерального штаба как самостоятельного военного руководителя, подчинённого непосредственно царю. Его рабочим органом стало ГУГШ. Однако уже в 1908 году начальник Генштаба был вновь подчинён военному министру, а ГУГШ введено в состав Военного министерства.
     С началом Первой мировой войны благодаря деятельности ГУГШ в запланированные сроки были проведены мобилизация, сосредоточение и развёртывание войск на театрах военных действий. Из руководящего состава ГУГШ была сформирована Ставка Верховного Главнокомандующего. Две трети штаба Ставки составляли офицеры отдела генерал-квартирмейстера. Начальник отдела генерал-майор Ю.Н. Данилов стал генерал-квартирмейстером при Верховном Главнокомандующем. Накануне Октябрьской революции отдел генерал-квартирмейстера разделили. На отдел 2-го генерал-квартирмейстера возлагались вопросы военной разведки и контрразведки. В ведении отдела 1-го генерал-квартирмейстера остались только вопросы оперативного характера.
     Советская власть стала создавать собственные органы военного управления. Опыт и организаторские способности многих «старорежимных» военспецов были востребованы новой властью и заложили первоосновы штабной культуры органов оперативного управления советского периода. Достаточно сказать, что практически все создаваемые советской властью органы оперативного управления возглавлялись и укомплектовывались выпускниками императорской Академии Генерального штаба.
     Среди них - главнокомандующие Вооружёнными Силами республики И.И. Вацетис и С.С. Каменев, начальники Всероссийского главного штаба и Полевого штаба Реввоенсовета республики генералы Н.И. Раттэль, Ф.В. Костяев, А.А. Свечин, М.Д. Бонч-Бруевич, П.П. Лебедев, начальники оперативных управлений генералы Н.А. Сулейман, С.Н. Кузнецов, В.И. Михайлов, полковники С.А. Меженинов, Б.М. Шапошников. Всего в 1918-1920 годах в штате Генерального штаба РККА состояли 639 офицеров, в т.ч. 252 генерала.
     3 марта 1918 года для руководства обороной Советской Республики и организации Вооружённых Сил постановлением Совнаркома РСФСР был образован Высший военный совет. При Высшем военном совете в качестве рабочего органа создаётся штаб, начальником которого назначается генерал-майор русской армии Н.И. Раттэль. Оперативное управление штаба возглавил генерал Н.А. Сулейман (первоначально должность начальника оперативного управления называлась «генерал-квартирмейстер»), а его помощником по оперативной работе был назначен бывший полковник Генерального штаба Б.М. Шапошников (впоследствии Маршал Советского Союза, начальник Генерального штаба Красной Армии).
     В мае 1918 года происходит реорганизация центральных органов военного управления. Структуры бывшего Военного министерства, в том числе и ГУГШ, расформировываются, учреждается Всероссийский главный штаб (Всеросглавштаб), на который возлагаются решение вопросов мобилизации, формирования, устройства и обучения Красной Армии, а также разработка штатов, уставов, инструкций и положений для войск. В составе Всеросглавштаба также создаётся оперативное управление, сотрудники которого разрабатывали планы военных действий и инженерной обороны страны, готовили еженедельные оперативные сводки по фронтам, ежемесячные отчеты о проведённых операциях, карты расположения своих войск и войск противника, статистические описания военных округов.
     В результате оперативное руководство войсками оказалось децентрализовано и разделено между несколькими органами управления. Последующие решения были нацелены на устранение децентрализации.
     С октября 1918 года функционирует Полевой штаб Реввоенсовета Республики, его Оперативное управление становится единственным органом оперативного руководства войсками. Его первым начальником стал опытный генштабист, генерал русской армии В.И. Михайлов. С октября 1919 по февраль 1921 года Оперативное управление Полевого штаба возглавлял Б.М. Шапошников.
     В сентябре 1935 года вместо Штаба РККА создаётся Генеральный штаб РККА. В его Оперативном управлении, помимо пяти отделов по ТВД, были образованы отделы авиации и ПВО, морской, оперативной подготовки, связи, шифровальный.
     Именно в Оперативном управлении Генштаба в предвоенный период шла разработка основ стратегического развёртывания армии. Руководил этой работой непосредственно начальник Генерального штаба Б.М. Шапошников. Работа над этим важнейшим стратегическим документом протекала очень трудно. Борьба с «врагами народа», репрессии против работников Генштаба создавали атмосферу нервозности, неуверенности в правоте вырабатываемых решений. Достаточно сказать, что за четыре предвоенных года сменились восемь начальников Оперативного управления. В этом проявилась известная недооценка Сталиным и наркомом обороны роли Генерального штаба как основного рабочего органа Главного командования по оперативно-стратегическому планированию и руководству вооружённой борьбой. Только с назначением начальником Генерального штаба в феврале 1941 года генерала армии Г.К. Жукова отношение к Генштабу и его Оперативному управлению стало меняться в лучшую сторону.
     Великая Отечественная война нелегко далась коллективу Оперативного управления. Процесс становления нового стиля работы продолжался до осени 1942 года. Только к этому времени, как отмечает в своих мемуарах С.М. Штеменко, организационные формы Генерального штаба пришли в соответствие с содержанием его работы. Сложился опытный, работоспособный и дружный коллектив офицеров-операторов.
     Оперативное управление стало основным рабочим ядром, «задающим генератором» Генерального штаба. Ни один вопрос не решался начальником Генерального штаба, если он не был согласован с Оперативным управлением. В свою очередь Оперативное управление постоянно запрашивало мнение других управлений Генштаба и наркомата обороны и только после согласования всех вопросов по конкретной проблеме докладывало их начальнику Генерального штаба для принятия решения. В годы войны управление возглавляли такие выдающиеся военачальники, как А.М. Василевский, Н.Ф. Ватутин, А.И. Антонов, С.М. Штеменко.
     Оперативное управление накопило тогда богатейший опыт решения многих проблем планирования и организации боевых действий войск. Достаточно сказать, что за годы войны с его участием было разработано свыше 300 операций фронтов и групп фронтов, из которых более 50 относятся к разряду стратегических. Многие из них составили золотой фонд мирового военного искусства.
     23 марта 1946 года Оперативное управление реорганизуется в Главное оперативное управление Генерального штаба. Первым начальником ГОУ - заместителем начальника Генерального штаба был назначен генерал-полковник С.М. Штеменко. Неоднократно подвергаясь реорганизациям в последующие годы, Главное оперативное управление сохранило и упрочило свою роль ведущего органа управления войсками в мирное и военное время.