В Красной Армии с 1919 года. Во время Гражданской войны – военный комиссар полка, бригады, работал в политотделе 46-й стрелковой дивизии, участвовал в боях с белогвардейцами на Южном фронте. В 1921-23 годах – военный комиссар полка, штаба 3-й стрелковой дивизии и штаба 1-го конного корпуса. В 1923-25 годах на Туркестанском фронте, военком кавалерийской бригады, командир частей особого назначения Хорезмской группы войск, которые успешно сражались с бандами басмачей. С июня 1925 года по февраль 1926 года — начальник политотдела 7-й кавалерийской дивизии.

В 1926 году окончил курсы усовершенствования высшего начальствующего состава при Военной академии имени М.В. Фрунзе и в 1929 году – восточный факультет той же академии.

В 1929-36 годах Г.М. Штерн состоял для особо важных поручений при наркоме по военным и морским делам (с 1934 года — наркоме обороны СССР).

Приказом наркома обороны СССР № 2396 от 20 ноября 1935 года Г.М. Штерну присвоено персональное военное звание «комдив».

В 1937—38 годах Штерн Г.М. под фамилией Григорович – главный военный советник при республиканском правительстве во время национально-революционной войны испанского народа 1936—39 годов.

С мая 1938 года комкор Штерн Г.М. — начальник штаба Дальневосточного фронта, руководил боевыми действиями войск в районе озера Хасан в 1938 году. Командо¬вал 1-й отдельной Краснознамённой армией на Дальнем Востоке.

В 1939 году Г.М. Штерн возглавлял фронтовое управление, координировавшее действия советских войск на Дальнем Востоке и МНРА во время боёв с японскими милитаристами в районе реке Халхин-Гол (11 мая – 31 августа 1939 года).

Указом Президиума Верховного Совета СССР от 29 августа 1939 года за мужество и героизм, проявленные при выполнении воинского и интернационального долга командарму 2-го ранга Штерну Григорию Михайловичу присвоено звание Героя Советского Союза, с вручением ордена Ленина. После учреждения знака особого отличия ему была вручена медаль «Золотая Звезда» № 154.

Во время советско-финляндской войны 1939-40 годов Г.М. Штерн командовал 8-й армией.

Постановлением Совета Народных Комиссаров Союза ССР от 4 июня 1940 года Штерну Г.М. присвоено воинское звание «генерал-полковник».

В январе – апреле 1941 года генерал-полковник Штерн Г.М. – командующий Дальневосточным фронтом, затем начальник Главного управления противовоздушной обороны Народного Комиссариата обороны СССР. Член ЦК ВКП(б) в 1939-41 годах. Депутат Верховного Совета СССР 1-го созыва.

7 июня 1941 года Г.М. Штерн арестован. На следствии он признал, что с 1931 года являлся участником заговора в РККА и германским шпионом…

28 октября 1941 года в посёлке Барбыш (ныне район города Самары) на основании заключения НКВД СССР Штерн Г.М. расстрелян в числе 20-и заключённых, вывезенных из осаждённой Москвы. Посмертно реабилитирован 25 августа 1954 года.

Награждён двумя орденами Ленина, тремя орденами Красного Знамени, орденом Красной Звезды и медалью «XX лет РККА».