1 августа Германия объявила войну России. 2 августа Отдельная гвардейская кавалерийская бригада сосредоточилась под Люблином, откуда Лейб-гвардейский уланский полк конным порядком проследовал в город Красник, а в ночь с 6 на 7 августа пришла телеграмма о том, что и Австро-Венгрия объявила войну России.
17 августа Маннергейм получил приказ об удержании города Красник, который был стратегически важным узлом, лежавшим к югу от железной дороги Ивангород (Демблин) — Люблин — Хелм (Холм), и, по возможности, провести разведку неприятельских сил. Выдержав первый удар превосходящих сил врага (австрийцы в течение нескольких часов мощно атаковали позиции спешенного лейб-уланского полка), Маннергейм при помощи подоспевшего подкрепления в виде двух стрелковых полков, провёл своей кавалерией стремительную атаку, обратив врага в бегство. Только в плен было захвачено около 250 солдат и 6 офицеров неприятеля. Уланы потеряли в этом бою 48 человек, из них семь офицеров, в том числе своего командира, генерала Алабешева. За этот бой при Краснике генерал-майор Маннергейм приказом командира 4-й армии был награждён золотым Георгиевским оружием.
После поражения у Красника австрийцы мобилизовались и организовали чрезвычайно плотную оборону перед правым флангом 4-й армии, в связи с чем рейды русской конницы в тылы противника практически прекратились. Каждая разведывательная операция превращалась в затяжной бой. Хорошей характеристикой командирских качеств Маннергейма может служить выход из окружения под селом Грабувка. С наступлением темноты Маннергейм собрал старших офицеров и разделил на карте кольцо окружения на 20 секторов, назначив ответственного за каждый сектор офицера. После чего поставил задачу добыть в каждом секторе «языка». Около полночи в распоряжении Маннергейма оказалось по одному пленному австрийцу из каждого сектора. Проанализировав ситуацию, около двух часов ночи гвардейцы прорвали окружение в самом слабом месте и к утру присоединились к 13-й кавалерийской дивизии.
В августе 1914 года за успешные действия генерал-майор Маннергейм награждается орденом Святого Станислава 1-й степени с мечами и получает мечи к уже имеющемуся ордену Святого Владимира 3-й степени.
22 августа Густав встретился с бывшей возлюбленной, графиней Шуваловой (она возглавляла госпиталь Красного Креста в Перемышле). Встреча оставила неприятный осадок.
В одном из боёв, за город Янув, что в 75 км от Люблина, Маннергейм, оценив обстановку, провёл так называемую «звёздную атаку» на город. Он «показал» австрийцам, что медленно и основательно наступает на город крупными силами сразу с нескольких сторон. Введённый в заблуждение, засуетившийся противник, в спешном порядке начавший перегруппировываться для организации обороны, «прохлопал» атаку гвардейцев Маннергейма, прорвавших оборону в местах, где не было «показано наступление». Влетевшие в город кавалеристы посеяли панику в оборонительных порядках австрийцев, которые спешно покинули город. В азарте, преследуя отступающего врага, уланы попали под сильный огонь, понеся значительные потери. В том числе погиб штаб-ротмистр Бибиков, любимец высшего женского общества Варшавы. Когда же известие о гибели Бибикова докатились до Варшавы, графиня Любомирская написала Густаву гневное письмо, в котором обвиняла генерала в том, что он пренебрегает жизнями офицеров, заведомо обрекая их на гибель своими «необдуманными приказами». Отдельные же высшие офицеры из разного рода штабов наоборот, считали, что Маннергейм уклоняется от боёв с противником. Что же касается самих подчинённых Густава Карловича, то на этот счёт у них было своё мнение, отличное от «женского» и «высоконачальственного». Когда Маннергейму был вручён 18 декабря Георгиевский крест 4-й степени, гвардейцы по этому поводу сложили стихи:
Крест Георгиевский белый
Украшает Вашу грудь;
Есть чем Вам, жестокий, смелый
Бой с врагами помянуть.
Речь идёт о форсировании 9-й армией реки Сан, где благодаря проявленной Маннергеймом инициативе была обеспечена переправа войск на правый берег реки. Когда же офицеры спрашивали его, почему он неуязвим для пуль и снарядов, барон отвечал, что у него есть серебряный талисман и дотрагивался до левого нагрудного кармана: там лежала серебряная медаль 1896 года, медаль участника коронации его императорского величества Николая II.
11 октября российские войска неожиданно начали операцию, вошедшую в историю как Варшавско-Ивангородская операция, в результате которой австрийско-немецкие войска потерпели серьёзное поражение. В конце осени бригада Маннергейма занимала позиции по реке Нида, где и встретила Новый год. Офицеры бригады преподнесли в подарок своему командиру серебряный портсигар, «на счастье».
1915 — германское командование, обеспокоенное крупными успехами России в Галиции, предприняло серьёзную перегруппировку своих сил в пользу Восточного фронта. Генштаб немецкой армии также переместил свою ставку в Силезию, близ границы с Австрией (город Плесс). Командование российской армии в лице командиров Юго-Западного фронта начало передислокацию войск, и Отдельная Гвардейская кавбригада Маннергейма выдвинулась в Восточную Галицию и в конце февраля вошла в состав находившейся в 60 км к юго-западу от Самбора 8-й армии под командованием его старого знакомого А. Брусилова, который назначил Густава Карловича временно исполняющим обязанности командира 12-й кавалерийской дивизии вместо выбывшего из строя по причине ранения генерала Каледина. При назначении Густава на этот пост Брусилову пришлось преодолевать определённое сопротивление офицеров Генерального штаба, которые называли его[кого?] «лошадиной мордой»[источник не указан 169 дней]. Несмотря на всё это, Высочайший указ о назначении Маннергейма командиром дивизии поступил 24 июня. Маннергейма, принявшего командование дивизией, в штабе 2-го кавалерийского корпуса, находившегося в районе Станислава, ввёл в обстановку командир корпуса генерал Хан Нахичеванский. 2-й корпус, помимо 12-й кавдивизии Маннергейма, включал отдельное соединение из шести кавказских полков, которое получило название «Дикой дивизии», и командовал ею брат императора Великий князь Михаил Александрович.
12-я кавалерийская дивизия состояла из двух бригад, в каждой из которых было по два полка, по словам Маннергейма, «великолепных полка с богатыми традициями». Ахтырский гусарский полк вёл свою историю с 1651 года, Белгородский уланский полк — с 1701 года, Стародубовский драгунский полк — с 1783 года, казачий полк состоял из оренбургских казаков. «Хотя мне и пришлось отказаться от хорошего воинского соединения, я склонен был считать, что новое, полученное мною, ничуть не хуже; на мой взгляд, оно было абсолютно подготовлено к военным действиям», — отмечал в своих мемуарах Густав Карлович. Штаб дивизии имел отличную репутацию и никогда не терял присутствия духа. Тон в работе задавал начальник штаба Иван Поляков, который требовал от подчинённых офицеров настоящей самоотдачи при выполнении заданий.
12 марта, вечером, Маннергейм получил приказ командира 2-го кавалерийского корпуса о смене 1-й Донской казачьей дивизии, державшей оборону около посёлка городского типа Залещики, что находился в 45 км от города Черновцы. Здесь «в гости внезапно» к Маннергейму попытались нагрянуть командующий 9-й армией генерал Лечицкий и генерал Хан-Нахичеванский, но австрийцы, обнаружив автомобиль командующего, открыли артиллерийский огонь, в результате которого автомобиль был разбит, а Хан-Нахичеванский получил контузию. Вблизи этого посёлка части Маннергейма держали оборону до 15 марта, после чего их сменила 37-я пехотная дивизия.
17 марта, вечером, поступила телеграмма из штаба армии, согласно которой Маннергейм должен форсировать Днестр вблизи деревни Устье и соединиться там с корпусом генерала графа Келлера. 22 марта части Маннергейма, уже переправившись через Днестр и захватив селения Шлосс и Фольварок, вынуждены отойти под ураганными контратаками противника. Накануне в ответ на вежливое напоминание офицера Маннергейма офицеру Келлеру о боевом приказе, о совместных действиях, граф ответил: «Я помню о поставленной нам задаче». Когда же Маннергейм, видя, что силы противника превышают его силы более чем вдвое, обратился к Келлеру с просьбой о поддержке, то получил странный ответ: «Сожалею, но распутица мешает мне помочь вам». Маннергейму пришлось отойти обратно на левый берег Днестра, а понтонную переправу сжечь. О случившемся барон отправил рапорт (донесение № 1407) в штаб 2-го кавалерийского корпуса, где подробно изложил и эту операцию, и действия Келлера. Но генерал Георгий Раух, судя по всему, всё спустил «на тормозах». Ведь когда-то Георгий Раух был шафером на свадьбе Густава, а его сестра Ольга поддерживала тесные связи с женой Густава Ариной Араповой. После разрыва Маннергейма с женой Раух и его сестра прекратили отношения с Густавом. Видимо, для генерала Рауха мнение женщины в тот момент перевесило долг офицера и командира. Так воевали некоторые русские генералы в Первую мировую. В своих мемуарах Маннергейм этот эпизод отметил крайне скупо, практически «без фамилий».
С 26 марта по 25 апреля дивизия Маннергейма стояла на отдыхе в деревне Шупарка. Учебных занятий было немного, но сам барон неоднократно показывал высочайший класс в соревнованиях по стрельбе из различных видов стрелкового оружия.
25 апреля барон был временно назначен командиром сводного кавалерийского корпуса, составленного из 12-й дивизии Маннергейма, Отдельной гвардейской кавалерийской дивизии и бригады Заамурской пограничной стражи, перед которым была поставлена задача форсировать Днестр и совместно с Сибирским корпусом вести наступление на город Коломыя. В процессе наступления части Маннергейма взяли город Заболотов на реке Прут, в котором стояли достаточно долго.
18 мая барон получил следующую телеграмму: «Генералу свиты ЕИВ барону Густаву Маннергейму. Хочу видеть моих ахтырцев. Буду 18 мая в 16.00 поездом. Ольга». Почётный караул во главе с Маннергеймом находился на станции Снятын в ожидании военно-санитарного поезда № 164/14 с великой княгиней Ольгой Александровной несколько часов, но поезд так и не подошёл. Было решено начинать торжества — в одном из амбаров были накрыты праздничные столы. В разгар пиршества в амбар тихо вошла женщина в платье сестры милосердия и присела за стол рядом с Маннергеймом, благо, один из офицеров вовремя её узнал и предложил стул. Княгиня наклонилась к Густаву: «Барон, Вы же знаете, что я не люблю церемоний. Продолжайте обед и не забудьте налить мне вина, я ведь знаю, что Вы галантный кавалер, не в пример нашим общим знакомым… И прошу простить за опоздание — мой поезд не пропустили из-за боязни немецких налётов. Я села на лошадь — Вы меня как наездницу знаете — и вот у Вас с моим ненужным мне конвоем… И прикажите пригласить к столу моих опекунов». Торжественный обед продолжился и весьма хорошо. Первой парой в первом полонезе выступали Густав и Ольга. На следующий день состоялся торжественный парад ахтырцев. Великая княгиня Ольга Александровна была из числа тех женщин, которых никто не забывал. Сохранилась подаренная Густаву фотография с памятной надписью княгини: «… Посылаю Вам снятую в период войны карточку, когда мы больше встречались и когда, как любимый начальник 12-й кавалерийской дивизии, Вы были вместе с нами. Это напоминает мне о былом…».
20 мая новый приказ: «В связи с общим отступлением армий Юго-западного фронта вам следует перейти в район город Войнилова, где войти в состав 11-го армейского корпуса». Прикрыв переправу наших войск через Днестр, 12 дивизия Маннергейма стала прикрывать отход 22-го армейского корпуса в сторону реки Гнилая Липа. «Июньские бои наглядно продемонстрировали, насколько развалившейся была армия: за всё это время у меня в подчинении перебывало поочерёдно одиннадцать батальонов, причём боеспособность их раз от разу снижалась, и большая часть солдат не имела винтовок», — вспоминает в своих мемуарах Густав Карлович.
28 июня барон получает приказ организовать оборону в районе деревни Зазулинце. Дивизия Маннергейма была усилена двумя «дикими бригадами» из хозяйства Хан-Нахичеванского. Одной из этих кавалерийских бригад командовал Пётр Краснов, другой — Пётр Половцев. Во время сражения бригада Краснова просто не выполнила приказ Маннергейма атаковать противника. По версии самого барона, Краснов просто «берёг» своих горцев, по другой — горцы не хотели идти в атаку в пешем строю. В любом случае по окончании боя великий князь Михаил Александрович осудил действия Краснова.
Отступление проходило тяжело, моральный дух войск падал, то тут, то там случались случаи мародёрства, подстёгиваемого приказом великого князя Николая Николаевича использовать тактику «выжженной земли».
В конце августа 1917 «манчжурьский ревматизм» окончательно скрутил генерала, и он был отправлен на лечение в Одессу сроком на пять недель, оставив 12-ю кавалерийскую дивизию под командованием генерал-майора барона Николая Дистерло.
В сентябре 1917 был переведен в резерв как военачальник, неприемлемый в сложившихся условиях. В январе 1918 отправил прошение в отставку и отправился на родину в Финляндию.