Rok 1914 przyniósł Prusom Wschodnim wojnę niewidzianą na tych ziemiach od czasów napoleońskich. Mocarstwa Europy, konkurując o wpływy polityczne i poszerzenie swych terytoriów, prowadziły wyścig zbrojeń, któremu podporządkowano gospodarkę. W wyniku rosnącego potencjału wojskowego zawiązywano sojusze. Porozumienie zawarte w 1894 r. pomiędzy Francją a Rosją przewidywało wspólne prowadzenie wojny przeciwko Niemcom. Francja zobowiązała się do udzielenia kredytów na rozbudowę rosyjskiej armii oraz pomocy w zaopatrzeniu. W zamian Rosja zobowiązała się do podjęcia działań militarnych przeciwko Niemcom w przypadku niemieckiego ataku na Francję. Niemcy i Austro-Węgry zawarły sojusz wzajemnej pomocy: Niemcy wspomóc mieli Austrię na wypadek wojny z Rosją, a Austria Niemców na wypadek ataku Francji. Zabezpieczenie południowej granicy teoretycznie gwarantował Niemcom sojusz z Włochami. Iskrą, która roznieciła I wojnę światową, był zamach w Sarajewie (28 czerwca 1914 r.), w którego wyniku zginął austriacki książę Franciszek Ferdynand i jego małżonka. W konsekwencji tego wydarzenia 1 sierpnia 1914 r. Niemcy wypowiedziały wojnę Rosji. Gdy 4 sierpnia 1914 r. niemieckie wojska przekroczyły granicę neutralnej Belgii i kierowały się na zachód, wiadomym stało się, że Rosja musi wypełnić swoje zobowiązania. Do pierwszych potyczek granicznych doszło już 2 sierpnia 1914 r. w okolicach Prostek, 4 sierpnia w okolicach Kibart, 5 sierpnia w okolicach Działdowa i 9 sierpnia w okolicach Białej Piskiej. Działania te nie miały żadnego znaczenia strategicznego, ale wywołały panikę wśród ludności Prus Wschodnich i falę uciekinierów na zachód. Niemieckie dowództwo znało rosyjskie zobowiązania wobec Francji i przewidywało rosyjski atak na Prusy Wschodnie z dwóch kierunków – z południa i ze wschodu. Niemiecki plan obronny Prus Wschodnich opracowany przez feldmarszałka Alfreda von Schlieffena zakładał powolne tempo mobilizacji Rosji, co miało dać Niemcom czas na zakończenie operacji na zachodzie i przygotowanie się do odparcia rosyjskiego ataku. Obronę Prus Wschodnich powierzono 8 Armii dowodzonej przez gen. Maximiliana von Prittwitza und Gaffron.

W skład 8 Armii wchodziło 13 dywizji piechoty i 1 dywizja kawalerii. Rosyjski plan ataku na Prusy Wschodnie zakładał uderzenie z dwóch skrzydeł. Od strony Niemna 17 sierpnia 1914 r. wkroczyła do Prus I Armia dowodzona przez gen. Paula von Rennenkampffa. Od południa atakowała II Armia dowodzona przez gen. Aleksandra Wassiljewicza Samsonowa. Rosyjskie siły liczyły razem 21 dywizji piechoty i 10 dywizji kawalerii. Zadaniem I Armii było odcięcie niemieckich wojsk od garnizonu w Królewcu, zaś zadaniem II Armii uniemożliwienie odwrotu niemieckich wojsk za linię Wisły. Wypełnienie obu zadań miało doprowadzić do okrążenia wojsk niemieckich. Pierwsza bitwa rosyjsko-niemiecka rozegrała się pod Stołupianami 17 sierpnia 1914 r. Rosjanie ponieśli ciężkie straty. Na polu bitwy poległo ponad 6 tys. rosyjskich żołnierzy. Następna bitwa odbyła się 20 sierpnia 1914 r. pomiędzy Gąbinem (obecnie Gusiew) a Gołdapią.

Po obu stronach walczyły w niej równe siły, wynoszące po 4 korpusy. Bitwa nie została rozstrzygnięta. Generała Prittwitza zniechęciła jednak bezskuteczność krwawych walk jego południowego skrzydła. Na wieść o wkroczeniu rosyjskiej II Armii dowodzonej przez gen. Samsonowa i marszu na Olsztyn, co zagrażało jego tyłom, rozkazał przerwać bitwę i wycofać główne siły niemieckie za linię Wisły. Jeszcze tego samego dnia Rosjanie ruszyli na zachód, ale nazajutrz gen. Rennenkampf zatrzymał swoje oddziały i dopiero po dwóch dniach ruszył w kierunku Królewca. W tym samym czasie gen. Samsonow zmienił kierunek marszu swoich oddziałów z północnego na północno-zachodni, co oddaliło obie armie od siebie do ponad 120 km. Brak sprawnej komunikacji i wzajemna niechęć generałów Samsonowa i Rennenkampfa uniemożliwiały właściwą koordynację obu armii. Generał von Prittwitz został odwołany ze stanowiska 22 sierpnia 1914 r. Zastąpił go gen. Paul von Hindenburg. Szefem sztabu 8 Armii został gen. Erich von Ludendorff. Wojska niemieckie rozpoczęły przegrupowanie, aby nie dopuścić do połączenia obu armii rosyjskich. Hindenburg, licząc na bezczynność Rennenkampfa, odciągnął od niego prawie wszystkie siły, aby zapewnić sobie w ten sposób przewagę liczebną nad Samsonowem. Armia Samsonowa maszerowała w trzech kolumnach. Przy organizacji marszu popełniono wiele błędów, np. brak synchronizacji działań korpusów, brak rezerwy do dyspozycji dowództwa. Niemcy przechwytywali telegramy radiowe i znali zamiary przeciwnika. Niemieckie dowództwo planowało okrążenie sił gen. Samsonowa. Aby ten cel osiągnąć, musieli działać szybko. Wykorzystując kolej, dokonywali przegrupowania wojsk. Atakiem I Korpusu Armijnego gen. François 26 sierpnia 1914 r. pod Szymbarkiem rozpoczęła się sześciodniowa bitwa. Niemcy zdobyli Żabiny, Kozłowo i Płośnicę. Rosjanie wycofali się na pozycje pod Uzdowo. Tego samego dnia pomiędzy Lutrami a Biesowem oddziały niemieckiego XVII Korpusu i 6 Brygady Landwery zmusiły do odwrotu na południe rosyjski VI Korpus. Niemiecka operacja okrążania armii Samsonowa została zakończona 27 sierpnia. Po zaciętej walce Niemcy zdobyli Uzdowo i Turzno. Rosyjski I Korpus Kaukaski odparto, a pościg za nim trwał aż do wsi Burkart koło Działdowa. Zła łączność spowodowała, że Samsonow dowiedział się o walce pod Uzdowem i zmianie sytuacji dopiero po 24 godzinach. Na zachód od jeziora Kownatki, nieopodal Stębarka (niem. Tannenberg) XX Korpus niemiecki uderzył z powodzeniem na rosyjski XXIII Korpus.

Walki toczyły się również na północ od jeziora Mielno koło Ostródy, aż po Drwęck. Olsztyn został zajęty przez rosyjski XIII Korpus. Na wschodzie niemiecki I Korpus Rezerwy dotarł wieczorem do Barczewa, zaś XVII Korpus pod Biskupcem pokonał rosyjski VI Korpus, zaniechał jednak pościgu na Szczytno i zatrzymał się na noc pod Dźwierzutami. Krytyczny dla rosyjskich sił środka okazał się 28 sierpnia. Rosyjskie XXIII i XV Korpusy nie wykorzystały swego dotychczasowego powodzenia i zaczęły odwrót na linię Rzeczniów– Waplewo– Wysoki Kamień. W niekorzystnym położeniu znaleźli się Rosjanie w okolicach Olsztyna, bowiem Samsonow, otrzymawszy wiadomość o utracie Uzdowa i wycofaniu się I Korpusu do Mławy, nakazał całej swej armii odwrót. Było już jednak za późno. Wiadomość o okrążeniu i rozkaz odwrotu negatywnie oddziaływały na morale rosyjskich żołnierzy. Dzień później, 29 sierpnia, rozpoczęła się ich bezładna po części ucieczka w okoliczne lasy. Wojska niemieckie walczyły jeszcze 30 i 31 sierpnia w okolicach Nidzicy z dwoma rosyjskimi korpusami. Po ciężkich walkach Rosjanie wycofali się w kierunku Mławy. Były to ostatnie walki z oddziałami gen. Samsonowa. Straty Rosjan liczono na 40–70 tys. zabitych i rannych, 92 tys. żołnierzy dostało się do niewoli. Samsonow odebrał sobie życie. Cały ten ciąg bitew i potyczek z II Armią Samsonowa nazwano bitwą pod Tannenbergiem. Miała ona symbolizować niemiecki rewanż za bitwę pod Grunwaldem. Na chwałę swego zwycięstwa Niemcy wznieśli tu pomnik, który w 1934 r. stał się mauzoleum i miejscem pochówku głównodowodzącego niemieckimi siłami gen. Hindenburga. Po zwycięstwie nad II Armią Samsonowa Hindenburg zwrócił swoje uderzenie na I Armię Rennenkampfa, którego siły skupione były na przestrzeni 50 km i to naprzeciw znacznie dłuższego, oddalonego tylko o dwa dni marszu, lewego skrzydła frontu niemieckiego. Drugiego września Hindenburg wydał rozkazy do przegrupowania, którego celem było zgrupowanie sił na linii Orneta–Olsztyn–Pasym–Szczytno i następnie marsz równie szerokim frontem wzdłuż obu stron linii kolejowej Olsztyn–Wystruć. Oddziały niemieckie rozpoczęły marsz w wyznaczonym kierunku 4 września. Starcia rozpoczęły się 7 września i trwały do 14 września wzdłuż linii całego frontu. Walki te nazwano później „pierwszą bitwą nad jeziorami mazurskimi”. Już pierwszego dnia Niemcy zdobyli Białą Piską i podeszli pod Orzysz, który zajęli nazajutrz. Drugiego dnia pomiędzy lasami i jeziorami niemieckie natarcie posuwało się bardzo powoli. Generał François próbował szybkimi atakami kawalerii w kierunku północnym zamknąć okrążenie przeciwnika. Jednak w przeciwieństwie do Tannebergu, gdzie trafiał na zdezorganizowanego przeciwnika, napotkał tu rosyjskich strzelców, którzy efektywnie bronili swoich linii. Rennenkampf, który rozpoznał, że niebezpieczeństwo zagraża mu z dwóch kierunków – północnego i południowego – postanowił oszczędzać swoje siły i zarządził ogólny odwrót. Rosjanie wycofywali się, nie stawiając nigdzie oporu. Naciskana przez niemieckie wojska.

I Armia 13 września przekroczyła granicę, tym razem w odwrotnym kierunku. Rosjanie ponieśli wielkie straty, a po wycofaniu za Niemen armia Rennenkampfa była przez dłuższy czas niezdolna do walk. Pierwsza bitwa nad jeziorami mazurskimi nie zakończyła się sukcesem na miarę Tannenbergu, ale dała niemieckiej stronie szczęśliwą wiadomość – zdobycie kilku kilometrów rosyjskiego terytorium. Zmniejszyło to szok po klęsce nad Marną i awansowało Hindenburga i Ludendorffa do rangi bohaterów. Zwycięstwo nad dwoma rosyjskimi armiami nie doprowadziło do całkowitego wyparcia Rosjan z Prus Wschodnich. W listopadzie 1914 r. Rosjanie ponownie wkroczyli na Mazury i zajęli okręg Ełk. Linia frontu przebiegała od Lipawy, przez Welawę, okolice Węgorzewa, po jeziora mazurskie. W lutym 1915 r. doszło do nowych walk – Rosjanie zajęli Kłajpedę, Niemcy uderzyli na Ełk. Rozpoczęte 7 lutego 1915 r. działania nazwane „bitwą zimową na Mazurach” doprowadziły do oswobodzenia prowincji. Rosjanie nie wytrzymali naporu – wojska niemieckie wkroczyły do Gąbina, Ełku i Olecka. Były to ostatnie działania I wojny światowej na terenie Prus Wschodnich. Już do końca wojny Prusy Wschodnie nie znalazły się w strefie bezpośrednich działań wojennych.