Smlouva nebyla vůbec formální. Hned 1. září 1939 Hitlerova vojska přepadla Polsko ze západu a 17. září z východu nastoupila Rudá armáda. V listopadu pak navíc Sovětský svaz napadl Finsko a v následujícím roce násilně anektoval i pobaltské státy. V červnu 1940 uplatnil nároky vůči Rumunsku, včetně Bukoviny a Besarábie. Po Hitlerově vítězství na západní frontě rostl německý zájem o jihovýchodní Evropu a ve vztazích mezi Německem a SSSR se začaly objevovat třecí plochy.

Při návštěvě ministra zahraničí Vjačeslava Molotova v Berlíně v listopadu 1940 navrhl Hitler SSSR jihoasijskou orientaci výboje, Molotovovi však šlo spíše o Finsko, kterého se Německo vzdalo v paktu ze srpna 1939, o Rumunsko, Bulharsko či průjezd Bosporem. Berlínské rozhovory ukázaly, že zájmy obou mocností byly těžko slučitelné. Führera Molotovova návštěva utvrdila v názoru, že Sovětský svaz stojí v cestě jeho plánům.

Operace Barbarossa

Operace Barbarossa, pojmenovaná po římském císaři z 12. století, začala 22. června 1941 ve 3:15. Zúčastnilo se jí přes 3,5 milionu vojáků, 3500 tanků a 3000 letadel. Na frontě od Baltu po Černé moře postupně zaútočilo 152 německých divizí a dvě brigády podporované 29 divizemi a 16 brigádami vazalských států (i vojenské jednotky režimu Jozefa Tisa na Slovensku). Operace měla podle Hitlera trvat několik týdnů. „Stačí kopnout do dveří a celá shnilá stavba se zhroutí," tvrdil.

Německé jednotky měly nad svým protivníkem zpočátku drtivou převahu. Za tři týdny kontrolovaly německé jednotky a jejich spojenci Pobaltí, rozsáhlé území Ukrajiny a Moldavsko a dostaly se ke vzdáleným přístupům k Leningradu (Petrohrad) a ohrožovaly Kyjev a Smolensk. Stalin byl zaskočený a k veřejnosti promluvil až po více než týdnu a v projevu konstatoval, že situace je smrtelně vážná.

Rudá armáda, oslabená na prahu druhé světové války rozsáhlými stalinskými čistkami, v počáteční fázi bojů skutečně utržila těžké ztráty. Přesto už v červenci nešlo všechno podle německých představ. Navzdory vysokým materiálním i lidským ztrátám sílil odpor sovětských vojsk, druhou závažnou překážku představoval pro Němce obrovský prostor Sovětského svazu. Wehrmacht měl přitom podle plánu postoupit tak daleko, aby se území Německa dostalo mimo dolet sovětských letadel.

Po napadení Sovětského svazu začalo prostřednictvím zabijáckých jednotek Einsatzgruppen vraždění Židů. Největším jednotlivým masakrem byla poprava více než 33.000 kyjevských židů v rokli Babí Jar koncem září 1941. Celkem tyto jednotky s pomocí místních milicí vyvraždili asi 1,2 milionu Židů a statisíce dalších sovětských občanů.

Bitva o Moskvu

Jedním ze zlomových okamžiků bojů na východní frontě byla krvavá bitva o Moskvu, při níž se sovětská metropole udržela za cenu obrovských vojenských a civilních ztrát. Dorážející německé jednotky zastavilo koncem listopadu 1941 až nepříznivé počasí a houževnatý odpor sovětských vojáků a obyčejných Moskvanů, odhodlaných padnout za vlast. V prosinci pak vyčerpaná německá vojska přešla do obrany a v následujícím roce německá ofenzíva uvízla definitivně u Stalingradu. Němci tak jednou provždy ztratili aureolu neporazitelného protivníka.

V kritické situaci se SSSR dostalo finanční i materiální pomoci od Spojených států a Velké Británie. Sovětskému vedení se rovněž podařilo přesunout průmyslovou výrobu na východ za Ural, kde nehrozilo nebezpečí nepřátelského napadení. Nevyčerpatelný lidský a průmyslový potenciál umožnil Sovětům obnovit síly a pokračovat v boji, což je považováno za jeden z rozhodujících aspektů druhé světové války. Německo a jeho spojenci si dlouhodobější válku na východní frontě nemohli dovolit.

Boje mezi Německem a SSSR zuřily až do německé kapitulace v květnu 1945. Velká vlastenecká válka, jak byl v Rusku bezmála čtyřletý konflikt proti Německu a jeho spojencům označován, si v SSSR vyžádala životy nejméně 26 milionů lidí včetně vojáků a vedla k zpustošení západní části země. Na německé straně bylo více než tři miliony padlých.