Na početku [[Drugi svjetski rat|DrugogDrugoga svjetskogsvjetskoga rata]], Dönitz je imao na raspolaganju samo 57 podmornica od kojih su 22 bile sposobne za ratovanje na [[Atlantski ocean|Atlantskom oceanu]]. Podmornice su započele rat uspješno i samo u prvom mjesecu rata potopile su savezničke brodove težine 175.000 tona. Karl Dönitz je osobno je napravio plan uspjele operacije prodora u glavnu britansku mornaričku bazu [[Scapa Flow]], gdje je podmornica ''U-47'' pod zapovjedništvom [[Günther Prien|Günthera Priena]] potopila bojni brod ''[[HMS Royal Oak]]''. Izrazio je neslaganje prilikom izrade [[Norveška kampanja|plana za napad na Norvešku]], smatrajući da je osnovna uloga podmorničke flote napad na trgovačke brodove na glavnim pomorskim putevima, a ne čekanje u blizini norveške obale. Dana [[21. travnja]] [[1940]]. godine odlikovan je Viteškim križem. Nakon [[Bitka za Francusku|kapitulacije Francuske]], Dönitz dobiva baze za podmornice na njezinoj obali. Tonaža potopljenih brodova počela je rasti i dostigla 353.407 tona do [[listopad]]a [[1940]]. godine. U [[kolovoz]]u [[1940]]. godine, radi lakšeg zapovjedanja, Dönitz premješta svoj stožer u [[Pariz]]. Pred kraj [[1940]]. godine Njemačke podmornice su praktično postavile [[UK|Veliku Britaniju]] u bezizlazan položaj: tonaža potopljenih brodova nadvisivala je tonažu novonapravljenih brodova. Dönitz je do kraja [[1940]]. uspio povećati izgradnju podmornica od 2 na 6 mjesečno.
[[Datoteka:War Ensign of Germany 1938-1945.svg|mini|lijevo|220px|Zastava ''Kriegsmarinea'']]
Karl Dönitz je uživao veliku popularnost među podmorničarima. Osobno je dočekivao svaku podmornicu koja se vraćala u bazu i pozdravljao i razgovarao s posadom, a također je i uredio za podmorničare najbolje smeštajesmještaje za odmor i spavanje. Među časnicima podmorničke flote Dönitz je imao nadimke ''"Papa Karl"'' i ''"Lav"''.
Tijekom [[1941]]. godine njemačka podmornička flota postigla je ogroman uspjeh (preko 3.000.000 tona potopljenih brodova) i postavila Veliku Britaniju pred najveće iskušenje. Nakon ulaska [[SAD|Sjedinjenih Američkih Država]] u rat, Dönitz [[15. siječnja]] [[1942.]]. godine izdaje zapovijed da se potapaju i američki brodovi. Samo u siječnju [[1942.]]. godine potopljena su 303 broda s 330.000 tona težine. Nakon ostavke [[admiral]]a [[Erich Raeder|Raedera]], uz podršku [[Albert Speer|Alberta Speera]] i [[Hitler]]ovog vojnopomorskog ađutanta, [[30. siječnja]] [[1943.]]. godine Dönitz postaje zapovjednik ''[[Kriegsmarine]]a'' (''Oberbefehlshaber der Kriegsmarine'').
Po dolasku na čelo flote proveo je čistku u stožeru svih viših časnika koji su bili Raederovi istomišljenici. Dönitz se suprotstavio Hitleru, kada je htio rasformirati flotu površinskih brodova (odluka se odnosila samo na velike površinske brodove). Iako je postao admiral flote, prioritet mu je i dalje ostao zapovjedništvo nad podmorničkom flotom. Početkom [[1943]]. godine podmornice su ponovo zabilježile velike uspjehe potopivši [[Saveznici u Drugom svjetskom ratu|Savezničkesavezničke]] brodove u težini od 627.000 tona. [[6. travnja]] [[1943]]. godine dobiva hrastovo lišće za Viteški križ. Međutim već sljedećeg mjeseca situacija u borbi za Atlantik se preokrenula u korist Saveznika. U svibnju Saveznici povećavaju aktivnost u borbi protiv podmornica i tog mjeseca uspijevaju uništiti čak 41 njemačku podmornicu. GubiciGubitci u svibnju su natjerali su admirala Dönitza da povuče svoje podmornice sa središnjeg Alantika. U periodu lipanj-kolovoz situacija je ostala ista, pri potapanju 60 savezničkih brodova Nijemci su izgubili 79 podmornica. Nakon Savezničkog [[Dan D|desanta na obale Francuske]], Dönitz je pripremio nekoliko podmorničkih napada na brodove u [[La Manche]]u u kojima je potopljeno 5 eskortnih brodova, 12 velikih transportnih brodova i 4 desantna broda uz gubitak od 82 podmornice. Krajnja bilanca rata za Atlantik bio je poraz njemačkih podmornica. Od 820 podmornica koje su djelovale na Atlantiku u periodu od [[1939]]. do [[1945]]. godine uništeno je 784 podmornica, a od 39.000 podmorničara poginulo ih je skoro 32.000. [[19. travnja]] Dönitz evakuira svoj stožer iz [[Berlin]]a, a [[20. travnja]] posjećuje Hitlera da mu čestita 56. rođendan. Prije''[[Führer]]'', prije nego što jesi sebije oduzeo život [[29. travnja]] [[1945]]. godine ''[[Führer]]'', postavlja Dönitza za svogsvoga zamjenika na mjestu predsjednika [[Treći Reich|Reicha]] i zapovjednika vojske. Dönitz [[2. svibnja]] [[1945]]. godine premješta svoj ured u zgrade vojnopomorske škole u [[Flensburg]]u. Jedan od razloga zašto je svoju [[Flensburška vlada|novu kancelariju predsjednika]] postavio čak u Flensburgu je taj što su mu osiguranje davale mornaričke jedinice (Dönitz se plašio udara [[SS]]-a ili ''[[Luftwaffe]]a''). IstogIstoga dana ([[2. svibnja]] [[1945]].) novi vođa Reicha formira novi kabinet na čelu s [[Lutz Graf Schwerin von Krosigk|von Krosigkom]].
U uvjetima neizbježne kapitulacije Reicha, Dönitz se trudio sklopiti primirje sa zapadnim Saveznicima i da izvuče što veći broj stanovništva s teritorija kojeg će zauzeti [[Crvena armija|sovjetska vojska]]. Dana [[8. svibnja]] [[1945]]. godine preko radija je objavljena opća kapitulacija Njemačke.
