Po śmierci Władysława kraj znajdował się w bardzo poważnym niebezpieczeństwie. Młody król praktycznie rządził tylko Wielkopolską i Małopolską. W Sieradzu i Łęczycy rezydowali jego stryjeczni bracia. Płock, podobnie jak wiele księstw śląskich, uznawał władzę Jana Luksemburskiego. Po wygaśnięciu rozejmu Polsce groził podwójny atak – ze strony Krzyżaków i Czechów. I jedni, i drudzy byli znacznie silniejsi od nie okrzepłego Królestwa Polskiego.
W tych warunkach Kazimierz rozpoczął panowanie od działań dyplomatycznych. Przedłużywszy rozejm z Krzyżakami, w sojuszu ze swym szwagrem – królem Węgier Karolem Robertem, podjął rokowania z Janem Luksemburskim. Wykorzystując zadłużenie króla czeskiego, za 20 000 kop groszy praskich uzyskał odeń na zjeździe w Wyszehradzie w 1335 roku zrzeczenie się pretensji do tronu polskiego. Sukcesem Kazimierza było to, że w umowie wyszehradzkiej nie znalazły się postulowane przez Czechów zobowiązania, na mocy których Polska miałaby się zrzec zhołdowanych przez Luksemburga (lub inkorporowanych, jak na przykład księstwo głogowskie) terytoriów Śląska i Mazowsza. Dopiero wobec zaognionych stosunków z Krzyżakami – w 1339 roku, ponownie w Wyszehradzie, pod presją Karola Roberta, występującego jako rozjemca – Kazimierz zrzekł się praw do Śląska i Mazowsza za cenę poparcia starań o rewindykacje na północy i odzyskanie części Kujaw.
Zręcznie manewrując doprowadził do powołania w tymże roku sądu papieskiego złożonego z przedstawicieli kurii, który rozpoczął obrady w neutralnej mazowieckiej Warszawie (po raz pierwszy wymienionej w źródłach z tej racji jako miasto). W ciągu siedmiu miesięcy przesłuchano licznych świadków, reprezentantów całego społeczeństwa – duchownych, urzędników, członków dynastii, rycerzy, mieszczan. Sprowadzeni z całego niemal kraju, odpowiadali na pytania ułożone przez Ślązaka Bertolda z Raciborza, ujawniając powszechne przekonanie o tożsamości politycznej Polski i Pomorza Gdańskiego. Akta procesu świadczą o wzroście świadomości narodowej i historycznej Polaków, o zrozumieniu przez nich spraw całego kraju. Sędziowie – legat papieski Galhard de Carceribus i Piotr, kanonik z Le Puy wydali wyrok przyznający Polsce i Pomorze, i ziemię chełmińską wraz z odszkodowaniem 200 000 kop grzywien. Zakon tego orzeczenia nie uznał, a jego ustępstwa wobec papieża w sprawie płacenia świętopietrza spowodowały zawieszenie wykonania wyroku. Kazimierz nic był na tyle silny, by dochodzić egzekucji siłą, a sprawy Rusi skłoniły go do kolejnego kompromisu. W 1343 roku zawarty został w Kaliszu „pokój wieczysty” z Krzyżakami. Polska odzyskała całe Kujawy i ziemię dobrzyńską. Pomorze król przekazał zakonowi jako „wieczystą jałmużnę”, a więc z uznaniem prawa własności Polski do tej ziemi.
W ówczesnej sytuacji pokój kaliski był dla kraju korzystny. Przywracał część utraconych ziem, zabezpieczał północne granice, stwarzał podstawy do ewentualnej dalszej akcji rewindykacyjnej. Na razie rozpoczął ją Kazimierz w kierunku Śląska, który praktycznie cały, poza księstwem świdnickim, był już w rękach Luksemburgów.
Wbrew rozpowszechnionej opinii aż po ostatnie lata życia Kazimierz próbował zbrojnie (wojna 1343, 1345-1348) czy dyplomatycznie odzyskać władzę nad Śląskiem. Udało mu się jedynie na stałe zająć Wschowę (1343), należącą zresztą historycznie do Wielkopolski, i utrzymać sojusz z ostatnim niezależnym Piastem – Bolkiem świdnicko-jaworskim. Przymierze z Wittelsbachami, rywalami Luksemburgów, załamało się wraz ze śmiercią cesarza Ludwika. Z jego następcą na tronie cesarskim i nowym królem czeskim, Karolem Kazimierz zawarł pokój w Namysłowie (1348). Jeszcze przed jego podpisaniem Karol ogłosił wcielenie całego Śląska do Korony Czeskiej. Zbyt zaś był silny, by Kazimierz mógł złamać tę decyzję zwycięską wojną. Pokój namysłowski utrzymał dotychczasowy stan rzeczy, zapewne jednak umożliwił Kazimierzowi rozciągnięcie zwierzchnictwa nad Mazowszem. Po śmierci Bolesława płockiego król polski wcielił jego dzielnicę do Korony i zholdował dwóch pozostałych książąt mazowieckich. W wyniku akcji rozjemczej nowego króla Węgier – Ludwika, siostrzeńca Kazimierza, zostało to przez Luksemburg uznane.
W trakcie starań o korzystne rozwiązanie tego problemu powstało jednak zagadnienie utrzymania niezależności Bolka świdnickiego od Czech. Król Polski podjął kolejną próbę wywarcia nacisku na Karola poprzez restrykcje ekonomiczne. Zamknął mianowicie poddanym cesarza drogę handlową na wschód. Mimo to Bolko już w 1353 roku zawarł sojusz z Karolem, przyrzekając mu po śmierci swoje dziedzictwo. Prawdopodobnie coraz większe trudności na wschodzie doprowadziły do pokoju w Pradze (1356), który, praktycznie rzecz biorąc, sankcjonował istniejący stan rzeczy, na sześćset lat odcinając polski Śląsk od reszty kraju. Nad Odrą utrwaliło się jednak poczucie związku z Polską, wzmocnione świadomością wspólnej historii, wsparte tradycją dynastii, języka, obyczajów i związkiem z metropolią gnieźnieńską. Mimo bowiem starań cesarza Karola, zmierzającego do podporządkowania Pradze diecezji wrocławskiej, udało się Kazimierzowi w wyniku energicznej akcji dyplomatycznej w 1360 roku utrzymać nad Śląskiem zwierzchnictwo Gniezna. Jeszcze w ostatnich latach życia król polski snuł plany zmierzające do odzyskania utraconej dzielnicy, występując do papieża o unieważnienie zrzeczeń „poczynionych ku szkodzie królestwa”. Zgoda kurii na ten postulat świadczy o sukcesie dyplomatycznym, nie wykorzystanym jednak z powodu rychłej śmierci króla.