Am 2. Januar 1322 tritt Karl, Graf von La Marche und dritter Sohn von Philipp dem Schönen, das Erbe seines Bruders Philipp V. an.

Nach dem Skandal um den Tour de Nesle und der Aufhebung seiner Ehe mit Blanka von Burgund ehelicht er Maria von Luxemburg, die Tochter des deutschen Kaisers Heinrich VII. Doch 1324 stirbt Maria von Luxemburg nach der Geburt ihres Sohnes Louis, der die Geburt ebenfalls nur um wenige Stunden überlebt. Karl heiratet in dritter Ehe Johanna von Évreux.

Um regieren zu können, muss er die von seinem Bruder Philipp V. begonnenen Verwaltungsreformen fortsetzen und den von Adel und Klerus erhobenen Reformansprüchen nachgeben. Die Einrichtungen des Rechnungshofes, des Parlaments, der Requêtes, der Kanzlei und des Châtelet werden reformiert und die Beamten überwacht. Es ist die Zeit einer schnell zunehmenden Bürokratisierung. Zu den wichtigsten Problemen gehört die Suche nach finanziellen Mitteln. Um Subsidien aufzutreiben, beruft er Versammlungen im Norden, Süden und in Meaux ein. Er entsendet Reformer, die Kriegsgründe darlegen oder auch Klagen von Untertanen gegen königliche Beamte entgegennehmen. 1323 beteiligt er sich am Flandrischen Erbfolgekrieg. Aufgrund der Weigerung Eduards II. von England, den Lehnseid zu leisten, kommt es im Südwesten nach der Konfiszierung seines Herzogtums Guyenne (1. Juli 1324) zum Konflikt. England wird dieses Herzogtum erst 1327 unter seinem König Eduard III. und gegen Abgabe eines Entschädigungsversprechens zurückerhalten.

Als letzter Vertreter der Hauptlinie der seit 987 bestehenden Kapetinger-Dynastie stirbt Karl IV., ohne einen männlichen Nachkommen zu hinterlassen.