Terzogenito di Filippo il Bello, Carlo, conte della Marche, successe al fratello Filippo V il 2 gennaio 1322.

Dopo lo scandalo della torre di Nesle e l'annullamento del suo matrimonio con Bianca di Borgogna, sposò Maria del Lussemburgo, figlia dell'imperatore Enrico VII. Nel 1324, quest'ultima tuttavia non sopravvisse alla nascita del figlio Luigi, il quale morì a sua volta. Carlo sposò quindi in terze nozze Giovanna d'Évreux.

Per governare, dovette proseguire l'opera amministrativa del fratello Filippo V e assecondare le esigenze riformatrici della nobiltà e del clero. Le cariche della Camera dei Conti, del Parlamento, delle Istanze, della Cancelleria e dello Châtelet vennero riformate, gli ufficiali posti sotto sorveglianza. La burocratizzazione acquisì forte impulso e la ricerca di mezzi finanziari rimase un problema primario. Per trovare fondi, Carlo IV riunì le assemblee a Nord, nel Midi, a Meaux. Inviò dei riformatori per esporre i motivi della guerra ma anche accogliere le lagnanze dei sudditi contro gli ufficiali reali. Nel 1323, intervenne nella guerra di successione nelle Fiandre. Nel sud-ovest, dopo aver confiscato il ducato di Guienna a Edoardo II (1° luglio 1324), colpevole di non avergli reso omaggio, bisognerà attendere l'avvento di Edoardo III nel 1327 perché l'Inghilterra rientri in possesso del ducato dietro la promessa di un risarcimento.

Ultimo dei Capetingi diretti di discendenza padre-figlio dal 987, Carlo IV morì senza eredi maschi.