Ο Κάρολος Παπούλιας τελείωσε το δημοτικό σχολείο Πωγωνιανής και φοίτησε στα γυμνάσια Πωγωνιανής, Ζωσιμαίας Ιωαννίνων, Παλαιού Φαλήρου και 7ο Παγκρατίου Αθηνών. Η ναζιστική κατοχή τον βρήκε μαθητή του γυμνασίου Πωγωνιανής. Εντάχθηκε από τους πρώτους στην ένοπλη αντίσταση εναντίον των εισβολέων. Σπούδασε νομικά στα Πανεπιστήμια Αθηνών, Μιλάνου και Κολωνίας, όπου και αναγορεύθηκε σε διδάκτορα Νομικής.
Το στρατιωτικό πραξικόπημα του 1967 τον βρήκε στη Δυτική Γερμανία. Εκεί πρωτοστάτησε στην οργάνωση της Σοσιαλιστικής Δημοκρατικής Ένωσης Εξωτερικού, η οποία κινητοποίησε τους έλληνες εργαζομένους, φοιτητές και επιστήμονες της Δυτικής Ευρώπης εναντίον της χούντας των συνταγματαρχών. Υπήρξε, επίσης, ιδρυτικό μέλος της πρώτης συνδικαλιστικής αντιστασιακής οργάνωσης και ήταν ένας από τους τακτικότερους συνεργάτες της «Ντόιτσε Βέλλε».
Το 1974 επέστρεψε στην Ελλάδα και εντάχθηκε στο ΠΑΣΟΚ. Το 1977 εξελέγη για πρώτη φορά βουλευτής Ιωαννίνων και επανεκλεγόταν συνεχώς μέχρι τις εκλογές του 2004. Στις κυβερνήσεις του Ανδρέα Παπανδρέου διετέλεσε Υφυπουργός, Αναπληρωτής Υπουργός, και, από το 1985 έως 1989 και από το 1993 έως 1996, Υπουργός Εξωτερικών. Κατά τη διάρκεια της Οικουμενικής Κυβέρνησης ανέλαβε Υπουργός Αναπληρωτής Εθνικής Άμυνας (1989-1990), ενώ επί πρωθυπουργίας Σημίτη ήταν Πρόεδρος της Διαρκούς Επιτροπής Εθνικής Άμυνας και Εξωτερικών Υποθέσεων της Βουλής (1998-2004).
Κατά τη διάρκεια της μακρόχρονης θητείας του στο Υπουργείο Εξωτερικών διακρίθηκε για την πολυεπίπεδη εξωτερική πολιτική που άσκησε στο πλαίσιο των κυβερνήσεων Ανδρέα Παπανδρέου. Τη δεκαετία του '80 πρωταγωνίστησε σε όλες τις προσπάθειες επίλυσης του μεσανατολικού ζητήματος, με κορυφαίο γεγονός την επιτυχή διαμεσολάβηση του για την ασφαλή αποχώρηση των εγκλωβισμένων μαχητών της παλαιστινιακής αντίστασης και του ίδιου του Αραφάτ με ελληνικά πλοία από την Τρίπολη του Λιβάνου (1983).
Απέδωσε ιδιαίτερη σημασία στη δημιουργία στέρεων σχέσεων με τον αραβικό κόσμο και ήταν σταθερά προσανατολισμένος στη διαρκή και επίπονη προσπάθεια εξομάλυνσης των ελληνοτουρκικών σχέσεων (Μνημόνιο Παπούλια - Γιλμάζ το 1988). Την τριετία 1993-1996 υπήρξε σημαντική η συμβολή του στην έναρξη των ενταξιακών συνομιλιών της Κυπριακής Δημοκρατίας, ιδιαίτερα στον καθοριστικό για την ένταξή της συμβούλιο κορυφής της Ευρωπαϊκής Ένωσης στο Έσσεν.
Διατήρησε ανοιχτούς διαύλους επικοινωνίας με όλους τους Βαλκάνιους ηγέτες και λειτούργησε κατ' επανάληψη ως μεσολαβητής της Ε.Ε. Με δική του πρωτοβουλία πραγματοποιήθηκε η πρώτη διαβαλκανική διάσκεψη Υπουργών Εξωτερικών στο Βελιγράδι (1988), όπου πέτυχε την έναρξη συνομιλιών με τη Βουλγαρία και την τότε ΕΣΣΔ για τον πετρελαιαγωγό Μπουργκάς - Αλεξανδρούπολης. Αποκατέστησε σχέσεις φιλίας και καλής γειτονίας με την Αλβανία, αίροντας την εμπόλεμο κατάσταση που μέχρι τότε επικρατούσε στις ελληνοαλβανικές σχέσεις.
Ο Κάρολος Παπούλιας υποστήριξε με αμείωτο ενδιαφέρον κάθε θετικό βήμα προς την κατεύθυνση της ύφεσης της ειρήνης και του αφοπλισμού. Στο πλαίσιο αυτό εντάσσονται η «Πρωτοβουλία των Έξι ηγετών για την ειρήνη και τον αφοπλισμό» (Αλφονσίν, Ντελαμαντρίντ, Νυερέρε, Πάλμε, Γκάντι, Α. Παπανδρέου).
Στις εκλογές της 7ης Μαρτίου 2004 εξετέθη για μια ακόμη φορά υποψήφιος βουλευτής στο Νομό Ιωαννίνων, αλλά δεν εξελέγη. Στις 12 Δεκεμβρίου 2004 ο πρωθυπουργός Κώστας Καραμανλής τον πρότεινε για το ύψιστο αξίωμα της Πολιτείας. Την υποψηφιότητά του υποστήριξε και το ΠΑΣΟΚ. Στις 8 Φεβρουαρίου 2005, με 279 ψήφους επί συνόλου 300, εξελέγη Πρόεδρος της Ελληνικής Δημοκρατίας έως το 2010, διαδεχθείς τον Κωνσταντίνο Στεφανόπουλο. Ορκίστηκε και ανέλαβε τα καθήκοντά του στις 12 Μαρτίου 2005.
Ο Κάρολος Παπούλιας υπήρξε πρωταθλητής Ελλάδος στο άλμα επί κοντώ, παίκτης της εθνικής ομάδος του βόλεϊμπολ και πρόεδρος για 25 χρόνια του ιστορικού Εθνικού Γυμναστικού Συλλόγου (ΕΓΣ). Είναι παντρεμένος με την ψυχολόγο Μαρία Πάνου και έχει τρεις κόρες.
