Το όνομά του είναι συνώνυμο του Παναθηναϊκού και η πρώτη επαφή του με το «τριφύλλι» έγινε σε μικρή ηλικία. Μετά από παρένθεσή δύο ετών στον Απόλλωνα Σμύρνης, όπου είχε δοθεί δανεικός για να «ψηθεί», επέστρεψε στην Παιανία και έγινε αναπόσπαστο μέλος της ομάδας για τα επόμενα πέντε χρόνια.
Την πρώτη σεζόν επιστροφής στους «πράσινους» σκόραρε έξι φορές στο πρωτάθλημα και τη σεζόν 2000-2001, εμφανίστηκε και στα δώδεκα παιχνίδια του Παναθηναϊκού στο Τσάμπιονς Λιγκ.
Το καλοκαίρι του 2003 θέλησε να ανοίξει τα φτερά του στο εξωτερικό. Επόμενος σταθμός της καριέρας του ήταν η Ιντερ όπου έκανε αξιόλογες εμφανίσεις. Στον ιταλικό σύλλογο έμεινε για δύο χρόνια. Στο μεταξύ μεσολάβησε το 2004 η κατάκτηση του Euro 2004 από την Εθνική Ελλάδας.
Ο ''Κάρα'' σημείωσε το πρώτο γκολ της ''γαλανόλευκης'' εναντίον της Πορτογαλίας, βοηθώντας την Ελλάδα να κερδίσει 2-1, αλλά ήταν τιμωρημένος στον τελικό, όπου η ομάδα του σήκωσε το τρόπαιο νικώντας πάλι τους Πορτογάλους.
Στα δύο χρόνια του στο Μιλάνο ο Καραγκούνης εξελίχθηκε, αν και δεν κατάφερε πραγματοποιήσει τις προσδοκίες που είχε πηγαίνοντας εκεί.
Το 2005 άλλαξε ομάδα και χώρα. Η Μπενφίκα θα στέγαζε τον ''Κάρα'' για τα επόμενα δύο χρόνια. Οι Πορτογάλοι του πρόφεραν το τρίτο μεγαλύτερο συμβόλαιο της ομάδας και ταυτόχρονα το βάρος του ''10''. Την δεύτερη χρονιά του αγωνιζόταν συνέχεια βασικός, όμως η απόφαση είχε παρθεί.
Αφού ολοκλήρωσε την ευρωπαϊκή του περιπέτεια το 2007 γύρισε πίσω στην παναθηναϊκή οικογένεια. Μπορεί σήμερα να μην είναι στις βασικές επιλογές του Ζεσουάλδο Φερέιρα, ωστόσο όποτε καλείται είναι πάντα εκεί για να τα δώσει όλα για την ομάδα της καρδιάς του.
Παράλληλα συνεχίζει να φορά το εθνόσημο, το οποίο έχει τιμήσει όσο λίγοι, ενώ έχει περάσει τις 100 συμμετοχές.
Πηγή: sday.gr