Σπούδασε Νομικά στο Πανεπιστήμιο των Αθηνών, απ΄ όπου αποφοίτησε με άριστα το 1889, αποκτώντας τον τίτλο του διδάκτορα. Επιμορφώθηκε σε Γερμανικά πανεπιστήμια (Λειψία, Μόναχο, Γοτίγγη και Χαϊλδεβέργη). Παρακολούθησε μαθήματα Πολιτικών επιστημών και κοινωνιολογίας στα πανεπιστήμια Παρισίων και Λονδίνου. Ήταν πολύγλωσσος μιλούσε επίσης και Ιταλικά. Διέκοψε τις σπουδές του και επέστρεψε για να βοηθήσει την οικογένειά του λόγω πτώχευσης της επιχείρησης (σταφιδεμπορία) του πατέρα του. Ασχολήθηκε πλέον με τη δικηγορία, όπου διέπρεψε κυρίως λόγω της ρητορικής του δεινότητας.
Για πρώτη φορά το 1902, πολιτεύθηκε και εκλέχτηκε με ανεξάρτητο συνδυασμό. Ήταν καινοτόμος και ιδιαίτερα προοδευτικός. Η παρουσία του έκανε αμέσως αίσθηση και ο έμπειρος εκδότης της εφημερίδας Ακρόπολης, Γαβριηλίδης του παρεχώρησε βήμα σε 3 συνεχόμενα φύλλα, για να παρουσιάσει τις θέσεις του. Το 1906 επανεκλέγεται με το Θεοτοκικό κόμμα. Η ομάδα του ονομάστηκε, Ομάδα των Ιαπώνων, λόγω της μαχητικότητάς των. (Στεφ. Δραγούμης, Π. Πρωτοπαπαδάκης, Χαρ. Βοζίκης, Εμ. Ρέπουλης, Απ. Αλεξανδρή κ.α.
Το 1908 έγινε Υπουργός των Οικονομικών. Λόγω της απόλυτα δημοκρατικής του πεποιθήσεως αρνήθηκε να συμπράξει με το κίνημα του Γουδή, όταν του προτάθηκε η πολιτική ηγεσία της έκτακτης κυβέρνησης απάντησε : “Πρέπει να έλθω δια του λαού”
Με την άφιξη και είσοδο του Ελ. Βενιζέλου στην πολιτική, εγκατέλειψε την πολιτική καθοδήγηση του Στρατιωτικού Συνδέσμου. Στις εκλογές του 1910 εκλέχτηκε και πάλι Βουλευτής Πατρών. Συγκρούστηκε με τον Βενιζέλο σε θέματα εξωτερικής πολιτικής αλλά και σε άλλους χειρισμούς που αφορούσαν δανεισμό της Ελλάδος. Το 1915 συμβαίνει η ρήξη Βασιλέως και Βενιζέλου κυρίως λόγω διαφωνίας σε θεμελιώδη θέματα εξωτερικής πολιτικής.
Διετέλεσε υπηρεσιακός πρωθυπουργός και υπουργός σε κυβερνήσεις που σχηματίστηκαν κατά τη διάρκεια του Εθνικού Διχασμού, μετά όμως την επιτυχή έκβαση του Κινήματος της Εθνικής Άμυνας και την φυγή της βασιλικής οικογένειας εξορίστηκε στην Κορσική. Επέστρεψε στην Ελλάδα το 1919 για να συμμετάσχει ως ηγέτης του Λαϊκού Κόμματος στις εκλογές, στις οποίες και εξελέγη σχηματίζοντας λίγο αργότερα κυβέρνηση. Κατά τη διάρκεια της διακυβέρνησής του αποφασίστηκε η συνέχιση της μικρασιατικής εκστρατείας, η οποία και οδήγησε στην οικονομική χρεοκοπία, στην ήττα από τον τουρκικό στρατό και την ανατροπή της κυβέρνησης. Μετά την εγκαθίδρυση του νέου καθεστώτος, παραπέμφθηκε μαζί με άλλα κυβερνητικά στελέχη σε έκτακτο στρατοδικείο και στις 28 Νοεμβρίου 1922 εκτελέστηκε. (Δίκη των έξι)
Ανηψιός του ήταν ο, μετέπειτα πρωθυπουργός, Παναγιώτης Κανελλόπουλος.