D'abord enseignant, Huysmans rejoint le Parti Ouvrier Belge vers 1893. Il est ensuite journaliste, puis assistant parlementaire. En 1910, il est élu député.

Parrallèlement, il sera secrétaire de la II° internationale de 1905 à 1921. A ce titre, c'est lui qui mettra l'existence du Bureau Socialiste International "entre parenthèses" durant la guerre mondiale. En 1917, il sera à l'origine de la réunion internationale "de Stockholm" qui visait à la reprise des relations socialistes internationales et qui sera un échec.

Dans l'entre-deux-guerre, Huysmans sera une des figures de la social-démocratie internationale. A ce titre, il mettra en oeuvre la collaboration entre socialistes et catholiques en Belgique.

En 1945, il devint Ministre d’Etat et Premier Ministre un an plus tard. Puis il assuma diverses autres fonctions gouvernementales et parlementaires jusqu’en 1965.