Après avoir commencé des études de séminariste, interrompues pour des raisons familiales, il devint libre-penseur. S'engageant en politique en devenant socialiste du parti ouvrier, il abandonna ce dernier en devenant anarchiste en 1888. En 1894, il est jugé lors du Procès des trente et sera acquitté. En 1895, il cofonde, avec Louise Michel, Le Libertaire. Lors de l'affaire Dreyfus, il fut l'un des leaders du combat dreyfusard. En 1904, il crée près de Rambouillet une école libertaire dénommée « La Ruche ». En 1914, il commence à diffuser des tracts pacifistes et antimilitaristes contre la guerre, appelant à la désertion parmi les troupes. Il arrête après avoir subi des pressions policières menaçant spécialement ses proches portant l'uniforme. En 1916, il lance le périodique Ce qu'il faut dire. En 1918, il est emprisonné pour avoir organisé un meeting interdit.