1878년 평남 강서군 초리면에서 태어나 16세때 청일전쟁을 겪고 '힘을 길러야 한다'는 신념을 키워 나갔다. 상경 후 밀러학당(구세학당) 보통부에 입학, 영어와 서양의 선진 과학문명을 접했다.

1897년 독립협회에 가담해 서당 선배 필대은과 독립협회 관서지회 설립에 참여해 자신의 정치 및 사회사상을 키워나갔다. 이때 평양지회 결성식이 열린 평양 쾌재정(快哉亭)에서 정부와 탐관오리의 부정부패를 비판하고 개혁을 주장, 명성을 얻었다.

1898년 이상재, 윤치호, 이승만 등과 서울 종로에서 만민공동회(萬民共同會)를 개최해 새 시대의 도래와 새로운 민중의 자각을 외쳤으며 1899년 고향으로 돌아온 점진학교(漸進學校)를 세웠다. '점진공부와 수양을 계속해 민족의 힘을 기른다'는 교육목표를 설정한 점진학교는 우리나라 사람이 세운 최초의 초등과정 사립학교이며 남녀공학 학교였다.

1900년에는 미국에서 재미동포들의 생활혁명 운동에 전력했다. 도산은 교포들에게 진실과 협동 정신, 준법정신을 특히 강조했으며 대한 인공립협회(公立協會)를 만들고 공립신보(共立新報)를 창간해 동포의 조직과 지도에 힘썼다.

1905년 11월 을사조약 늑결(勒結) 소식을 듣고 국내에서 구국운동을 하기 위해 이듬해 귀국했다. 1907년 윤치호·이 갑·양기탁 등 애국 지사들과 정치적 비밀 결사인 신민회(新民會)를 조직, '대한매일신보'를 기관지로 민중운동을 전개했다. 또 평양에 대성학교(大成學校)를 설립하고 평양과 대구에 출판기관인 태극서관(太極書館)을 건립했으며 도자기 회사를 세우는 등 산업의 진흥에도 힘썼다.

1909년 8월에는 김좌진, 최남선 등과 함께 '청년학우회(靑年學友會)'를 조직, 민족계몽운동 및 지도자 양성에 힘썼다. 도산은 1909년 10월에 있었던 안중근(安重根)의사의 이토 히로부미 처단의거에 연루됐다는 혐의로 일제에 체포됐으며 1911년 미국망명에 오른다.

1912년 미국 샌프란시스코에서 대한인국민회 중앙총회를 조직한 도산은 신한민보(新韓民報)를 창간했으며 1913년에는 '흥사단(興士團)'을 조직했다. 흥사단은 민족대업의 기초작업을 위한 기관으로서 독립운동을 위한 실력을 양성하려는 조직이요, 운동이요, 또 그의 사상의 결정체였다.

1919년 3·1 독립운동 직후 상해로 건너가 상해임시정부 내무총장 겸 국무총리 대리직을 맡아 독립운동 방략 작성, 연통제 수립 등을 실행했다. 1928년 상해에서 이동녕, 이시영, 김구 등과 한국독립당(韓國獨立黨)을 창당하고 대공주의(大公主義)를 제창했다.

1932년 4월 윤봉길의사의 폭탄사건으로 일본경찰에 붙잡혀 4년을 복역한 후 대보산 송태산장(大寶山 松苔山莊)에 은거하면서 '동우회(同友會)'의 민족운동을 배후에서 조정했다. 1937년 6월 '동우회사건'으로 흥사단 동지들과 다시 일본경찰에 붙잡혀 수감중, 같은 해 12월 병보석 출감됐으나 이듬해 3월 지병인 간경화로 경성대학병원에서 만60세를 일기로 운명했다.