早年读过两年私塾后，就参加劳动。1901年到江苏当海军。一年后赴东北，先后在大连青泥洼学机械、到旅顺枪炮局当机匠。后又辗转到华东进英人独资办的津浦铁路浦镇机厂当钳工。俄国十月革命后，开始接触新思想、阅读《新青年》等进步刊物。“五四”运动后，开始投身工人运动。1920年底起，开始筹办工会。1921年3月，浦镇机厂工会成立，被选为工会副会长、会长，从此更积极地领导工人开展经济斗争。1922年春，率浦镇机厂工会加入中国劳动组合书记部北方分部。当年6月，加入中国共产党，成为津浦铁路第一个工人党员。不久成为浦口党小组负责人之一。在他组织领导下，很快便成立了浦口铁路工会、工人俱乐部，他把全部精力都投入工会工作中去。

1923年1月，在全国工人运动的高潮中，带领浦镇机厂工人、联合浦口码头工人举行了一次规模较大的罢工，并取得胜利。1月底，代表津浦铁路总工会筹备组赴郑州参加京汉铁路总工会成立大会，会后即到津浦铁路沿线各站传达会议决定，组织工人响应京汉铁路大罢工。回到浦镇后即召开党组织秘密会议，决定再次发动“两浦”工人大罢工，以声援京汉铁路大罢工。“二七”惨案发生后，去上海转入地下活动。

1923年6月，赴广州出席中共第三次全国代表大会，当选为中央执行委员。7月，以中央特派员身份，参加中共上海地方兼区执行委员会的领导工作，任区执委会的委员长，与邓中夏等共同负责杭州、宁波、松江、无锡等地区的建党工作。9月，中共中央迁到上海后，任中央局委员，兼任中央工委书记，负责工运工作，直接领导铁路、海员和江苏、上海等地的工会工作。1924年1月，参加国民党上海执行部工作，任调查干部及办事员。5月，与李大钊、罗章龙等赴苏联莫斯科出席共产国际第五次代表大会，参加民族和殖民地委员会，会上与李大钊分别作了中国工人运动和民族革命问题的报告，和罗章龙等参加了在莫斯科举行的赤色职工国际大会。回国后，学习共产国际的经验，在上海组织红色救济会，救济因罢工失业的工人和被捕、遇难同志的家属。1925年1月，在上海参加中共第四次全国代表大会，向大会传达了共产国际第五次代表大会的决议，并当选为中央候补委员，与罗章龙一起负责全国铁路总工会的工作。2月，主持郑州全国铁路总工会第二次代表大会，并当选为中华全国铁路总工会委员长。

5月，参加第二次全国劳动大会，领导成立中华全国总工会，并当选为中华全国总工会执行委员。“五卅”运动时，领导上海工人运动，参与筹备成立上海总工会，发动25万工人罢工。6月，到郑州，以中央特派员身份参加中共豫陕区委的领导工作，并与王若飞、张昆弟等共同领导河南省的工人运动。1926年2月，在天津主持全国铁路总工会第三次代表大会。4月，奉中共中央之命领导海军中党的工作。5月，出席广州第三次全国劳动大会，参与制定关于中国工人运动的总策略，提出中国工人阶级当前的任务是援助国民革命军北伐，并当选为中华全国总工会执行委员。8月，任全国铁路工人运动中央特派员。

1927年春，接受党的委派，先后数次回福州指导福建建党工作，策应北伐军入闽，并指导福州工运、农运工作，做福州马尾海军的策反工作。北伐期间，参与组织领导了著名的上海工人三次武装起义。“四一二”反革命政变后，转往汉口，出席了中共第五次全国代表大会，当选为中央监察委员。6月，出席汉口第四次全国劳动大会，当选为中华全国总工会常委。8月7日，参加“八七”会议，当选为临时中央政治局委员。会后任中共中央北方局书记，并召开顺直省委会议、中心县委扩大会议，传达“八七”会议的精神。

10月，为北方局拟定了工人武装起义计划，秘密建立北京总工会。10月，他与北方局、北京市委18名领导干部相继被捕。在狱中，他受尽酷刑，坚贞不屈。1927年11月11日深夜，他在北京安定门外被枪杀。他视死如归，临刑时站立不跪，放声高呼“打倒军阀反动统治！”“中国共产党万岁！”“世界革命成功万岁”等革命口号。1949年12月11日，中央人民政府将烈士的遗骨移葬八宝山革命公墓，周恩来亲临主祭。