建国前
1878年10月1日（清光绪四年九月六日）出生川沙镇内史第，早年父母双 亡。1887年随外祖父发蒙，接受传统教育。迫于生计，年未弱冠，即在家乡任塾师。1899年时在松江府以第一名取中秀才。1901年入南洋公学﹐选读外文科﹐受知于中文总教习蔡元培。1902年后又中江南乡试举人。1903年返乡兴办小学堂。期间，开始接触严复翻译的《天演论》等新学书籍。次年在乡办校，因鼓吹反清被逮捕，一度入狱，在江苏巡抚“就地正法”批文到达一小时，由基督教外籍牧师保出，逃亡日本，一年后事息归国，继续兴办学校。1905年参加同盟会。辛亥革命前，先后创办和主持广明小学和师范讲习所、浦东中学，在爱国学社、城东女学等新教育团体和学堂中任教，并参与发起江苏学务总会。辛亥革命后，任江苏都督府民政司总务科长兼教育科长，后任江苏省教育司长，全力以赴改革地方教育，全面规划建设了省立高、中等学校和县立小学，省教育会副会长，上海申报馆旅行记者。1908年与童世亨等共同创办浦东电气股份有限公司，为浦东最早的供电设施。1913年发表《学校教育采用实用主义之商榷》，提倡教育与学生生活、学校与社会实际相联系。1914年2月至1917年春，他以《申报》记者身份在安徽、江西、浙江、山东、北京、天津等地考察了五个月。随中国游美实业团体在美国考察了25个城市52座学校，广泛接触各界人士，尤注重考察美国的职业教育。
1915年4月，随农商部“游美实业团”赴美报聘，考察教育，撰写《旅美随笔》。黄炎培还到日本、菲律宾、南洋各地考察。每次考察均有记录，并结集出版。他认为办教育如同治病，知病源才能开好药方，做到对症下药。“外国考察，读方书也；国内考察，寻病源也。方书诚不可不读，而病所由来，其现象不一，执古方治今病，执彼方治此病，病曷能已。”所以，他都是从中国实际需要出发进行考察。1917年赴英国考察，同年5月6日，联络教育界、实业界知名人士在上海发起中华职业教育社。次年，创建中华职业学校。此后数十年时间的教育和社会活动主要通过中华职业教育社来展开。1921年被委任教育总长而不肯就职。曾参与起草1922年学制，进行乡村建设实验和筹办南京高等师范学校、河海工程专门学校筹备主任（现河海大学）、国立东南大学（现南京大学）、上海商科大学（现上海财经大学）、厦门大学等高校。1931年“九一八”事变后，黄炎培积极投入抗日救亡运动﹐创办《救国通讯》﹐宣传爱国主义﹔组织上海市民维持会（后改为上海地方协会）﹐支持淞沪会战。1941年，与张澜等人发起组织中国民主政治同盟，一度任主席。
1945年又与胡厥文等人发起成立中国民主建国会。同年7月应邀访问延安。写成《延安归来》一书，如实介绍延安。
1946年在上海创办比乐中学，探索兼顾升学和就业双重准备的普通中学。至1949年前，先后又创办重庆中华职校、上海和重庆中华工商专校、南京女子职业传习所、镇江女子职校、四川灌县都江实用职校等。
建国后
新中国成立后，黄炎培破“不为官吏”的立身准则，欣然从政。1949年9月出席中国人民政治协商会议。中华人民共和国成立后﹐历任中央人民政府委员﹑政务院副总理兼轻工业部部长﹑全国人大副委员长﹑全国政协副主席﹐中国民主建国会中央委员会主任委员等职。1965年12月21日病逝于北京。骨灰安放于北京西郊八宝山革命公墓，夫人姚维钧的骨灰也安放于此。
曾创办有“人文图书馆”，1933年，筹建新馆，实业家叶鸿英捐款40万元，改名“鸿英图书馆”。收藏以社会科学、历史及关于近代史料为主。至1946年，藏有报纸136种、杂志3604种、图书5万余册。私人藏书丰富，古籍法帖珍品不少。所藏魏晋、唐、宋碑帖数种，名人书画等，毛泽东曾借过其收藏王羲之书法真迹。
黄炎培文章峭拔清健、傲岸不群。笔歌墨舞、酣畅淋漓。诗初学温、李，继复寝馈李、杜。思力沉厚，趣味隽永，章调铿锵。兴到落笔，虽语必工，富于著述。著作有《黄炎培考察教育日记》、《新大陆之教育》、《东南洋之新教育》、《中国商战失败史》（合作）、《中国教育史要》、《黄炎培考察教育日记海环游记》、《断肠集》、《蜀道》、《抗战以来》、《延安归来》、《学校教育采用实用主义之商榷》、《黄炎培教育考察日记》、《中华职业教育社宣言书》、《八十年来》、《南洋华侨教育商榷书》、《我之人生观与吾人从事职业教育之基本理论》、《中国关税史料》、《对外贸易史料》、《淞沪抗日史料》，诗集《断肠集》、《苞桑集初稿》、《红桑》等。家乡故居建有纪念馆。