1896年与1898年，俄国透过《中俄密约》和《旅大租地条约》，取得在满洲境内修筑与经营铁路的权利。东省铁路(东清铁路、中东铁路)西起满洲里，经哈尔滨抵绥芬河。并有一南满支线自哈尔滨经长春、沈阳至大连、旅顺。日俄战争后，俄国将长春以南让给日本，成为南满铁道(简称满铁)。

　　当时无论是东清铁路还是南满铁道，俄国与日本皆将条约扩大解释，将铁路周围地区亦一并划入行政管辖，并兴建城市。

　　中华民国成立后，北洋政府逐渐收回铁路附属地的管辖权。1917年起陆续在吉林、黑龙江省的哈尔滨、中东铁路沿线布防，成立中东铁路警备司令部。1919年7月改设中东铁路护路军总司令部，以及哈长、哈满、哈绥三个分司令部。1917年俄国十月革命后，中国政府追随协约国立场，不承认苏俄政权，仍然继续遵守中国与沙俄的各种条约。

　　1920年3月中东铁路工人大罢工后，中国军队解除铁路沿线俄军武装，接管路务。10月31日北京政府收回司法权，颁布《东省特别区法院编制条例》，规定中东铁路附属地改称东省特别区，由司法部定为特别司法区，设东省特别区法院处理该区之司法案件。全区域分为五个区：第一区为哈尔滨。

　　1921年2月5日成立东省特别区市政管理局，下设满洲里、绥芬河、博克图、长春、穆棱、张家湾、一面坡、安达等9个市政分局，接管中东铁路沿线各地市政。

　　1922年2月28日中苏议定《中东铁路大纲》，收回中东铁路主权，规定中东铁路由中国政府设置机构管理。11月24日，东三省保安总司令部宣布，中东铁路沿线11-15公里以内区域，划为东省特别区，设东省特别区行政长官，由护路军总司令兼东省特别区行政长官监督区内之行政、司法、军警、外交机关。

　　1922年12月公布《东省特别区行政长官办事条例大纲》。1923年3月于哈尔滨正式成立东省特别区行政长官公署，随后于3月15日决定将中东铁路沿线各铁路交涉分局改为市政分局，4月1日实行市政分局办事章程。市政分局设于：长春、张家湾(今吉林省德惠)、一面坡、横道河子、穆棱(今穆棱镇)、绥芬河、满沟(今肇东)、安达、昂昂溪、扎兰屯、博克图、海拉尔、满洲里。

　　1924年5月，中央政府批准东省特别区独立于吉林、黑龙江省之外，为一省级的特别行政区域。

　　1926年3月解散俄国的哈尔滨市自治公议会及董事会，所有市有财产由东省特别区市政管理局接收，经过28年俄国治理后，至此收回全部行政权。9月1日，东省特别区行政长官公署宣布成立哈尔滨特别市(辖原俄国的市公议会管辖的区域)。

　　1932年日本占领满洲设立满洲国初期亦沿袭，之后随着苏联将东清铁路卖给满洲国，更名北满铁路，东省特别区亦随之更名为“北满特别区”。1933年东省特别区哈尔滨特别市、东省特别区市政管理局直辖区、吉林省滨江县、吉林省滨江市、黑龙江省松浦市合并为哈尔滨特别市，由满洲国国务院直辖。

　　1923年3月1日于哈尔滨设立东省特别区行政长官公署，1932年3月14日更名东省特别区长官公署。满洲国时期，1935年6月21日改为北满特别区公署，同年年底裁撤。首长称行政长官，掌理全区政务，负责军政、公安、司法、外交等行政事务，发布命令、制定特区内的法规、任免官员、管理军警。

　　公署内设秘书、政务厅，厅下设总务科、内务科、教育科、实业科、承宣处、电务处。公署下辖东省特区地亩管理局、市政管理局、铁路路警处、特区警察总管理处、哈尔滨交涉署、呼伦贝尔交涉局、吉林铁路交涉局、黑龙江铁路交涉局等。