该军前身是 北洋军阀 孙传芳 所属“五省联军"一部。1926年12月， 国民革命军 进入 江苏省 境内时，北洋军阀孙传芳所属“五省联军"中的浙军第2师，投靠北伐军，被改编为 国民革命军第二十六军 。1928年9月， 北伐战争 结束后，该军缩编为国民革命军第6师。1933年3月，第6师扩编为 第8军 。第8军番号撤消后，第6师改隶驻赣 绥靖公署 直辖。
抗日战争
1937年8月， 抗日战争 全面爆发后，国民党军进行整编时，以第6师为基础组成第75军，下辖第6师， 周碞 任军长兼师长。该军组成后隶属 中国国民党 军事委员会直辖，参加了 淞沪会战 。1938年3月，该军由武昌葛店、 鄂城区 调往 山东省 ，参加了 台儿庄区 作战。此次作战后，新建预备第4师拨归该军建制。同年6月，该军参加了 武汉会战 。1939年初，该军进行整编时，第15军团第13师改隶该军。此时，该军下辖：第6师，张 任师长；第13师， 方靖 任师长；预备第4师， 傅正模 任师长。隶属 长江 上游江防司令部。此次整编后，该军隶属长江上游江防司令部，先后参加了 随枣会战 、1939年 百师大战 和 枣宜会战 等。1941年3月，该军隶属 中国人民解放军第二十六集团军 时， 周碞 任第26集团军总司令， 施北衡 继任军长，张珙、 柳际明 任副军长。同年9月，该军参加了第2次 长沙会战 。1942年10月，施北衡升任第26集团军副总司令，柳际明继任军长。在此期间，该军下辖第6、第13师和预备第4师编制不变。1943年春，该军进行整编，第13师与第86军第16师对调建制关系。此时，该军下辖：第6师， 沈澄年 任师长；第16师， 王中柱 任师长；预备第4师， 林曦祥 任师长。此次整编后，该军参加了 鄂西会战 和 常德会战 。1945年3月， 柳际明 任军长，陈守峰、沈澄年任副军长。此时，该军预备第4师被裁减，该军下辖：第6师，林曦祥任师长；第16师， 黄一华 任师长。1945年8月， 抗日战争 胜利后，该军改隶第6 绥靖区 ，进至 应城市 、 安陆市 、 天门市 等地接受日军的受降。
解放战争
1946年 国民党军 进行整编时，该军改编为整编第75师， 柳际明 任师长， 沈澄年 、 李仲辛 任副师长。原辖第6师改编为整编第6旅， 林曦祥 任旅长；原第16师改编为整编第16旅，陈志大任旅长。该师整编后隶属第6绥靖区，参加了对中原解放军的围攻迫击作战。同年9月， 柳际明 调离，沈澄年任师长，李仲辛任副师长。
1947年，国民党军对山东解放区 重点进攻 后，该军先后参加了泰蒙战役和 孟良崮战役 。同年11月该师编入 邱清泉 的整编第5军，参加了 陇海路战役 。1948年4月，该军调往 济南市 ，归第2 绥靖区 指挥，参加了胶济路中段作战。战役结束后开赴 徐州市 ，参加 豫东战役 ，在豫东战役中，该师师部及所辖第6旅、第16旅全部被人民解放军歼灭，师长 沈澄年 ，副师长兼兵团参谋长 林曦祥 等被俘。
此后，衡州绥靖公署在 浙江省 重建该师，吴仲直任师长，辖第6旅、第16旅。同年9月，该整编师恢复第75军番号，吴仲直任军长，朱政一任副军长。原辖整编第6旅恢复第6师番号，朱元琮任师长；原整编第16旅恢复第16师番号， 曹永湘 任师长。同年12月，该军由 嘉兴市 调至 上海市 担任守备任务。 平津战役 后，华北”剿总“独立第95师编入第75军作战序列，郭栋任师长。此时，该军下辖第6、第16、第95师，隶属淞沪警备司令部，与第37军、第52军共同防守 苏州市 和上海地区。同年4月下旬，人民解放军发起 渡江战役 后，该军退守上海市郊。5月27日，该军在上海战役中被人民解放军歼灭。