第三舰队是大日本帝国海军的部队之一。跟常设的第一舰队・第二舰队不同，只在有需要时编制・解散的特设舰队，日俄战争至太平洋战争间共出现过六次。

1903年12月的临战编制，大本营直辖用以警备・哨戒的老朽舰集合。1904年3月编入联合舰队。支援陆军部队的金州上陆，波罗的海舰队的探知，对马海峡海战当日的敌情报告等，为日本胜利作出很大贡献。支援桦太作战上陆时再编。1905年12月联合舰队解散式同时解散。

1903年12月28日　新编时的编制

1905年12月开始，本土常设第一・第二舰队，中国大陆方面则以邦人保护为名目派遣“南清舰队”。这个南清舰队改名后为第二代的第三舰队。因为是海外派遣部队故没有司令部。第一次世界大战勃发时，因中华民国政府宣布中立，巡洋舰退去，河川炮舰于上海集合解除武装、第三舰队解散。

1908年12月24日　南清舰队改名时的编制 新高、对马、和泉、隅田、伏见

对应第一次世界大战的临战编制，作为进出南方的第二舰队的留守部队。1917年俄国革命，成为制圧苏联沿海州方面的主力部队。陆军西伯利亚出兵时作船团护卫。尼港事件勃发时救援部队派遣失败。第一次世界大战终结，西伯利亚出兵中止，华盛顿军缩会议后因旧式战舰废弃而解散。

1915年12月25日　新编时的编制

1932年1月28日第一次上海事变爆发，向中国驻留的第一遣外舰队・第二遣外舰队（日语：第二遣外艦隊）派遣增援部队，此3支部队统括成第四代第三舰队。增援部队包括“上海特别陆战队”。以河川炮舰为主体对扬子江流域进行监视。1937年7月日华事变爆发，再增援大量部队，10月增援部队新编成第四舰队，和第三舰队合并统率而成中国方面舰队（支那方面舰队）。第三舰队司令部兼任舰队司令部。1939年11月15日，3个舰队分别改名“～遣支舰队”，第三舰队改名为“第一遣支舰队”，司令部兼任解除。另外，第一遣支舰队于1943年8月20日降格为扬子江方面特别根据地队。新编至改名间7年9个月，是经历代第三舰队中最长。

1932年2月2日　新编时的编制

作为攻略菲律宾部队而编制。支援陆军上陆，黎牙实比市攻略作战等，菲律宾占领后转向兰印。根据陆海军协定，海军负责占领，陆军负责驻留。兰印占领1年后改名第二南遣舰队。

作为中途岛海战坏灭的第一航空舰队的后继部队，以没参加中途岛海战的翔鹤・瑞鹤为中心再建的机动部队。

坏灭的第一航空舰队长官南云忠一中将和参谋长草鹿龙之介少将任第三舰队指挥官。第三舰队予定为空母六只（翔鹤、瑞鹤、瑞凤和飞鹰、隼鹰、龙骧２组）和战舰2只、巡洋舰4只、长良为旗舰的驱逐舰16只共计29只的大舰队。菲律宾海海战时失去旗舰大凤跟大量舰上机飞行员，其后练成的航空机亦于台湾空战中消耗，莱特湾海战时基本没有舰上机，作为诱敌舰队而参加。莱特湾海战后、残存的空母集合至第1航空战队，附属联合舰队(后编入第二舰队)，第4航空战队的航空战舰伊势・日向编入第二舰队，第三舰队废止。其后、第4航空战队完成了北号作战（日语：北号作戦）。