旧幕のころ、幕府をはじめ諸藩が、小規模ながら艦船を持っていた。
明治初年、政府はそれをかき集めて見本海軍の体裁をとったが、実体はか細かった。
一方で、国産による建艦は、着実に進んでいた。このあたり、技術好きの国民性がよく表れている。
明治九 (1876) 年、小さな国産軍艦 「清輝」 が横須賀で竣工した。木造風帆蒸気艦で、８９８トン、１５センチ砲を一門だけ持つという粗末な軍艦だったが、それでも三年後に世界一周航海をやって、新興国らしい心意気を見せた。
明治二十年代に入ると、艦艇がやや揃って、二流ながらも、海軍らしくなった。
ただ海軍当局の人材は玉石混淆 (コンコウ) し、旧幕海軍や旧薩摩藩など諸藩の海軍にいた者のうち、実力もないまま、いわば位階俸禄をむさぼっている者も、少なからずいた。

ここで、改革者としての山本権兵衛が登場する。
その後、日露戦争までの海軍は、ほとんど彼一人の頭脳と腕力で建設されたものと言っていい。
権兵衛の年譜を見ると、大佐になるまでのほとんどの歳月を海上勤務で過ごした。明治十年、二十六歳、少尉の時、ドイツ軍艦ヴィネタおよび同ライプチッヒに乗り組み、世界周航した。いわば徒弟奉公のような留学だった。
この経験が、権兵衛にとって貴重だった。彼はとくとヴィネタ号の艦長フォン・ラモント大佐を尊敬し、艦の運用から軍政、それに一国の政治経済のことまでこのプロシア貴族から学んだ。
権兵衛は、故郷である薩摩の甲突川のほとりでの少年時代、とくに秀才だったという評判はなかったが、その緻密で卓越した思考力と、透きとおった合理主義、さらには自ら一判断に達すれば容赦なく実行するという精神は、のちに養われたものと言っていい。
容貌は、若いころも老いてからも、豹のような面構えだった。独特のユーモアもあったが、他者にはむしろ峻烈な皮肉に聞えた。

時に世界は海洋の時代に入っている。このため、地理学的に、朝鮮半島が、玄海灘一つを隔て日本列島の脇腹を脅かす形状を呈するようになった。その上、朝鮮国そのものの政治形態は上代のままで、力を持たなかった。さらには朝鮮の宗主国である清国は、従来の好もしい礼儀的な超然主義から、西欧的な属邦にちかい干渉をこの国に及ぼすようになって、日本の危機感覚を増幅した。
一方、ロシアは、帝国主義的野心に満ち、朝鮮を影響下に置こうとしていた。
明治日本の危機意識は、常にその中心に朝鮮の帰趨 (キスウ) があった。このことは様々な意味で、後の日韓 (朝) 関係の不孝をつくる。
そのことはさておき、山本権兵衛が軍政を担当したのは、彼に海軍を一変させたいという政治レベルの判断があったからに違いない。

権兵衛が海軍大臣官房主事になったのは、四十歳、明治二十四年のことで、この年、日本の朝野が、清国海軍の圧倒的な示威運動によって狼狽させられたのと無縁ではなかった。
清国の海軍建設の出発は日本より遅れていたが、大国だけに最初から世界一流の大艦を揃えていた。
この明治二十四年七月、その北洋艦隊六隻が、名を親善にかりて長崎、呉、神戸を経、東京湾にその威容を示威した。
とくに旗艦定遠と鎮遠という装甲艦は、ドイツで建造され、７３３５トン、主砲が３０．５センチ四門で、この二隻だけでも貧弱な日本艦隊が総がかりになっても及ばなかった。
ロシアも、同様の示威運動をした。これより二ヶ月前、ロシア皇太子が来日した時、六隻の艦隊を率いて、その実力を貧弱な日本海軍に示した。

一介の大佐だった山本権兵衛が海軍建設にほとんど独裁的な辣腕をふるうことが出来たのは、海軍大臣に西郷従道 (ツグミチ) を戴いていたからだった。いうまでのまく従道は大西郷の実弟で、維新生き残りの元老であり、廟堂での政治力は十分以上にあった。山本の立案は、諸事西郷が実現した。
ただ、明治二十六年、山本がやった一大人員整理だけは、従道も驚いた。無能老朽の将官八人 ─ 多くが同郷の薩摩人 ─ に、佐官、尉官を含めて九十七人の首を切り、代わって海軍兵学校 (兵学寮) の人材を海軍の中心に置いたのである。

日清戦争は、その翌年に起こる。
清国の提督丁汝昌 (テイジョショウ) は日本側との早期決戦を決めた。
日本側ももとより早期決戦を決め、互いに求めあって黄海で実力が遭遇した。
日本側十二隻、清国側十四隻で、かれが多くの甲鉄艦を持つのに対し、日本側は劣っていたが、ただ平均速力において勝っていた。
清国側が横並びの単横陣をとったのは、海上の一台砲台としての丁遠・鎮遠の大口径砲に卓越した力を発揮させるためだった。
これに対し、日本側は、一本の棒のような縦並びの単縦でもってまっしぐらに北進した。
海戦四時間半、この間、横並びの清国側は動きが少なく、一方、単縦陣の日本側は敵とすれちがっては引き返し、執拗に敵の各艦の周辺にあって打撃を与えつづけた。その運動と打撃を可能にしたのは日本側の速力の優勢と、小口径の速射砲の活用にあった。
速射砲は敵にたとえ致命傷を与えなくても多量の小損傷を与え続けて相手の戦力を麻痺させる効があり、この戦法は山本権兵衛の立案ではなかったにしても、彼においてまとめられたものだった。
大艦丁遠・鎮遠は無力化したまま清国艦隊は大敗し、旅順港に逃げ、さらに威海衛の奥に籠り、降伏した。

その十年後に、日露戦争が起こる。
この間、権兵衛 (海軍大臣就任は明治三十一年) のやった海軍建設は見事だった。
英国その他に注文して軍艦の質は高水準のものを揃え、また同型艦の場合、同速力を利して連繋運動が出来るように配慮した。機関の能力を高めるために燃料は良質の英国炭の統一し、また砲弾の補充の連続性を保つため注文は英国のアームストロングのみに限った。
十年前の戦役にはなかったものとして、無線電信機を重視した。主力艦から駆逐艦にまで搭載し、熟練した将校三十七名、下士官兵百五十名を配置した。日露戦争の海軍の勝利は通信の勝利という説さえある。
一方、ロシアは極東において旅順とウラジオストックに二艦隊をもち、さらに海戦とともに本国艦隊 (バルチック艦隊) がこれに加わる。
これに対し、日本は一セットの連合艦隊で戦わざるを得なかった。
さらに山本に課せられた命題は、一隻残らずかれらを沈めるということだった。でなければ、“満州” でロシア軍と対峙している日本陸軍が、その補給路を海上で絶たれて干上がってしまうのである。
山本は、人事の名人でもあった。
この当時、山本と戊辰戦争以来の同藩の朋友日高壮之丞が、常備艦隊の司令官をつとめており、当然、開戦とともに連合艦隊の司令長官になることは自他ともに信じていた。
が、山本はこれを無視し、舞鶴鎮守府司令長官として定年を待っていた東郷平八郎を選んだ。東郷は大佐の時すでに退役リストに入っていたこともあり、一般には冴えない存在としてみられていた。
日高は、勇猛をもって知られる男だった。彼は山本の大臣室に押しかけ、短刀をもって、 「俺を殺せ」 といった。
山本は、日高と東郷の優劣につき、緻密かつ端的に述べた。日高は山本の論理に服した。
山本は日露戦争の勝つべく設計士、十分に用意し、結果はそのとおりになった。
が、自らの功を誇ることなく、戦後、東郷の功のみをほめたたえた。