明治十三年、小村は、
「米国法律学士」
という肩書きで帰国し、司法省に勤めた。ほどなく外務省に転じ同二十一年、三十四歳で翻訳局長になった。このころ、彼が書生のころブロマイドを買った大隈重信が、黒田内閣の外務大臣をしており、小村の上官であった。あるとき、大隈は自邸で盛大な晩餐会（ばんさんかい） を開き、元老、大臣、次官、局長といった大官連中を招待した。
その席に、落語家の円朝が余興をやるために呼ばれ、酒席の末席に侍（はべ） った。
正面には、枢密院議長（すうみついんぎちょう） の伊藤博文がすわっている。伊藤が、
「円朝、盃をやろう」
と、左手を上げた。が、末席の円朝は身分を考えて恐縮し、人の影に隠れ、頭をさげたまま前へ出ようとしない。そのとき小村が、
「円朝、出るのだ、なにを遠慮することがある」
と、大声で言った。そこまではよかった。
「この席に廟堂（びょうどう） の大官がずらりと並んでいるが、このなかで当代もっとも偉いのは貴公ではないか。元老も大臣も今死んだところであとに偉い後継者がひかえて (自分のことであろう) いるが、貴公に後継者があるか。ないだろう。だから円朝、堂々と前へ出ろ」
と言った。小村はこの時期、翻訳仕事だけでその自負心からすれば不遇の思いが強く、それでつい大官たちにとっては暴慢きわまることを放言したのであろう。が、この当時、維新後日がまだ浅く、官僚の秩序が、秩序感覚だけで動くよいったふうのものではなかったから、伊藤も大隈も苦笑するだけで小村をべるにどうもしなかったようであった。ただ不遇がつづいた。五ヵ年、小村は翻訳局長のまますえおきになっていた。
明治二十六年、外務省の官制がかわって、翻訳局が廃止された。
小村は、当然廃官になるところだった。彼は父親の負債を相続していたためにおそろしく貧乏で、いつもすりきれたフィロック・コートを着ていたし、そのうえ小男で容貌が貧弱で全体がぬれねずみのようであったため、たれもが彼に外交官の仕事が出来るとは思わなかった。