身為亞洲棒球領先者的日本，1972年參與第20屆世界盃賽事，即奪下第4名，從此就沒有跌出過8強之外，最差的成績還是第5名。

參加過14屆世界盃的日本隊，並未在世界盃鍍金，歷屆成績為1銀4銅，1980年第26屆世界盃棒球賽首次在亞洲舉行，由日本主辦，12支隊伍採單循環賽制，日本與韓國同為9勝2負，但由於雙方對戰時以4：6輸球，只能取得第3名。

1982年第27屆日本打出史上最佳的第2名，當時在南韓舉辦的世界盃，10支隊伍採取單循環賽制，日本除了意外以2：3敗給義大利外，就只有2：5輸給地主韓國，最後以7勝2負的戰績屈居第2，讓8勝1負的韓國笑納冠軍。

2001年第34屆世界盃，日本隊陣中有巨人隊的高橋由伸與阿部慎之助、大榮鷹的寺原隼人（現橫濱隊），堪稱當時史上最強的日本隊，預賽7戰全勝，其中包括以5：3擊敗古巴隊，8強淘汰賽以2：1勝韓國，準決賽再次遭遇古巴隊，這次日本隊以1：3敗下陣來，只能與中華隊爭奪銅牌，面對中華隊張誌家與陳金鋒的投打聯手、以及滿場球迷加油下，最終以0︰3落敗，只能取得第4名。

2003年第35屆，日本在準決賽中以1：4栽在巴拿馬手上，銅牌戰對上中華隊，逼得中華隊動用6名投手，雖然兩度被追平，但日本隊在第6局由高根澤力擊出陽春全壘打超前後，就領先到底，以7：3摘下銅牌。

2005年第36屆，預賽B組第一的日本運勢很衰，在8強複賽中，以1：5敗在韓國手上後，準決賽雖以5：0勝波多黎各，也只能爭第5名，最終8：1擊敗尼加拉瓜。

【日本隊歷屆參賽精華】
1972年第20屆尼加拉瓜世界盃　第四名(首度參賽)
1976年第24屆哥倫比亞世界盃　第三名
1980年第26屆日本世界盃　第三名
1982年第27屆韓國世界盃　第二名(隊史最佳)
1994年第32屆尼加拉瓜世界盃　第三名
2003年第35屆古巴世界盃　第三名