1904年，日俄战争爆发了，高野五十六以第7名的好成绩毕业了，并以少尉候补生的身份到战列舰“日进”号上任职。1905年，五十六参加了日俄战争。5月27日，俄国特遣舰队和日本海军在对马海峡相遇。为了鼓舞士气，日本海军大将东乡平八郎在自己旗舰“三笠”号的桅杆上，悬挂出“皇国兴废在此一举”的战斗信号。当时五十六所在的巡洋舰恰好是东乡平八郎旗舰的护卫舰。五十六可以很清楚地看到旗舰上飘舞的“Ｚ”字旗。一种渴望在战斗中赢得荣誉的狂想使他激动万分。
上午10点，任舰长传令兵的高野五十六怀着紧张而又兴奋的心情参加了最后战前动员，决心为天皇献身。下午9时许，随着东乡平八郎一声“皇国兴亡在此一战，各员励精努力”的口令，一场空前规模的大海战爆发。日本舰队大角度转向，与俄国舰队形成丁字形作战队形，向俄军发出猛烈攻击。经过一天多激战，俄军38艘军舰，19艘被击沉，5艘被俘，11艘被解除武装，6000人被俘，4000人战死，而日军只损失3艘鱼雷艇。