山鹿素行作为日本武士道教育的先驱人物，其武士教育思想既保留了历来的武士道德中的忠君唯上的方面，又有所创造地提出了武士在新时期应当具有的新的素质。他不仅要求武士忠君孝主，而且要求武士在道德上成为万民的榜样和社会人伦道德的监督执行者。
由于山鹿素行在一定程度上肯定了情欲与功利的合理性，肯定了“人伦日用”的必要等，就使得他的思想中包含了一定的近代教育思想因素。例如，在学习的方法论原则方面，山鹿素行批评朱子学的“复性”论（通过内心修养的功夫，摒除“人欲” 之“蔽锢”，以恢复“天命之性”），认为它导致只注重内省的功夫而完全脱离日用之道，进而提出“学问之极，唯在于穷致其事理日用”[59]的实学观，以及以节制欲望为出发点的教育观：“人皆有好利恶害之心，是谓好恶之心。依此心立教，遂述圣人之极。”[60]此外，他也像同时代的熊泽蕃山以及后来的荻生徂徕学派一样，主张“一般教民之道与教士之道不同”[61]。山鹿素行重视学校建设，认为国君和父母负有教育的职责，一国之中，改良风俗、推进教化的最好手段是建立学校和普及教育，而作为应急手段，可将各村的寺社改作学校。僧人和神主可以充当教师，以开展学校教育和社会教育。町镇应开支学校经费。在家庭中，应以父亲为中心开展幼儿教育，知德并重，严格要求，顺应年龄逐步前进。除此以外，山鹿素行还在教育的规制、奖励、儿童的自治训练、女子教育、武士与平民共学等问题上发表了杰出的见解。