有不少人认为，此歌曲形式最早出现在我国台湾，因为台湾的校园歌曲广为传唱，其实不然，最早是在日本出现的。

明治维新之前，日本的音乐大多是雅乐，曲调冗长沉闷，学生们对此十分不满。后来，文部省根据学校没有音乐教材的情况，发动大家创作一些适合学生唱的歌。于是，反映校园生活的歌曲便应运而生了。但是，由于传统音乐的束缚，在音乐上还没有很大突破。

1868年，品川弥二郎创作了一首《阿宫先生》，校园歌曲的雏形便出现了。这首歌曲采用孩子跳橡皮筋一类的歌谣体，用“去四七调式”反复叙唱一些简单的歌词，明快、短小、抒情，具有浓郁的民族风格，立即受到了很多青年的喜爱。

明治维新期间，攻打德川幕府的战役，政府军的战士们就是唱着这首歌冲上火线。此后，人们称这类歌曲为“学堂歌曲”。1941年，太平洋战争爆发，校园歌曲热在日本走向低潮。

后来我们所知道的台湾校园歌曲，包括当时风靡一时的邓丽君的歌曲，很多都是由日本校园歌曲翻唱而来的。