大山車站啟用於大正十一(1922)年10月11日，當時稱「大山腳驛」附近沙丘連亙，適合栽種西瓜。日治時期，此車站以稻米運輸居多。 建築外觀及內部運用，充分呈現當時社會歷史背景，為台灣少數存留之和洋折衷之木構車站建築，是日治時期鐵路小型火車站的代表典型。 然而當時山線縱貫鐵路坡度過陡，運輸效率受限，有鑑於此，海線鐵路於1922年(大正11年)10月10日完工通車。
