Banegården blev indviet 5 marts 1899 sammen med Amtsbanen Vojens – Gram- Rødding. Den fungerede som banegård til banens nedlæggelse i 1938.
Kleinbanerne var blevet overhalet af lastbilen. Lastbilen havde nu så stor lastevne og vejene var blevet så gode, at godstransport med bil var konkurrencedygtig i forhold til Kleinbanen.
Den smukke bygning som rummede gram banegård blev ombygget til rutebilstationen. Bygningen blev stænkpudset, ligesom stationsbygningen på Åvej, og fungerede i mange år som rutebilstation. Der var også barbersalon i bygningen. Den blev nedrevet i 1980 i forbindelse med opførelsen af Brugsen på torvet.