Локомотив е основан през 1932 г. под името ЖСК (Железничарски спортен клуб). Сегашното си име носи от 1945 г. Клубът се счита за продължител на традициите на футбола в Горна Оряховица и приемник на Левски (1922 г.). През годините след 1945 г. в него са се вляли други горнооряховски отбори като „Червено знаме“, „Торпедо“ и „Никола Петров“. Най-големият успех на Локомотив (Горна Оряховица) датира от 1987 г. Тогава в турнира за Купата на България отбора достига до полуфинал, където отпада в един мач на неутрален терен от Левски (София) след 2:0. През 1947 г. в турнира за Купата на Съветската армия отбора достига до полуфинал, където отпада от Левски (София) в два мача – 0:5 в София и 2:2 в Горна Оряховица. По това време Купата на България все още не е учредена и Купата на Съветската армия е най-популярня турнир. Впоследствие Левски печели купата на финала.