Первые письменные упоминания, хранящиеся в Центральном государственном архиве Республики Мордовия о землях, где сейчас распо-лагается с. Елховка, относятся к концу 17 века. Эти земли, расположенные у реки Инсар и речки Елховки, были отказаны русским дворянам . В 1681 г. стольнику Митрофану Литвинову «отказана государева жалованная поместная земля вообще Григорием Мартыновым и Петром Мит-ковым в Саранском уезде на реке Инсар по обе стороны речки Ельховки в урочище по сту четвертей в поле, а в дву потому ж да сенных покосов по тысячи по двести копен человеку…». Часть своих земель Митрофан Литвинов поменял с братом Афанасием на другую землю. В писцовых книгах того же 1681 г. владельцем части земли здесь же по реке Елховке указан Никита Ивин. Свою землю он в 1683 г. променял князю Михаи-лу Андреевичу Голицыну, у которого уже была земля южнее – ныне у с. Архангельское (Голицыно) Рузаевского района.
В 1689 г. здесь же земля (100 четвертей) была отказана Борису Афанасьевичу Зубову; после его смерти осталась его вдове Марье, а после её смерти – сыну Ивану Зубову (по другим документам Борис Зубов выменял (поменял) часть земли у князя М.А.Голицына – на свою в Воло-годском уезде). После смерти Ивана Зубова эта часть земли в 1741 году перешла племяннику Николаю Васильевичу Зубову, который продал её жене прокурора Сенатской конторы Андрея Щербинина – Марье Ермолаевне Щербининой.
В 1782 году (по плану и межевой книге) в селе Архангельское (Елховка), тоже общими владельцами «пашенных земель, сенных покосов, лесных и прочих угодий» были Марья Ермолаевна Щербинина и её дети – Петр и Александр, поручики Семен, подпоручик Максим Петровичи Литвиновы (им земля перешла от деда Афанасия Литвинова), жена кадета Федора Ферлудина – Александра Петровна и др.
В дальнейшем крестьян и земли в с. Елховка стремятся сосредоточить в своих руках Литвиновы. Максиму Литвинову в 80-х годах 18 ве-ка переходит земля его брата, затем он скупает земли и крестьян у других владельцев (в 1786 году землю Щербининых купил А.Е.Столыпин – прадед М.Ю.Лермонтова, но вскоре продал их М.Литвинову).
В 1812 году владельцами земель и крестьян в Елховке числится дочь Максима Литвинова – Аксинья Максимовна Бахметьева (вышла за-муж за гвардии штабс-капитана Василия Бахметьева) – 106 душ крестьян муж. п., а также Павел и Петр Ферлудины.
После смерти в 1845 году А.М.Бахметьевой её часть Елховки перешла к жене умершего сына Николая – Анне Ивановне Бахметьевой и внуку (сыну дочери Авдотьи) Александру Николаевичу Хрущеву.
История
Далее Большая Елховка (Архангельское) упоминается в "Списке населенных мест Пензенской губернии" (1869) как «село владельче-ское: из 43 дворов Саранского уезда.».
До 1928 года Большая Елховка входила в состав Пятинской волости Саранского уезда Пензенской губернии Средневолжского края. По-сле образования Мордовской АССР и в 1933 году национального Лямбирского района Большая Елховка стала центром сельского совета, куда вошли село Александровка, деревни Малая Елховка, Владимировка, Шувалово и посёлок Красный Дол.
В 1934 году в Елховке был организован колхоз им. Ленина. В 1948 году начали и через год завершили строительство МТС (машинно-тракторной станции). В 1959 году на юго-западе Большой Елховки рядом с железной дорогой начали строить авторемонтный завод. Через 10 лет его построили, но назвали Мордовским заводом дорожных машин "Дормаш".
Указом Президиума Верховного Совета РСФСР от 8 июня 1954 года были объединены сельские Советы Большеелховский и Алексан-дровский в один Большеелховский сельский Совет.
Указом Президиума Верховного Совета Мордовской АССР от 19 февраля 1963 года "О составе районов Мордовской АССР" Лямбирский район был включен в состав Ромодановского сельского рай района. Указом Президиума Верховного Совета Российской Федерации от 30 де-кабря 1966 года вновь образован Лямбирский район с центром в селе Лямбирь. В состав района были переданы сельские Советы: Аксеновский, Берсеневский, Большеелховский.
В 1969 году на базе колхоза был образован совхоз "Россия". Из Большеелховской бригады скот был переведен в центральную усадьбу – с. Александровка.
В 1979 г. была введена в действие птицефабрика. Вскоре Большая Елховка вышла из состава совхоза "Россия".
Указом Президиума Верховного Совета Мордовской АССР от 26 октября 1983 года были объединены фактически слившиеся между со-бой село Большая Елховка и поселок разъезд Елоховка в один населенный пункт - село Большая Елховка Александровского сельского Совета.
В 1984 г. село Большая Елховка было преобразовано в рабочий поселок городского типа, а в 2005 г. р.п. г.т. Большая Елховка вновь преобразован в село.
В 1982 г. для с. Б. Елховка был разработан проект планировки и застройки «Жилой поселок Октябрьской бройлерной птицефабрики и завода «Дормаш» Лямбирского района Мордовской АССР» (РосглавНИИстройпрокт, Горьковгипросельхозстрой, г. Саранск). В соответствии с данным проектом предусматривалось увеличение численности населения до 12565 человек при существующей на тот момент численности населения 2381 человек. Планировалось строительство 226 тыс. кв. м многоквартирного жилого фонда. В соответствии с заданием на проекти-рование мощность птицефабрики увеличивалась до 6 млн. бройлеров в год. Так же проектом предусматривалось строительство объектов соци-альной инфраструктуры.
К настоящему времени было реализовано около трети предусмотренных проектом мероприятий.