Lietuvos sunkiųjų arklių veislė pradėta kurti XIX a. pabaigoje. Literatūros duomenimis, jau 1880-1890 m. sunkaus tipo eržilų buvo pas atskirus dvarininkus Eržvilko, Skaudvilės, Krekenavos, Rokiškio ir Kupiškio apylinkėse. Veislės kūrimu 1894 m. užsiėmė “Darbui ir važiuoti arklių veisimo draugija”. Su šiais eržilais buvo kryžminamos vietinės kumelės. Veisliniu arklininkystės darbu Lietuvoje pradėta rūpintis tik 1925 metais. Tais metais įsisteigė "Ardėnų veislės arkliams auginti Lietuvoje" draugija, kurios tikslas buvo veisti Lietuvoje gerą darbo arklį. Po karo pirmoji Lietuvos sunkiųjų (Lietuvos ardėnų) arklių kilmės knyga išleista 1948 m. Lietuvos sunkieji kaip atskira veislė patvirtinta Žemės ūkio ministerijos 1963 m. gruodžio 7 d. įsakymu Nr. 234 pripažinta savarankiška veisle.