Джеферсън, е роден в Монтичело. След служба във флота завършва Университета на Вирджиния и се превръща в един от най-изтъкнатите юристи в Ричмънд. През 1862 г. той е работил като секретар на война за Конфедерацията, но президентът Джеферсън Дейвис иска да вземе лично отговорен за войната и заменен Рандолф.