Инициаторами создания Ботанического сада стали профессора ботаники Викентий Хмелевский и Виталий Вершковский, приехавшие в Ростов-на-Дону вместе с Варшавским университетом. Вершковский стал первым директором сада.

В мае 1927 года Президиум Ростово-Нахичеванского Горсовета выделил под Ботанический сад земельный участок в 74 гектара в районе реки Темерник. Выбор территории для Ботанического сада был обусловлен тем, что до революции на этом месте находилось успешное цветоводческое хозяйство семьи обрусевших немцев Рамм (именно они вывели известный сорт роз «Ольга Рамм»). В 1933 году территория Сада была увеличена до 260 гектаров.

В декабре 1938 года Ботанический сад был передан в ведение Северо-Кавказского государственного университета (позже Ростовский государственный университет, сейчас Южный Федеральный университет) как научно-исследовательская и учебная база. Кроме того, в задачи Ботанического сада вошло внедрение новых ценных растений в зеленое строительство и степное лесоразведение в Ростовской области.

По проекту Вершковского половину территории сада должен был занимать парк, в котором планировалось воссоздать в миниатюре карту Северного Кавказа и представить основные типы растительности, характерные для этого региона. Однако планы пришлось изменить, так как большинство кавказских растений, перенесенных в степные условия, погибли в первый же год.

Тогда был заложен парк лесного типа на площади 30 гектаров и дендрарий на площади 4 гектара. За короткий период была собрана коллекция, насчитывающая более 400 новых для региона видов. До наших дней сохранились деревья из первых насаждений, их возраст составляет 75-80 лет. Среди них такие редкие для зоны виды как дуб крупноплодный, бук восточный, каркас южный, бундук канадский, бархат амурский, всего 54 вида. Наиболее старый экземпляр коллекции — дуб черешчатый, которому 120 лет.

Во время Великой Отечественной войны коллекционный фонд уменьшился почти вдвое — многие виды были утеряны. Научный центр был практически полностью разрушен во время оккупации Ростова. В первые послевоенные годы разрушенные строения были реконструированы, а коллекционный фонд поэтапно восстановлен. Для этого был заложен крупный древесно-декоративный питомник, сыгравший важную роль в подготовке посадочного материала и внедрении ценных пород деревьев и кустарников в зеленое строительство.

В 70-80 годы Ботанический сад был не просто самоокупаемым, но и приносил прибыль университету как всемирно известный питомник. Достижения его цветоводческого хозяйства каждый год демонстрировались на ВДНХ и международных выставках. Например, на фестивале роз в Дортмунде, который благодаря обмену цветами стал городом-побратимом Ростова-на-Дону.

Сейчас Ботанический сад ЮФУ один из крупнейших университетских садов в России, его территория превышает 160 гектаров. Коллекция представителей флоры, которая находится в оранжерее тропических и субтропических культур, состоит из 1 600 видов и форм. В том числе, в саду представлены флоры Северной и Южной Америки, Австралии, Юго-Восточной Азии и Африки.

Ботанический сад ЮФУ является особо охраняемой природной территорией (ООПТ) федерального значения. Основанный в 1927 году, он стал одним из крупнейших в России центров, осуществляющих научно-исследовательскую, образовательную, природоохранную и просветительскую деятельность.

Сад занимает площадь 160,5 га с разнообразным рельефом, почвами, растительностью.  Коллекционный фонд Ботанического сада включает около 3000 видов и внутривидовых таксонов (подвидов, разновидностей, форм), а также культиваров и сортов. Коллекция оранжерейных растений Ботанического сада ЮФУ по праву считается одной из крупнейших на юге России.

Коллекция редких и исчезающих видов местной флоры представлена 67 видами, относящимися к 43 родам и 26 семействам. Все интродуценты включены в Красную книгу Ростовской области, в том числе 18 видов занесены в Красную книгу РФ. Особое место среди коллекций живых растений Ботанического сада занимает комплекс видов степной флоры, произрастающих на сохранившихся целинных фрагментах в составе экспозиции «Приазовская степь» на площади свыше 10 га. Ценной является коллекция гербария, фонды которого насчитывают десятки тысяч образцов. В целом Ботанический сад можно назвать «музеем под открытым небом», и доступен для посещения не только сотрудникам и студентам ЮФУ, но и для всех желающих.

Миссия Ботанического сада Южного федерального университета состоит в изучении, сохранении, мобилизации и рациональном использовании биологического разнообразия растений степной зоны, сохранении мировой флоры в коллекциях и экспозициях, обогащении культивируемой в регионе флоры, развитии образовательной и культурной среды на благо ныне живущих и будущих поколений.

Основное направление исследовательской деятельности научных лабораторий Ботанического сада — это оценка состояния, мониторинг и проблемы сохранения биологического разнообразия в степной зоне, рациональное использование и воспроизводство биологических ресурсов в условиях антропогенного воздействия.