Основан 18 августа 1994 года, одна из первых организаций, созданная бизнес-сообществом. Учредителями выступили корпорация «Росхлебопродукт», корпорация «Мособлхлебопродукт», «АТО ОГО», «Рязанская зерновая компания», Московская Биржа МТБ, «Агрин» и «Экспортхлеб». В 1995 году стартовал проект по региональному развитию союза: в ряде регионов страны появились официальные представители РЗС. Основой для работы союза вплоть до начала 2000-х годов стала концепция развития рынка зерна России. РЗС проводит ряд профильных конференций, которые регулярно проходят в нескольких регионах России и за рубежом. С 1997 года союз начал участвовать в разработке нормативно-правовой базы функционирования зернового рынка России. В 1998 году на регулярной основе начали выходить Вестник и Бюллетень союза, были изданы справочники по торговле зерном, многочисленные книги.
Среди результатов работы РЗС, в частности, отмена запретов на вывоз зерна из регионов и прекращение гуманитарных поставок и интервенций иностранной продукции на российский рынок к 2001 году. Также по обращениям союза была сохранена льготная ставка НДС на сельхозпродукцию, претерпел изменение режим таможенно-тарифного регулирования ввоза и вывоза сельхозпродукции. Многие предложения союза были учтены при присоединении России к Всемирной торговой организации. В 2001 году была принята вторая редакция Концепции развития рынка зерна России на среднесрочную перспективу. Она ознаменовала собой переход российского зернового хозяйства от фазы выживания в условиях рынка к фазе устойчивого роста. Основой деятельности союза стала разработка мер по поддержке отечественных сельхозпроизводителей, причем не только зерна, но и других видов аграрной продукции, в частности, масличных. Также важным направлением работы РЗС стало совершенствование нормативно-правовой базы. РЗС внес вклад в разработку стратегии развития АПК, которая затем легла в основу Приоритетного национального проекта «Развитие АПК», госпрограммы развития сельского хозяйства и регулирования рынков сельскохозяйственной продукции, сырья и продовольствия на 2008-2012 годы и на 2013-2020 годы. С октября 2002 года президентом РЗС является Аркадий Злочевский, бессменный председатель Правления союза с момента его основания.