Анатолий Петрович Железняков родился в 1895 году в селе Федоскино, Московской губернии, в семье мещан. Отец, служивший в помещичьем имении, скончался в 1918 году. У Анатолия было два брата – Николай и Виктор, а также старшая сестра Александра. Оба брата также пошли во флот и стали моряками, а младший, Виктор, в советское время стал командиром корабля на Балтике.
Железняков начал учиться в Лефортовском военно-фельдшерском училище с намерением стать военным медиком, но был отчислен в апреле 1912 года после отказа выходить на парад в честь именин императрицы. В результате неудачных попыток поступить в мореходные училища, он начал работать в аптеке на ткацкой фабрике в городе Богородске.
В 1915 году Железняков переехал в Одессу, где работал в порту и затем стал кочегаром в торговом флоте. В то время он также занимался анархистской пропагандой. Во время Первой мировой войны он был призван на военную службу и зачислен во флот, однако в июне 1916 года дезертировал из боя из-за опасений быть арестованным.
После Февральской революции Железняков вернулся к политической деятельности, став делегатом 1-го съезда Балтийского флота и затем участвуя в различных анархистских мероприятиях. В июне 1917 года, защищая экспроприированный особняк, был арестован и приговорен к 14 годам каторжных работ, но бежал из тюрьмы и продолжал свою политическую деятельность. В декабре 1917 года стал заместителем командира сводного отряда матросов и активно участвовал в боях с противниками новой власти.
Таким образом, жизнь Железнякова была связана с политической активностью и службой во флоте, в том числе с периодами дезертирства и арестов.
Этот отряд также обеспечивал охрану III Всероссийского съезда Советов, где Железняков, от имени солдат петроградского гарнизона и революционных отрядов армии и флота, приветствовал делегатов съезда.
Позднее отряд участвовал в боях с румынскими войсками и выполнении важной операции по доставке 5 миллионов рублей полевому казначейству войск Румынского фронта и Черноморского флота. Кроме того, он принимал участие в боевых операциях Дунайской флотилии и в организации обороны Одессы.
опреки своим анархистским стремлениям, данный отряд проявлял верность большевистской власти и регулярно выполнял её указания. Например, при разгоне митингов в поддержку Всероссийского Учредительного собрания, матросы этого отряда были направлены к охране Таврического дворца, где проходило заседание Учредительного собрания. В этот момент Железняков был назначен начальником охраны и вошел в историю, обратившись к депутатам с заявлением: «Караул устал…». В дополнение к этому он также сказал: «Гражданин-матрос (А.Г. Железняков). Я получил инструкцию от комиссара Дыбенко, чтобы все присутствующие покинули зал заседания, потому что караул устал». Однако председатель Учредительного собрания не поддержал его требование, сославшись на необходимость продолжения заседания для принятия важных решений.
В марте 1918 года Железняков был назначен командующим Бирзульским укрепрайоном, где он руководил войсками и сражался с австро-германскими войсками. Вернувшись в Петроград, он некоторое время занимал должность члена Политического отдела Морского генерального штаба, а затем отправился на фронт в район Царицына, где командовал Первым Еланским пехотным полком и принимал участие в боях за Царицын.
Конфликт между Железняковым и Н.И. Подвойским возник из-за их различных взглядов на бывших офицеров царской армии, перешедших на сторону красных. Подвойский даже дал приказ арестовать Железнякова, командира полка. Благодаря помощи Киквидзе Железняков избежал ареста, но ему пришлось вернуться в Москву.
Интересно, что в это время Железняков женился на Елене Винде, дочери полковника царской армии, которая стала учительницей в РККА. Осенью 1918 года он работал механиком на судоремонтном заводе в Одессе, где проводил подпольную агитацию среди рабочих и сотрудничал с боевиками Григория Котовского. Он также принял участие в восстании рабочих при приближении частей РККА к Одессе.
В мае 1919 года его назначили командиром бронепоезда имени Худякова. Под его командованием бронепоезд подавил восстание атамана Григорьева и сражался с Деникиным под Запорожьем и Екатеринославом. 25 июля 1919 года его бронепоезд попал в засаду у станции Верховцево, где Железняков получил смертельное ранение и 26 июля скончался на станции Пятихатка.
Его гроб доставили в Москву 3 августа, где прощание с ним состоялось на Новинском бульваре, после чего его похоронили на Ваганьковском кладбище с воинскими почестями.
