Из дворян, прямой потомок декабриста И. А. Анненкова, родился в семье отставного полковника. В 1906 окончил Одесский кадетский корпус, в 1909 — Александровское военное училище в Москве, в чине хорунжего был определен на службу в 1-й Сибирский казачий Ермака Тимофеевича полк. В годы Первой мировой войны первоначально воевал в составе 4-го Сибирского казачьего полка. В 1915-1917 с успехом командовал отдельным партизанским отрядом, созданным командованием для выполнения разведывательных и диверсионных задач в тылу противника. Военные действия закончил в чине войскового старшины.
После Октябрьского переворота в январе 1918 вместе с отрядом прибыл под Омск в станицу Захламинскую и возглавил организованное выступление сибирских казаков против большевиков. В мае 1918 его отряд, соединившись с чехословацкими частями, взял Омск, а в июле вступил в бой с красноармейцами в районе Верхнеуральска. Анненков сформировал партизанскую дивизию, которую в конце 1918 перебросили в Семиречье, а затем ему передали в командование 2-й Степной корпус. В 1919 он был произведен в генерал-майоры и назначен командующим Отдельной Семиреченской армией, дислоцированной в Казахстане. В мае 1920, после наступления красных войск, остатки его армии (4 тысячи человек) перешли границу с Китаем и были разоружены.
В марте 1921 он был арестован китайскими властями. Три года содержался в заключении (китайцы требовали передать вывезенные из России ценности) и был выпущен в феврале 1924 лишь благодаря настойчивым хлопотам иностранных дипломатов. 10 апреля 1926 неожиданно для всех Анненков со своими ближайшими сподвижниками был отправлен через Монголию в Советскую Россию. Кроме того, он выступил с обращением к своим сторонникам прекратить борьбу с Советской властью. По поводу обстоятельств его появления на территории СССР существуют две версии: 1) он добровольно возвратился на Родину при содействии китайского маршала Фын Юйсяня; 2) был захвачен в гостинице «Калган» группой старшего советника маршала Фына господином Лином (советским военачальником В. М. Примаковым) и доставлен в СССР. Вторая версия выглядит более правдоподобно, так как в 25 августа 1927 по приговору Верховного суда СССР, заседавшему в Семипалатинске, Анненков был расстрелян за массовые убийства и репрессии мирных жителей в 1918-1920 на территории Казахстана.