Планирование того, что в итоге стало переворотом с целью свержения Горбачева, началось 4 августа 1991 года. За несколько дней до этого, 29 июля, Горбачев встретился с Ельциным и президентом Казахстана Нурсултаном Назарбаевым, чтобы обсудить сроки подписания союзного договора. Признавая необходимость серьезных изменений в советском правительстве, Горбачев сообщил Ельцину и Назарбаеву, что он заменит председателя КГБ Владимира Крючкова, министра внутренних дел Бориса Пуго и премьер-министра Валентина Павлова после подписания договора. Церемония подписания была назначена на 20 августа, после возвращения Горбачева из отпуска в Крыму.

Горбачев и его жена Раиса уехали в Крым 4 августа. Во второй половине того дня Крючков организовал группу офицеров КГБ с целью планирования государственного переворота. Признавая реальность того, что его полномочия прекратятся 20 августа, Крючков настаивал на действиях до этого дня. К16 августа КГБ доработал оперативный план и начал задействовать ресурсы для его реализации, включая отправку в Крым группы, которой было поручено перекрыть все каналы связи между Горбачевым и внешним миром.

Крючков организовал встречу с коллегами-сторонниками жесткой линии 17 августа с целью изложения своих планов государственного переворота и заручиться их поддержкой. Среди присутствующих были Павлов, Язов, первый заместитель председателя Совета обороны СССР Олег Бакланов (ответственный за надзор за оборонной промышленностью) и, что важно, Валерий Болдин, глава администрации Горбачева. После пропитанной алкоголем встречи участники переворота согласились направить делегацию во главе с Баклоновым и Болдиным, в которую входил генерал Валентин Варенников, командующий советскими сухопутными войсками, в Крым, чтобы противостоять Горбачеву и оказать на него давление, чтобы он поддержал введение чрезвычайного положения. Эта делегация вылетела в Крым 18 августа, но их усилия были отвергнуты разгневанным Горбачевым. Делегация вернулась в Москву с пустыми руками. Горбачев оставался в Крыму под домашним арестом, отрезанный от остального мира.

Утром 19 августа 1991 года министр обороны Советского Союза маршал Дмитрий Язов вместе с вице-президентом Геннадием Янаевым, Павловым, Пуго, Крючковым, Баклановым, председателем Крестьянского союза СССР Василием Стародубцевым и президентом Ассоциации государственных предприятий Александром Тизяковым сформировали то, что они назвали Государственным комитетом по чрезвычайному положению (ГКЧП). Было объявлено чрезвычайное положение, и около 4000 военнослужащих Таманской и Кантемировской дивизий вместе с десантниками и спецназом вошли в Москву в сопровождении сотен танков и бронетранспортеров.