Операция получила наименование «Большой вальс» по аналогии с американской предвоенной комедией. Всего в рамках «Большого Вальса» прошли по московским улицам более 40 тысяч военнопленных.
Руководили операцией «Большой вальс» высшие чины НКВД. Объявил о начале парада военнопленных начальник столичной милиции. В 11 часов утра 17 июля 1944 года под руководством командующего войсками Московского военного округа генерал – полковника Павла Артемьева ряды начали свое движение от ипподрома. Основная колонна разделилась на две после поворота с Садового кольца по Каляевской (в настоящее время Долгоруковская) улице.
Во главе парада шли 1227 человек из числа офицеров, в состав которых вошли 19 генералов, шествовавших в парадной форме и орденах. Сопровождалось шествие вооруженными военными. Концом маршрута была намечена станция Канатчиково Окружной железной дороги. Находившись в пути 4 часа 20 минут, военнопленные достигли конца маршрута, разместились по вагонам и отбыли к местам заключения.
За побежденными двигались поливальные машины, символизируя очищение улиц от грязи, оставленной немецкими сапогами. Некоторые эксперты видят в параде военнопленных нарушение статьи о «защите военнопленных от оскорблений и любопытства толпы» Женевской конвенции 1929 года.