Боевой вертолет, по сравнению с вертолетами другого назначения, должен был иметь по заданию большие скорости в горизонтальном полете, лучшие маневренные характеристики, позволяющие обеспечить скрытый подход к цели и сократить время пребывания над ней, и большую энерговооруженность для маневра по вертикали. Основной задачей при создании вертолета Ми-24 было получение следующих данных: максимальной скорости не менее 320–350 км/ч, статического потолка 1500–2000 м при повышенной температуре наружного воздуха и максимальную нагрузку 1,75 при скоростях 100–250 км/ч.
Разработка эскизного проекта вертолета В-24 (в ОКБ его изначально называли Ми-24, а в заводской документации: «изделие 240») началась сразу же после выхода 6 мая 1968 г. совместного постановления ЦК КПСС и Совета Министров. Общее руководство всеми работами по вертолету осуществляли генеральные конструкторы М. Л. Миль, а затем,после его смерти, М. Н. Тищенко. Непосредственно возглавлял создание нового вертолета заместитель главного конструктора Вячеслав Александрович Кузнецов, один из старейших советских вертолетостроителей. Ведущим конструктором был В. М. Ольшевец, ведущими инженерами по летным испытаниям: В. Д. Зернов, Б. В. Смыслов и др. В августе того же года началось рабочее проектирование, а затем и постройка опытной машины. В феврале 1969 г. правительственная комиссия утвердила макет боевого вертолета.
Проектирование и постройка велись быстрыми темпами и уже летом 1969 г. первый опытный экземпляр вертолета был собран. Быстрый темп разработки В-24 был обеспечен смелым решением М. Л. Миля полностью или частично унифицировать значительную часть наиболее сложных и ответственных агрегатов нового вертолета с уже существовавшими Ми-8 и Ми-14. Это были, в первую очередь, двигатели, втулка и лопасти несущего винта, рулевой винт, автомат перекоса, части трансмиссии. Опробованный на Ми-14 новый двухвальный двигатель ТВ-3-117 главного конструктора С. П. Изотова был в то время одним из лучших и не уступал по своим показателям зарубежным образцам. Он имел взлетную мощность 2200 л.с, номинальную — 1700 л.с, удельный вес 0,117 кг/л.с. и удельный расход 0,23–0,265 кг/л.с. час. В случае остановки одного из двигателей другой автоматически переходил на взлетный режим. Запуск двигателей производился от вспомогательной силовой установки АИ-9В.
Двухдвигательный вертолет В-24 имел классическую одновинтовую схему с пятилопастным несущим и трехлопастным рулевым винтами. Крыло служило не только консолью для подвески вооружения, но и несло на установившемся полете 19–25% веса машины. Внешние обводы вертолета имели хорошо обтекаемые аэродинамические формы. Особое внимание при проектировании было обращено на снижение лобового сопротивления, площадь эквивалентной пластинки миделя вертолета в транспортном варианте составила 2–2,15 м>2, а в боевом — 2,75 м>2 (на Ми-8 — 3 м>2).
Компоновка была выбрана с учетом назначения вертолета. В общей передней двухместной кабине размещались тандемно летчик и стрелок-оператор, летчик сзади с некоторым смещением влево. В ОКБ этот тип пилотской кабины получил название «веранды». Оператор производил обнаружение и распознание цели, управление подвижной пулеметной установкой, пуск и наведение противотанковых ракет, сброс бомб. На случай выхода из строя летчика место оператора оборудовали вторым управлением. Летчик мог вести огонь из неподвижного оружия на подкрыльевых подвесках и фиксируемого по оси вертолета носового пулемета. В дальнейшем, во время эксплуатации вертолета в воинских частях экипаж вертолета также включал бортмеханика. В средней части вертолета располагалась вмещающая до восьми солдат грузовая кабина с двустворчатыми открываемыми вверх и вниз дверями на правом и левом борту. Нижняя створка содержала ступеньки, чем облегчалось десантирование на земле или при висении в непосредственной близости от поверхности. Открывающиеся окна кабины были оборудованы шворневыми установками, позволявшими десанту вести огонь из штатного стрелкового оружия.
Пилотская и грузовая кабины образовали герметичный отсек с небольшим избыточным давлением для исключения проникновения воздуха при полете над зараженной местностью. Отсек оборудовали системой кондиционирования воздуха, воздух отбирался от седьмой ступени компрессора силовой установки. Передняя кабина защищалась лобовым пуленепробиваемым стеклом и бронированным сидением летчика. Кроме того бронеплиты были установлены по бокам кабин и на капотах силовой установки. С самого начала предусматривалось использование экипажем касок и бронежилетов. Грузовая кабина могла использоваться для перевозки грузов до 1500 кг и эвакуации раненных. Кабина оборудовалась бортовой стрелой с электролебедкой. Негабаритные грузы весом до 2000 кг могли перевозиться на внешней подвеске. По бокам фюзеляжа под дверями грузой кабины крепились съемные рамы для внешней подвески противотанковых управляемых ракет.
Особенностью компоновки вертолета В-24 являлся наклон вправо на два с половиной градуса вала несущего винта вместе с силовой установкой относительно продольной вертикальной плоскости. Это было вызвано стремлением повысить точность стрельбы из неподвижного оружия. Дело в том, что характерными особенностями динамики полета вертолетов является висение с небольшим креном и полет с небольшим скольжением, вызванные необходимостью балансировки боковой составляющей тяги рулевого винта. Благодаря конструктивному наклону вала несущего винта крен и скольжение вертолета получились минимальными: угол крена только от 0,5° до 1,5°, а угол скольжения — ±1°.