Требованиями к системе оговаривалась возможность поражения крупных стратегических целей с дальностью порядка 600 км при полете носителя на высотах до 12-13 км. Скорость X-20 должна была быть сверхзвуковой, не менее 1700-2000 км/час, что опережало возможности существовавших истребителей.
Размерность ракеты определялась использованием оговоренной БЧ -ядерным зарядом, масса которого с необходимыми системами составляла примерно 4000 кг. Тяжелая и крупногабаритная БЧ с полутораметровым поперечным размером существенно усложняла задачу, но выбора тогда практически не было - при требуемой мощности заряда удовлетворял лишь недавно созданный КБ-11 Минсредма-ша. Можно сказать, что создание первого сверхмощного термоядерного заряда фактически и стало основанием форсированных работ по средствам его доставки - баллистическим, авиационным и наземным крылатым ракетам.
Для заброски тяжелого боеприпаса служила первая в мире межконтинентальная баллистическая ракета Р-7 - гигант массой в 275 т. Не менее колоссальными выглядели и опытные крылатые ракеты - лавочкинская «Буря» в 130 т и мясищевский 200-тонный «Буран». Под стать им в своем классе была и Х-20, чья проектная масса уже в первом приближении переваливала за десять тонн, в несколько раз превосходя современные ей изделия.
Поступая с разумным консерватизмом («лучшее - враг хорошего!») и опираясь на опыт «Кометы», инженеры ОКБ-155 избрали надежный ТРД. Использование турбореактивной силовой установки упрощало вопросы энергоснабжения ракеты - коробка приводов ТРД обеспечивала работу электрогенератора и насосов гидросистемы. С учетом требований по скорости и прикидкам массо-габаритных характеристик ракеты, требовалась тяга порядка 10-11т. Подходящим и единственным по тяге и размерности двигателем был АЛ-7Ф - новейший ТРД, только что прошедший отработку на истребителе И-7У. Впрочем, и эта силовая установка весила под 1700 кг, а полет на сверхзвуке требовал использования форсажного режима с соответствующим расходом топлива, запас которого для достижения расчетной дальности должен был составить около 4000 кг.
При разработке Х-20 использовался опыт проектирования и постройки микояновцами сверхзвуковых истребителей (подобно тому, как в конструкции «Кометы» нашли отражение многие решения МиГ-15). Самолет-снаряд строился по самолетной схеме с лобовым воздухозаборником, конструктивно заимствуя многие черты того же И-7У, не вышедшего из опытной стадии, и в ходе проектирования на столах конструкторов постоянно находились чертежные "синьки" с узлами И-7 и МиГ-19. Вероятно, сходство и послужило поводом для имеющей хождение версии о переделке опытного перехватчика И-7У в первый прототип Х-20; на деле И-7У продолжал испытываться до февраля 1958 года, когда уже были собраны первые образцы самолетов-снарядов.
От истребителя позаимствовали лишь общую компоновку, геометрию крыла со стреловидностью 55 град, и сверхзвуковым профилем. Вместе с тем особенности Х-20 как однорежимного ЛА, не предназначенного для маневрирования и малых скоростей при взлете и посадке, позволили уменьшить площадь крыла и его хорду, отказавшись от закрылков и тормозных щитков. Ввиду отсутствия взлетно-посадочных режимов удельную нагрузку на крыло снаряда довели до 470 кг/м2 (в полтора раза больше, чем у МиГ-19), однако по требованию дальности этот параметр был выбран существенно меньшим, чем у "ближней" и скоростной К-10, где он составлял 640 кг/м2. Во избежание реверса элеронов, с которым столкнулись на сверхзвуковых самолетах, особенно при малой жесткости легкой конструкции крыла ракеты, элероны разместили ближе к корню крыла
(благо этому не мешали отсутствующие закрылки), вдвое сократились их углы отклонения с одновременным увеличением их площади для сохранения достаточной управляемости по крену.
Первоначально в размерности хвостового оперения соблюдались обычные самолетные пропорции, однако ввиду умеренных требований к маневренности (на основных режимах полета задачей являлось сохранение устойчивости ракеты) в окончательном варианте оперение существенно уменьшилось, и относительная площадь горизонтального оперения составляла всего 16% от площади крыла, а вертикального - 11,2% (против общепринятых в авиастроении 20-25%). Киль при этом сместился необычно близко к центру тяжести ракеты - уже по компоновочным соображениям ее подвески под носитель, где его обычному расположению мешали фюзеляжные баки. Для стабилизации и управления на переходных режимах достаточными оказались небольшие углы отклонения руля высоты и цельноповоротного стабилизатора (необходимость его использования выявилась уже при испытаниях МиГ-19).
Схема с лобовым воздухозаборником не лучшим образом отвечала компоновке ракеты, усложняя конструкцию протяженными воздушными каналами, «съедавшими» внутренние объемы и вызывавшими аэродинамические потери. Однако она обеспечивала наименьший мидель, к тому же для сверхзвуковых скоростей такой воздухозаборник был тогда достаточно отработан и не сулил проблем. В целом схема и конструкция Х-20 стали практическим компромиссом требуемого и имевшегося в распоряжении конструкторов.