Крыло оснастили двухщелевыми выдвижными закрылками большой площади, что позволило получить малую посадочной скорость (200–250 км/час), и вместе с возможностью торможения воздушными винтами путем перевода их лопастей на малый угол установки обеспечило самолету малую дистанцию пробега при посадке. Сравнительно небольшую длину разбега при взлете получили путем использования отклонения закрылков на 25° в сочетании с относительно малой (по мнению создателей машины) удельной нагрузкой на крыло и значительным (порядка 20–25 %) увеличением коэффициента подъемной силы за счет обдува крыла винтами четырех мощных ТВД.
Найдя оптимальные места расположения двигателей относительно крыла, удалось получить и прибавку аэродинамического качества на 2,0–3,5 единицы по сравнению с самолетом-низкопланом, где двигатели устанавливаются над крылом. При равных полетных весах с низкопланом, такое расположение ТВД давало снижение расхода топлива на 8 — 10 %. Кроме того, установка двигателей под крылом позволила сделать короткими выхлопные трубы, снизить их вес и потери КПД от противодавления. Значительно уменьшилась и вероятность попадания в ТВД посторонних предметов с ВПП, что было очень важно для самолета, который собирались эксплуатировать не только с бетонных, но и грунтовых полос полевых аэродромов.
Для уменьшения усилий на органах управления рули и элероны Ан-12 имели развитую аэродинамическую компенсацию, обеспечивающую приемлемые усилия на всех режимах полета. Кроме того, на руле направления установили кинематически связанный с рулем пружинный сервокомпенсатор, угол отклонения которого зависел от усилий на педалях. На всех рулях устанавливались триммеры, а на элеронах — триммеры-сервокомпенсаторы, позволяющие сбалансировать самолет и снять усилия с органов управления при любых полетных режимах, включая и полет при остановленных двух двигателях с одной стороны машины. Благодаря установке на Ан-12 системы автоматического флюгирования винтов имелась возможность установки лопастей винта по потоку при любом случае отказа ТВД. При неудачном заходе на посадку с двумя неработающими с одной стороны двигателями и зафлюгированными винтами Ан-12 имел возможность уйти на второй круг (по крайней мере, считалось, что подобный акробатический трюк «особых трудностей не представляет»).
Ан-12 строился по нормам прочности 1953 г. и по классификации был отнесен к классу «В» тип 13 и 14 (пассажирские, транспортные и десантные самолеты). Максимальная эксплуатационная перегрузка равнялась +2,35, а минимальная (отрицательная) — 1,18. Со временем, когда допущена была эксплуатация самолета с увеличенным полетным весом и большей нагрузкой, максимальную перегрузку установили равной 2,23.
Проектирование самолета, как и требовало постановление, было выполнено в рекордно короткий срок. От момента начала работ до выхода на испытания прошло чуть более пятнадцати месяцев. Первый опытный самолет «У», строился в Киеве. 7 марта 1957 г. он поднялся в воздух с аэродрома летно-испытательной станции завода. Командиром экипажа был опытнейший летчик-испытатель ЛИИ Герой Советского Союза Я.И.Верников, вторым пилотом — И.Е.Давыдов.
Транспортный вариант имел по конструкции планера 86 % общих с пассажирским самолетом узлов и деталей (разработчики иногда говорили даже о 92 % унификации) и был спроектирован всего за восемь месяцев. Макетная комиссия по нему завершилась 22 июля 1956 г. с общей положительной оценкой. Главными отличиями транспортного самолета от Ан-10 стали новая хвостовая часть фюзеляжа с обширным грузолюком, герметичной кабиной стрелка и установка ДБ-65У системы оборонительного пушечного вооружения ПВ-23УС с двумя 23-мм орудиями АМ-23 (взята практически без изменений с Ан-8), а также двигатели АИ-20 опытной серии. Для компенсации отсутствия подфюзеляжного гребня, установленного на пассажирском самолете (его место занял грузолюк), Ан-12 имел большой форкиль. Первая машина «Т», получившая заводской № 7900101, была изготовлена на заводе № 39 в Иркутске в конце 1957 г. Ее преемственность с Ан-10 позволила отказаться от постройки опытного образца — первая иркутская машина была и первой серийной. Серийные номера Ан-12 иркутского завода расшифровывались следующим образом: первая цифра (7) — год выпуска (1957), вторая и третья — код завода (90), остальные — серия (01) и номер самолета в серии (01).
Первый полет Ан-12 состоялся 16 декабря 1957 г. В воздух его поднял экипаж в составе Героя Советского Союза Я.И.Верникова (командир, летчик-испытатель ЛИИ), Г.И.Лысенко (второй пилот, переведен в ОКБ из НИИ ГВФ), П.И.Уварова (штурман). И.М.Морозова (бортиженер), М.Г.Юрова (бортрадист), В.Г.Жилкина (бортстрелок).
В воздухе после уборки закрылков и уменьшения мощности двигателей возникла тряска носовой части фюзеляжа. Командир решил не рисковать, и через несколько минут прервал полет единственной к тому времени машины. Вскоре выяснилось, что тряска вызывалась незакрытой створкой передней ноги шасси и не была опасной. Со второго полета ведущим летчиком заводских испытаний назначили Г.И.Лысенко. За восемь месяцев Ан-12 прошел программу заводских испытаний, к концу которых участвовали уже три самолета.
Еще в ходе первых полетов летчики отмечали высокую энерговооруженность и аэродинамическое качества самолета. Из-за резкого разбега незагруженной на испытаниях машины они часто не успевали своевременно создавать взлетный угол, поэтому отрыв происходил на повышенной скорости. Вследствие сильного реактивного момента четырех воздушных винтов левого вращения правая стойка шасси нагружалась больше левой, и Ан-12 на разбеге проявлял тенденцию к развороту вправо, чувствительную при узкой колее шасси. Парировать этот эффект рулями не позволяла их малая эффективность в начале разбега. Разрешалось использовать для компенсации момента управление передней стойкой от педалей, обычно используемое при рулении.
По результатам испытаний конструкцию многих агрегатов и узлов самолета перед началом его массового серийного выпуска доработали. Для улучшения боковой динамической устойчивости, снижения влияния аварийной остановки двигателя и порывов ветра на динамику бокового движения самолета изменили угол поперечного излома крыла. Крыло приобрело характерную для Ан-12 форму «пологой чайки» — до 14-й нервюры консоли поднимались вверх под углом в 1°, а дальше начинали опускаться вниз с углом 3°. Кроме того, усилили хвостовую часть фюзеляжа, подвергавшуюся вибрациям из-за мощных спутных вихрей при открытии грузолюка в полете. Нагрузки здесь оказались такими, что при первом же полете с открытым люком фюзеляж «повело», закрываться створки уже не захотели, и садится пришлось с открытым люком.
В ходе испытаний была выявлена и недостаточная тяга первых АИ-20 на режиме наземного малого газа, на котором выполнялся заход на посадку (на полетном малом газе, напротив, самолет не хотел снижаться). На этом режиме винты самолета могли неожиданно самопроизвольно выйти на такой угол установки лопастей, при котором создаваемая тяга оказывалась значительно меньше, чем аэродинамическое сопротивление. По мере снижения Ан-12 терял скорость и проваливался перед самым касанием ВПП. В целях предотвращения этого явления была разработана такая методика захода на посадку, при которой внутренние двигатели выводились в положение наземного малого газа, а внешние оставлялись на упорах полетного, тяга при котором была несколько выше.
Отработка вариантов загрузки самодвижущихся 85-мм артиллерийских орудий СД-44 на второй опытной машине (зав. № 8900102).
В сентябре 1958 г. первый Ан-12 для показа высокому военному руководству Ан-12 перегнали на Центральный аэродром им. М.В.Фрунзе в Москве. Но при посадке из-за просчета экипажа и уже упомянутой выше недостаточной тяги ТВД на режиме наземного малого газа самолет грубо «скозлил», развернулся, и, задев землю винтами, остановился. Правая стойка шасси получила значительные повреждения. К счастью пожара не произошло, но самолет все равно требовал продолжительного ремонта.