Туполев был арестован по обвинению во вредительстве, принадлежности к контрреволюционной организации. Вместе с ним были арестованы многие ведущие специалисты ЦАГИ и ОКБ, директора большинства авиационных заводов. 28 мая 1940 года приговорён ВКВС СССР к 15 годам лишения свободы и 5 годам поражения в правах, а также конфискации личного имущества. Его обвинили в руководстве антисоветской вредительской организацией, проводившей диверсионную вредительскую работу. Кроме того, согласно приговору, А. Н. Туполев с 1924 года был агентом французской разведки и передавал за границу сведения, составляющие государственную тайну. Приговор вынесла коллегия в составе: В. В. Ульрих (председатель), И. О. Матулевич, А. М. Орлов, секретарь Батнер А. А.
По свидетельству Главного маршала авиации А. Е. Голованова, в разговоре с ним И. В. Сталин сказал, что не верит в виновность Туполева. Компрометирующие факты, рассматриваемые следствием, никакого отношения к содержанию приговора не имели (дело вёл сотрудник 2-го следственного отдела НКВД Габитов).
Находясь в заключении, работал в закрытом КБ НКВД — ЦКБ-29 («Туполевская шарага»). В июле 1941 года от дальнейшего отбытия наказания был освобождён со снятием судимости. Туполев был полностью реабилитирован 9 апреля 1955 года.
