Первыми профессорами Института высших исследований в Принстоне стали Освальд Веблен (в 1932 году) и Альберт Эйнштейн (1933). В том же 1933 этой высокой чести был удостоен и Джон фон Нейман.

В 1938 вышла работа фон Неймана "О бесконечных прямых произведениях". Первая ЭВМ была построена в 1943-1946 годах в школе инженеров-электриков Мура Пенсильванского университета и получила название ЭНИАК (по первым буквам английского названия - электронный цифровой интегратор и вычислитель). Фон Нейман подсказал её разработикам, как можно модифицировать ЭНИАК, чтобы упростить его программирование.

А вот в создании следующей машины - ЭДВАК(электронный автоматический вычислитель с дискретными переменными) фон Нейман принял более активное участие. Он разработал подробную логическую схему машины, в который структурными единицами были не физические элементы цепей, а идеализированные вычислительные элементы. Использование идеализированных вычислительных элементов стало важным шагом вперед, так как позволило отделить создание принципиальной логической схемы от ее технического воплощения. Также фон Нейман предложил ряд инженерных решений. Фон Нейман предложил использовать в качестве элементов памяти не линии задержки, а электронно-лучевой трубки (электростатическая запоминающая система), что должно было сильно повысить быстродействие. При этом можно было обрабатывать все разряды иашинного слова параллельно. Эта машина была названа ДЖОНИАК - в честь фон Неймана. С помощью ДЖОНИАКА были осуществленны важные расчеты при создании водородной бомбы.

В 1944 увидела свет работа фон Неймана и О. Моргенштерна "Теория игр и экономического поведения". В конце сороковых годов, накопив практический опыт создания компьютеров, фон Нейман приступил к созданию общей математической (логической) теории автоматов. Различия между теорией автоматов фон Неймана и кибернетикой Винера несущественны и обусловлены личным вкусом их создателей, а не принципиальными соображениями. Теория фон Неймана посвящена, в основном, дискретной математике, в то время как у Винера - непрерывной.

Фон Нейман предложил систему корректировки данных, для повышения надежности систем - использование дублирующихся устройств с выбором двоичного результата по наибольшему числу.

Фон Нейман много работал над самовоспроизведением автоматов и смог доказать возможность самовоспроизвдения конечного автомата, обладавшего 29 внутренними состояниями.

Во второй половине 1930-х годов совместно с Ф. Дж. Мюрреем Нейман опубликовал ряд работ по кольцам операторов, положив начало так называемой алгебре Неймана, которая впоследствии стала одним из главных инструментов для квантовых исследований. В 1937 Нейман принял гражданство США. Во время Второй мировой войны служил консультантом в атомном центре в Лос-Аламосе, где рассчитал взрывной метод детонации ядерной бомбы и участвовал в разработке водородной бомбы. В марте 1955 стал членом американской комиссии по атомной энергии.

Из 150 трудов Неймана лишь 20 касаются проблем физики, остальные же равным образом распределены между чистой математикой и ее практическими приложениями, в том числе теорией игр и компьютерной теорией.

Нейману принадлежат новаторские работы по компьютерной теории, связанные с логической организацией компьютеров, проблемами функционирования машинной памяти, имитацией случайности, проблемами самовоспроизводящихся систем. В 1944 Нейман присоединился к группе Мокли и Эккерта, занятой созданием машины ENIAC, в качестве консультанта по математическим вопросам. Тем временем в группе началась разработка новой модели, EDVAC, которая, в отличие от предыдущей, могла бы хранить программы в своей внутренней памяти. В 1945 Нейман опубликовал «Предварительный доклад о машине EDVAC», в котором описывалась сама машина и ее логические свойства. Описанная Нейманом архитектура компьютера получила название «фон Неймановской», и таким образом ему было приписано авторство всего проекта. Это вылилось впоследствии в судебное разбирательство о праве на патент и привело к тому, что Эккерт и Мокли покинули лабораторию и основали собственную фирму. Тем не менее «архитектура фон Неймана» была положена в основу всех последующих моделей компьютеров. В 1952 Нейман разработал первый компьютер, использующий программы, записанные на гибком носителе, MANIAC I.