冯·诺伊曼出生在布达佩斯一个富裕的犹太家庭,他是Neumann Miksa和Kann Margit的三个孩子中最大的一个。小时候外号“Jancsi”的他已经显出惊人的记忆力:六岁已能用古希腊语同父亲闲谈,还可以心算八位数除法。年少的他不但对数学很有兴趣,亦喜欢阅读历史、社会的书籍,读过的书籍和论文能很快一句不漏地将内容复述出来,而且多年以后仍是如此。1913年,父亲买了一个爵位,冯·诺伊曼晋身贵族,成为János von Neumann。
1926年,冯·诺伊曼以22岁的年龄获得了布达佩斯大学数学博士学位,相继在柏林大学和汉堡大学担任数学讲师。
1930年,冯·诺伊曼接受了普林斯顿大学客座教授的职位,初来美国时,他在纽约对当地居民表演过默记电话簿的惊人记忆力。
1931年,冯·诺伊曼成为该校终身教授。1933年转入普林斯顿高等研究院,与爱因斯坦等人成为该院最初的四位教授之一,不须上课。这一年,他部分解决了希尔伯特第5个问题,证明了局部欧几里得紧群是李群。1937年成为美国公民,1938年获颁博修奖。
1954年,冯·诺伊曼任美国原子能委员会委员。1954年夏天,右肩受伤,手术时发现患有骨癌,治疗期间,依然参加每周三次的原子能委员会会议,甚至美国国防部长,陆、海、空三军参谋长聚集在病房开会。晚年,有学生请教他做事的方法,他说:“简单”(simple)。
1957年2月8日,冯·诺伊曼在华盛顿德里医院去世。
1994年被授予美国国家基础科学奖。
计算机之父,相当牛逼