13歳のときにアメリカに移民したが、生涯ハンガリー語のアクセントがあった。学士位(B.A.)をイリノイ大学アーバナ・シャンペーン校から得る。数学専攻であったが数学と哲学両方の学位取得条件を満していた。わずか3年で学位を得たため、卒業したときはまだ19歳であった。その後同大学に留まり哲学の博士課程に進んだ。しかし、修士課程の口頭試験に不合格になり 、専攻を数学に変え1938年に卒業した。指導教官はジョゼフ・L・ドゥーブ、博士論文の題は"Invariants of certain stochastic transformations: The mathematical theory of gambling systems"(ある種の確率的変換の不変量:ギャンブルのシステムの数学的理論)であった。
研究によるオリジナルな貢献に加え、ハルモスは説明が非常に明快で人をひきつける大学レベルの数学の教科書を書いたことで知られる。レスター・R・フォード賞(英語版)を1971年さらに再び1977年(W. P. Ziemer, W. H. Wheeler, S. H. Moolgavkar, J. H. Ewing, W. H. Gustafsonと共同で)受賞している。1973年に出版された学術レベルでの数学に関するAMSスタイルガイドを著したアメリカ数学会(AMS)の委員会でハルモスは議長をつとめた。1983年には数学の優れた解説、説明的な著述に対しあたえられるAMSのSteele Prize for Mathematical Expositionを受賞している。
1985年の著書である"automathography"(数学的自伝。数学mathと自伝autobiographyをもとにした造語)"I Want to Be a Mathematician"では20世紀の数学者として生きるとはどういうことであるかについて書かれている。ハルモスがこの本を自伝autobiographyでなくautomathographyと呼んだのは、本の中心が私的生活ではなく数学者としての人生であるからである。この本にはハルモスにとって数学をするとはどういうことであったかを示す次の言葉がある。
ただ漫然と読むだけではいけない;闘うのだ!自ら問いを発し、自ら例を探し、自ら証明を発見せよ。仮定は必要か?逆は真か?古典的で特別な場合はどうか?縮退している場合はどうか?証明のどこに仮定が使われているだろうか?
(原文: Don't just read it; fight it! Ask your own questions, look for your own examples, discover your own proofs. Is the hypothesis necessary? Is the converse true? What happens in the classical special case? What about the degenerate cases? Where does the proof use the hypothesis?)
(数学者になるには)何が必要だろうか? 私は答えを知っているように思う。生来の資質は必要だ。常に完璧を目指すよう心掛けなければならない。数学をそれ以外の何にもまして愛さねばならない。休むことなく努力し、そして決して諦めてはならない。 原文:What does it take to be [a mathematician]? I think I know the answer: you have to be born right, you must continually strive to become perfect, you must love mathematics more than anything else, you must work at it hard and without stop, and you must never give up.
Paul Halmos, 1985
これらの自伝でハルモスは必要十分条件をあらわす言葉"if and only if"を短縮した記号"iff"を発明し、また 墓石記号を証明の最後を示すものとして初めて使ったとしている。この主張は広く受け入れられている。墓石記号 ∎ (Unicode U+220E) はときにhalmosと呼ばれる。
↑Halmos,Paul(1950).Measure Theory.New York:Van Nostrand.pp.vi."The symbol ∎ is used throughout the entire book in place of such phrases as "Q.E.D." or "This completes the proof of the theorem" to signal the end of a proof."
↑"The symbol is definitely not my invention— it appeared in popular magazines (not mathematical ones) before I adopted it, but, once again, I seem to have introduced it into mathematics. It is the symbol that sometimes looks like ▯, and is used to indicate an end, usually the end of a proof. It is most frequently called the 'tombstone', but at least one generous author referred to it as the 'halmos'.", Halmos 1985, p.403.