帕尔曼1945年生于以色列，在茱利亚音乐学院师从伊万·加拉米安和多罗西·狄雷。帕尔曼与诸多知名乐团均有合作，在世界各地举办的独奏音乐会和音乐节中频频亮相。帕尔曼也经常出任指挥，先后担任过阿姆斯特丹皇家音乐厅管弦乐团、柏林爱乐、纽约爱乐、芝加哥、费城、波士顿等各大交响乐团，以及拉维尼亚和莫扎特音乐节的指挥。

由于帕尔曼在4岁时患小儿麻痹症，成为终身残疾，因而无法站立演奏，但他却以超常的毅力克服困难，最终成为世界级小提琴大师。在帕尔曼引以为豪的成就中，有一项是与著名电影音乐作曲家约翰·威廉姆斯合作，在大导演斯皮尔伯格的奥斯卡获奖影片《辛德勒的名单》中担任独奏。他还在张艺谋执导的影片《英雄》（谭盾作曲）和罗伯·马歇尔导演的《艺伎回忆录》（约翰·威廉姆斯作曲）中担任小提琴独奏。

帕尔曼曾四次获得艾美奖。他的录音从来都被列入最畅销唱片的目录，并且曾获得15项格莱美大奖。2008年2月，帕尔曼被授予格莱美终身成就奖，以表彰他在唱片艺术中的杰出成就。