日本画家。1930年（昭和5年）6月、広島県豊田（とよた）郡瀬戸田町（現・尾道市）に生まれる。1952年（昭和27年）東京美術学校日本画科を卒業。以後前田青邨に師事する。翌年、「家路」で第38回院展にて初入選。1973年（昭和48年）に東京藝術大学教授となり、1989年（平成1年）から同大学学長を2期務める。

平山の制作の精神的な支柱は仏教に求められていた。やがて仏教を遠く日本まで伝えたシルクロードへの憧憬が強まり、東西文明交流の跡を訪ねて中国、インドから中近東にまで足を伸ばした。ヨーロッパからアジアにまたがる大地と、そこに繰り広げられた栄枯盛衰の歴史、そしてその中でやむことなく続けられた人間の営みの姿。これらは彼の画想にさらに豊かな広がりと深みを与え、ロマンに満ちた作品の数々を生み出せた。平山郁夫のシルクロードの絵には、確かな歴史の重みが感じられるのである。

さらに法隆寺金堂壁画、高松塚古墳壁画の再現模写などにも携わった。1998年（平成10年）文化勲章受章。2000年（平成12年）奈良・薬師寺玄奘三蔵院（げんじょうさんぞういん）に『大唐西域壁画（だいとうさいいきへきが）』を完成させた。1997年（平成9年）瀬戸田町に平山郁夫美術館が開館。

2009年（平成21年）12月2日永眠（満79歳）。