メモ。
借りたばかりの専用サーバ（ファーストサーバのデルタ２）の設定していたのですが、PHPのバージョンが5.1・・・
今時5.1はない！
ということでPHP5.3をインストールし直すことにしました。
【追記】2012.04.05
以下いろいろ書いてますが、今はこれでバージョンアップできるみたいです・・・
さくらのVPSにPHP5.3を入れるもっとに簡単な方法 | obtainer 獲得するヒト・モノ・コト
気づくのが遅かった～！！
まあいいけど。
以下本文。
まず、apacheを起動している場合はapacheを止め、今入っているPHP5.1を削除。
yum remove php php-*
次にphp5.3をインストールします。
なお、「yum install php53」でもインストールできるのですが、これだとmycryptがインストールできない（いや、できるけどなんかややこしい）。
ということで、こちらのサイトを参考にPHP5.3をインストールしました。
さくらのVPS（CentOS）にPHP5.3.xをyumでインストールする方法 » とりあえず9JP
さくらVPS用の説明になってますが、さくらVPSでなくてもインストールできました。
なお、
http://download.fedora.redhat.com/
はすでにつながらなくなっていますので、URLは
http://dl.fedoraproject.org/
に変更してください。（「download.fedora.redhat.com」が繋がらない場合は...を参考にさせていただきました。）
あとは「さくらのVPS（CentOS）にPHP5.3.xをyumでインストールする方法」ページに書かれている通りに作業すれば、PHP5.3系のインストール完了です。