参考サイト
http://d.hatena.ne.jp/thunderbo1t/20100725/1280048804
http://oshiete.goo.ne.jp/qa/4904846.html?from=recommend
http://oshiete.goo.ne.jp/qa/2393841.html

デフォルトの設定でインストールすると、5.1のはず。
<確認方法>
1. phpinfo() を走らせる。
2. コマンド
$ php -v
PHP 5.1.6 (cli) (built: Mar 31 2010 02:44:37)
Copyright (c) 1997-2006 The PHP Group
Zend Engine v2.1.0, Copyright (c) 1998-2006 Zend Technologies

cat /etc/redhat-release　centos のバージョン確認
uname -a の末尾を確認
「x86_64 x86_64 x86_64 GNU/Linux」 or 「i686 i686 i386 GNU/Linux」

<実行>
標準のリポジトリには PHP 5.3 が存在しないようなので、remiというリポジトリを追加。
wget http://download.fedora.redhat.com/pub/epel/5/i386/epel-release-5-3.noarch.rpm
wget http://rpms.famillecollet.com/enterprise/remi-release-5.rpm
rpm -Uvh remi-release-5*.rpm epel-release-5*.rpm

ここではまった。
centos -version で OSがi386 なのか、x86-64 なのかチェックし忘れ、
i386が正しいのに、x86-64を入れてしまい延々と時間をとられた。

mysql → php じゃないと面倒があるとの記事を見つけたので、
sudo yum --enablerepo=remi install mysql
sudo yum --enablerepo=remi install php
/etc/rc.d/init.d/httpd restart

$ php -v
PHP 5.3.3 (cli) (built: Jul 22 2010 16:41:20)
Copyright (c) 1997-2010 The PHP Group
Zend Engine v2.3.0, Copyright (c) 1998-2010 Zend Technologies

自分メモ
バージョンを間違えた際、競合してインストールが上手くいかなかったので、
強制オプションを入れてインストールしたり。
rpm -Uvh --force <package>.rpm