私の場合はVPSの利用としてWebサーバあたりの目的としてしか使わないので、
例えばBluetoothなど要らない実行は止めます。

またファイヤーウォールも構築します。
基本的にはSSHとHTTPのみ解放する形です。
後に例えば音楽サーバとしてポートを開けたい場合はここを変更します。

まずはファイアーウォール構築から

iptablesというファイルを作成します。
vi /etc/sysconfig/iptables

*filter
:INPUT ACCEPT [0:0]
:FORWARD ACCEPT [0:0]
:OUTPUT ACCEPT [0:0]
:RH-Firewall-1-INPUT – [0:0]

-A INPUT -j RH-Firewall-1-INPUT
-A FORWARD -j RH-Firewall-1-INPUT
-A RH-Firewall-1-INPUT -i lo -j ACCEPT
-A RH-Firewall-1-INPUT -p icmp –icmp-type any -j ACCEPT
-A RH-Firewall-1-INPUT -p 50 -j ACCEPT
-A RH-Firewall-1-INPUT -p 51 -j ACCEPT
-A RH-Firewall-1-INPUT -p udp –dport 5353 -d 224.0.0.251 -j ACCEPT
-A RH-Firewall-1-INPUT -p udp -m udp –dport 631 -j ACCEPT
-A RH-Firewall-1-INPUT -p tcp -m tcp –dport 631 -j ACCEPT
-A RH-Firewall-1-INPUT -m state –state ESTABLISHED,RELATED -j ACCEPT

# SSH, HTTP, FTP1, FTP2, MySQL
-A RH-Firewall-1-INPUT -m state –state NEW -m tcp -p tcp –dport 10022 -j ACCEPT
-A RH-Firewall-1-INPUT -m state –state NEW -m tcp -p tcp –dport 80 -j ACCEPT
-A RH-Firewall-1-INPUT -m state –state NEW -m tcp -p tcp –dport 20 -j ACCEPT
-A RH-Firewall-1-INPUT -m state –state NEW -m tcp -p tcp –dport 21 -j ACCEPT
-A RH-Firewall-1-INPUT -m state –state NEW -m tcp -p tcp –dport 3306 -j ACCEPT

-A RH-Firewall-1-INPUT -j REJECT –reject-with icmp-host-prohibited

COMMIT

先日の知恵で載せてあるものをそのまま借りてきました。
sshはデフォルトでは22番ですが、10022などに変えた場合は10022にするといった形です。
FTPなんて使わない人は要らない設定もあります。
上記をコピーする時は隙間の行の半角スペースに気をつけてください。エラーになります。

保存したら下記で再起動
/etc/rc.d/init.d/iptables restart

設定の確認は
iptables -L

利用されていないデーモンを終了する

こちらのテーブルが非常に参考になります。
CentOSをサーバーとして活用するための基本的な設定 – さくらインターネット創業日記

まずは
free
などで現在のメモリ使用量をチェック。

total used free shared buffers cached
Mem: 2053764 818452 1235312 0 43780 694152
-/+ buffers/cache: 80520 1973244
Swap: 4194296 0 4194296

こちらはさくらさんの例です。
/sbin/chkconfig auditd off
/sbin/chkconfig autofs off
/sbin/chkconfig avahi-daemon off
/sbin/chkconfig bluetooth off
/sbin/chkconfig cups off
/sbin/chkconfig firstboot off
/sbin/chkconfig gpm off
/sbin/chkconfig haldaemon off
/sbin/chkconfig hidd off
/sbin/chkconfig isdn off
/sbin/chkconfig kudzu off
/sbin/chkconfig lvm2-monitor off
/sbin/chkconfig mcstrans off
/sbin/chkconfig mdmonitor off
/sbin/chkconfig messagebus off
/sbin/chkconfig netfs off
/sbin/chkconfig nfslock off
/sbin/chkconfig pcscd off
/sbin/chkconfig portmap off
/sbin/chkconfig rawdevices off
/sbin/chkconfig restorecond off
/sbin/chkconfig rpcgssd off
/sbin/chkconfig rpcidmapd off
/sbin/chkconfig smartd off
/sbin/chkconfig xfs off
/sbin/chkconfig yum-updatesd off

終了したらreboot

ここまで来たら次は必要なサービスやアプリをインストールしていきましょう。