こちらではG-SKILLのDDR-3 1600のメモリをX.M.P.設定したところOSのインストールがうまくいきました。
「Intel eXtreme Memory Profile(XMP)」の規格に対応したDDR３のメモリでためしてみてください。
X79のマザーボードでDDR-3 1600のメモリをつけたけどOSのインストールがうまくいかない
以下のサイトでは手動でCASレイテンシの設定が紹介されています。
http://www.ocmemory.jp/support/guide/mguide-asus-x79.html