1. Нужно включить .net 3,5 через Server Manager, Add roles and features.

2. При установке SQL Server, когда установщик пишет, что не может запустить службу сервера, заходим в папку c:\Program Files\Microsoft SQL Server\MSSQL.1\MSSQL\Binn\ и заменяем там sqlos.dll и sqlservr.exe файлами из архива или инсталляций с SP3 или SP4. Старые файлы сохраняем! Возвращаемся к установщику и нажимаем повторить (Retry), после этого установка благополучно завещается.
Далее останавливаем службы, подкладываем обратно старые файлы и ставим SP4. Старые файлы подкладываем для того, чтобы установка SP4 поняла, что надо обновить компонент "Database Engine".