会社を設立する際、自宅を本店として登記することはできますか？

可能です。
会社の本店は、事業を行っている場所でなくてもかまいません。
ただし、自宅が賃貸物件の場合、賃貸借契約で事務所としての使用を認めていないことがありますので、契約内容を確認しておく必要があります。
レンタルオフィス等を本店にすることもできますが、法人登記ができるかどうかを確認する必要があります。