He trabajado como agente inmobiliaria y no, no puede entrar cuando le de la gana. Porque te puedes meter en un lío como dueño del piso. Si lo alquilas pasa a ser domicilio privado del alquilado.
Es relativamente normal que el dueño se quede una copia de las llaves, principalmente por si pasa algo en la casa y no puedes acudir (estas de finde y resulta que hay goteras o quedó un grifo abierto, alguna emergencia así) o si las pierdes que puedas hacer copias. Pero NUNCA PORQUE LE PETE AL DUEÑO ENTRAR