¿Se actualizará la app de Android aunque no esté en Google Play Store?

Sí, la app busca actualizaciones en cada inicio y le notificará cuando haya una disponible. Las descargas fuera del mercado deben estar habilitadas para que se descargue la actualización.