Да — вы по-прежнему будете получать уведомления о новых входящих письмах, даже если приложение не запущено. Эти уведомления называются push-уведомлениями.
Доступность мгновенных push-уведомлений для конкретной учетной записи зависит от самой учетной записи: они не предлагаются для POP3-учетных записей, некоторые провайдеры отключают их для собственных серверов, а на Android они доступны только для учетных записей, в которые вы вошли через страницу входа самого провайдера, а не с помощью пароля. Там, где мгновенный push недоступен, вы всё равно можете использовать Частый опрос (Frequent Fetch), который проверяет наличие новой почты по расписанию. См. notification methods.
Для получения дополнительной информации об уведомлениях нажмите Here