To też zależy od ustawień serwera i używanego protokołu.
POP3 jest zorientowany na odbieranie poczty, czyli odciążanie serwera ze zgromadzonych wiadomości. Generalnie było to częstą praktyką we wczesnych latach Internetu gdyż po prostu możliwości były ograniczone (zwłaszcza pojemności serwerów). Nie mniej np. na serwerze Gmail po zalogowaniu się przez interfejs webowy można wymusić na serwerze pozostawienie wiadomości przy komunikowaniu się przez POP3.
IMAP jest zorientowany na synchronizację wiadomości oraz ich stanów. Oznacza to że serwer pełni rolę pośrednika pomiędzy klientami IMAP a nie tymczasowego magazynu danych.
Nie umiem tobie powiedzieć jak jest z pocztą M$ Exchange, chociaż przyjmuję że domyślne ustawienia serwera również są zorientowane na synchronizację.
Zawsze możesz spróbować innego klienta pocztowego. Ja sam swego czasu używałem K-9 Mail.