Проверяют ли обратный билет, и можно ли просто взять его в Малайзию?

Да, и да можно возвратный - потом сдадите его, как пройдете контроль.

Бывает, что смотрят. Можете.