Подскажите, если на машине выехать в Малайзию, и оттуда обратно в Таиланд - поставят новый штамп?

Все зависит от вашей визовой истории.

Да, конечно, вы сухопутную границу пересекаете. Готовьтесь отстоять в очереди пару часов (и подготовьте все документы на машину)