Для проверки поведения сервера, при активном использовании памяти, либо при резком росте потребления оперативной памяти. можно использовать утилиту testlimit. Эта утилита командной строки позволит протестировать и работу сервера или персонального компьютера при росте использования памяти установленным программным обеспечением, а также использование файла/файлов подкачки pagefile.sys. Данная утилита также полезна при тестировании работы системы мониторинга и отправке нотификаций при достижении пороговых значений.
Утилита доступна в 2-х вариантах: в 32-х разрядном и в 64-х рязрядном исполнении, для 32х разрядных и 64х разрядных операционных систем, соответственно Testlimit.exe и Testlimit64.exe. Внешний вид утилиты показан на скриншоте:

Разберем основные параметры, которые чаще всего будут полезны:

-c Количество потоков, для который надо выделить память (если не указывать количество, то будет создано максимальное количество, пока память не закончится)
-e Количество секунд, между выделением для объектов указанных в параметре (-c). По умолчанию нет паузы.
-d Объем памяти, который надо выделить, в указанном MBs (по умолчанию 1MB).
-v количество памяти в MB VirtualLock, которое будет выделено в ОС. эта память будет заблокирована и не сможет быть выгружена в swap
-r Резервирует виртуальную память в MB, но не выделяет ее.

Остальные параметры тоже можно использовать, но задачи, для которых они нужны, не так часто применяются. 

Итак, например, нам надо выделить на сервере 10Gb частями по 2GB с разницей в 3 секунды, то команда будет такой: 

Testlimit64.exe -d 2048MB -e 3 -c 5

Результат выполнения команды, показа на скринщоте

Скачать утилиту TestLimit можно по ссылкам:
https://live.sysinternals.com/WindowsInternals/
или
http://download.sysinternals.com/files/TestLimit.zip