Если у Вас сайт создан и работает на движке wordpress, то наилучшим вариантом кэширования будет загрузка плаигна и его настройка, например, WP Super Cache. В интернете множество сайтов с информацией по подробной настройке данного плагина, плюсом его является простота и автоматическое добавление нужного кода отвечающего за кэш в файл .htaccess. Далее инструмент page speed скорее всего скажет, что у следующих файлов не указано время хранения кэша - не проблема, добавляем следующий код в файл .htaccess и указываем время хранения файлов (какое должно быть время хранения решать Вам).
<ifmodule mod_expires.c>
<Filesmatch "\.(jpg|jpeg|png|gif|js|css|swf|ico|woff|mp3)$">
ExpiresActive on
ExpiresDefault "access plus 30 days"
</Filesmatch>
</ifmodule>
Проверяйте результат, должно заработать.
В некоторых случаях кэширование включается на стороне хостинга (если не помогли данные методы, то скорее всего так и есть в Вашем случае) - это не страшно, просто нужно написать технической поддержке о данной просьбе.