$ find . -name "*.jpg" -delete

Лучше сначала просто найти файлы, убедиться, что это кандидаты на удаление и только после этого - удалить их.