La forma sencilla es poner en el directorio en cuestión una página error404.html o con cualquier otro nombre, y después un documento .htaccess (esto solo vale para servidores Apache), que redireccione el fallos 404 a la página recién creada.
Para hacerlo debes editar el archivo .htaccess existente en tu directorio public_html (si no existe debes crearlo) y colocar dentro el siguiente texto:
ErrorDocument 404 http://www.tusitio.com/tu_directorio/error404.html
Una buena práctica es:
Poner cosas sencillas, claras y útiles. Por ejemplo un aviso sencillo o una imagen descriptiva (preferiblemente documentada, para aquellos que naveguen sin imágenes).
Podemos poner enlaces a alguna página web o a un buscador para ayudar a nuestro visitante.
Si hemos cambiado algo de sitio, podemos ayudar a nuestros visitantes a que sepan donde está escribiéndoles el enlace o el lugar.