Necesito descargar un archivo binario subido

Si tu servidor web es Apache, necesitarás indicarle qué tipo de mime type tiene tu archivo para que Apache sepa cómo manejarlo. Puedes usar el mime type "application/octet-stream" en tu archivo .htaccess para que Apache fuerce la descarga. Más información aquí: http://www.htaccess-guide.com/adding-mime-types/ (ver el tercer párrafo, que comienza con "A Handy Trick").

En cuanto a la biblioteca de medios -- por defecto, WordPress bloquea la mayoría de tipos de archivos para subir. Para permitir más tipos de archivos, necesitarás filtrar los tipos permitidos. Agrega esto al functions.php de tu tema:

<?php
// Función para agregar tipos MIME personalizados
function custom_upload_mimes($mime_types) 
{
    // Agregar tipo WAR como stream de octetos
    $mime_types['war'] = 'application/octet-stream';
    return $mime_types;
}
// Añadir filtro para tipos MIME en subidas
add_filter('upload_mimes', 'custom_upload_mimes');
?>