Cómo configurar SMTP programáticamente

Adición a la respuesta de @EugeneManuilov.

Configuración SMTP

Por defecto, como ya respondió @EugeneManuilov, solo se pueden configurar mediante un callback adjunto a un do_action_ref_array(). Fuente/núcleo.

<?php
defined( 'ABSPATH' ) OR exit;
/**
 * Plugin Name: (WCM) Configuración SMTP de PHPMailer
 * Description: Habilita servidores SMTP, autenticación SSL/TSL y configuración SMTP.
 */

add_action( 'phpmailer_init', 'phpmailerSMTP' );
function phpmailerSMTP( $phpmailer )
{
    # $phpmailer->IsSMTP();
    # $phpmailer->SMTPAuth   = true;  // Autenticación
    # $phpmailer->Host       = '';
    # $phpmailer->Username   = '';
    # $phpmailer->Password   = '';
    # $phpmailer->SMTPSecure = 'ssl'; // Activar si es necesario - 'tls' es otro valor posible
    # $phpmailer->Port       = 26;    // Puerto SMTP - 26 es para GMail
}

Excepciones SMTP

Por defecto WordPress no proporciona ninguna salida de depuración. En su lugar, simplemente devuelve FALSE si ocurre un error. Aquí hay un pequeño plugin para solucionar esto:

<?php
defined( 'ABSPATH' ) OR exit;
/**
 * Plugin Name: (WCM) Excepciones PHPMailer & SMTP
 * Description: WordPress por defecto devuelve <code>FALSE</code> en lugar de una <code>Exception</code>. Este plugin corrige eso.
 */

add_action( 'phpmailer_init', 'WCMphpmailerException' );
function WCMphpmailerException( $phpmailer )
{
    if ( ! defined( 'WP_DEBUG' ) OR ! WP_DEBUG )
    {
        $phpmailer->SMTPDebug = 0;
        $phpmailer->debug = 0;
        return;
    }
    if ( ! current_user_can( 'manage_options' ) )
        return;

    // Habilitar SMTP
    # $phpmailer->IsSMTP();
    $phpmailer->SMTPDebug = 2;
    $phpmailer->debug     = 1;

    // Usa `var_dump( $data )` para inspeccionar datos en el último punto y ver
    // si algo ha cambiado en el núcleo. Deberías considerar volcarlo durante el
    // filtro `wp_mail` también, para obtener el estado original para comparación.
    $data = apply_filters(
        'wp_mail',
        compact( 'to', 'subject', 'message', 'headers', 'attachments' )
    );

    current_user_can( 'manage_options' )
        AND print htmlspecialchars( var_export( $phpmailer, true ) );

    $error = null;
    try
    {
        $sent = $phpmailer->Send();
        ! $sent AND $error = new WP_Error( 'phpmailerError', $sent->ErrorInfo );
    }
    catch ( phpmailerException $e )
    {
        $error = new WP_Error( 'phpmailerException', $e->errorMessage() );
    }
    catch ( Exception $e )
    {
        $error = new WP_Error( 'defaultException', $e->getMessage() );
    }

    if ( is_wp_error( $error ) )
        return printf(
            "%s: %s",
            $error->get_error_code(),
            $error->get_error_message()
        );
}

Repositorio

Ambos plugins están disponibles en este Gist en GitHub, así que considera descargarlos desde allí para obtener actualizaciones.

Las otras respuestas a esta publicación, aunque proporcionan una solución funcional, no abordan el problema de seguridad de almacenar tus credenciales SMTP en un archivo de plugin o functions.php. En algunos casos puede estar bien, pero las mejores prácticas indicarían almacenar esta información de forma más segura. Realmente no hay una buena razón para no seguir las mejores prácticas cuando se trata de proteger tus credenciales.

Algunos sugerirían guardarlas en la base de datos como opción, pero esto también presenta los mismos problemas de seguridad dependiendo del número de usuarios administrativos que tenga tu sitio y si esos usuarios deberían poder ver estas credenciales de acceso. Esta es también la misma razón para no usar un plugin para esto.

La mejor manera de hacer esto es definir constantes para la información de phpmailer en tu archivo wp-config.php. Esto ha sido discutido como una característica en el componente Mail, pero no ha sido aceptado como una mejora real hasta ahora. Pero puedes hacerlo tú mismo añadiendo lo siguiente a wp-config.php:

/**
 * Define las siguientes constantes en wp-config.php
 * Estos deben añadirse en algún lugar ANTES de que
 * se defina la constante ABSPATH.
 */
define( 'SMTP_USER',   'user@example.com' );    // Nombre de usuario para autenticación SMTP  
define( 'SMTP_PASS',   'smtp password' );       // Contraseña para autenticación SMTP
define( 'SMTP_HOST',   'smtp.example.com' );    // El hostname del servidor de correo
define( 'SMTP_FROM',   'website@example.com' ); // Dirección de correo remitente SMTP  
define( 'SMTP_NAME',   'e.g Website Name' );    // Nombre remitente SMTP
define( 'SMTP_PORT',   '25' );                  // Número de puerto SMTP - normalmente 25, 465 o 587
define( 'SMTP_SECURE', 'tls' );                 // Sistema de encriptación a usar - ssl o tls
define( 'SMTP_AUTH',    true );                 // Usar autenticación SMTP (true|false)  
define( 'SMTP_DEBUG',   0 );                    // Solo para depuración, establecer a 1 o 2

Una vez definidas en wp-config.php, se pueden usar en cualquier lugar mediante la constante definida. Así que podrías usarlas en un archivo de plugin o en tu functions.php. (Específicamente para el OP, usa un archivo de plugin).

/**
 * Esta función conectará wp_mail a tu servidor SMTP
 * autenticado. Los valores son constantes definidas en wp-config.php  
 */
add_action( 'phpmailer_init', 'send_smtp_email' );
function send_smtp_email( $phpmailer ) {
    $phpmailer->isSMTP();
    $phpmailer->Host       = SMTP_HOST;
    $phpmailer->SMTPAuth   = SMTP_AUTH;
    $phpmailer->Port       = SMTP_PORT;
    $phpmailer->Username   = SMTP_USER;
    $phpmailer->Password   = SMTP_PASS;
    $phpmailer->SMTPSecure = SMTP_SECURE;
    $phpmailer->From       = SMTP_FROM;
    $phpmailer->FromName   = SMTP_NAME;
}

Hay un poco más de detalle sobre esto en esta publicación y un gist en github aquí.