Consultar Posts o Obtener Posts por campos personalizados, ¿es posible?

Para consultar publicaciones por campos personalizados puedes usar el parámetro 'meta_query'

<?php
$args = array(
    'post_type' => 'payment',
    'meta_query' => array(
            array(
                'key' => 'bookingref',
                'value' => 'the_value_you_want', // el valor que deseas buscar
                'compare' => 'LIKE'
            ),
            array(
                'key' => 'customerref',
                'value' => 'the_value_you_want', // el valor que deseas buscar
                'compare' => 'LIKE'
            )
    )
);
query_posts($args); while (have_posts()) : the_post();
?>

No puedes usar get_post_meta dentro de la consulta porque te devuelve el valor y no la clave, además requiere un ID de publicación para obtener ese valor y antes de la consulta $post->id no está en el alcance.