Interrogare i Posts o ottenere Posts tramite campi personalizzati, è possibile?

Per interrogare i post in base ai campi personalizzati puoi utilizzare il parametro 'meta_query'

<?php
$args = array(
    'post_type' => 'payment',
    'meta_query' => array(
            array(
                'key' => 'bookingref', // chiave del campo personalizzato
                'value' => 'il_valore_che_desideri', // valore da cercare
                'compare' => 'LIKE' // tipo di comparazione
            ),
            array(
                'key' => 'customerref', // chiave del campo personalizzato
                'value' => 'il_valore_che_desideri', // valore da cercare
                'compare' => 'LIKE' // tipo di comparazione
            )
    )
);
query_posts($args); while (have_posts()) : the_post();
?>

Non puoi usare get_post_meta all'interno della query perché restituisce il valore e non la chiave, inoltre richiede un ID del post per ottenere quel valore e prima della query $post->id non è nello scope.