¿Cómo obtener el número de entradas en una categoría seleccionada?

Si estás en un archivo de categoría no necesitas hacer una consulta para obtener todos los posts de la categoría como sugirió Christopher Ross y no puedes usar get_the_category() como sugirió Max Yudin a menos que ya estés dentro del loop.

Lo que puedes hacer es simplemente obtener el objeto de la categoría actual usando get_queried_object() que contendrá el conteo de posts, ejemplo:

$category = get_queried_object();
echo $category->count;

$category = get_the_category(); 
echo $category[0]->category_count;

Ver /Referencia_de_Funciones/get_the_category

Si estás en la página de categoría (archivo) simplemente usa:

$cat = get_the_category();
echo $cat[0]->count;

Esto funciona también dentro del loop. Pero si deseas mostrar el conteo de una categoría específica en cualquier parte del sitio, usa esta función:

function wt_get_category_count($catID) {
        global $wpdb;           
            $SQL = "SELECT $wpdb->term_taxonomy.count FROM $wpdb->terms, $wpdb->term_taxonomy WHERE $wpdb->terms.term_id=$wpdb->term_taxonomy.term_id AND $wpdb->term_taxonomy.term_id=$catID";             
            return $wpdb->get_var($SQL);
    }
    echo wt_get_category_count(2);