Podemos utilizar varios métodos:

Con el método .attr()

if( $('#elementoCheckbox').attr('checked') ) {
    alert('Está seleccionado');
}

Con el método .is(selector)

if( $('#elementoCheckbox').is(':checked') ) {
    alert('Está seleccionado');
}

Ambos métodos nos devuelven (true/false).
Personalmente suelo utilizar más el segundo método.

Tambien tenemos la opción de:

if($('input[name="nombreDelCheckbox"]:checked').length > 0){
    alert('Está seleccionado');
}

o apuntando al selector de otro modo…

if($('#elementoCheckbox:checked').length > 0){
    alert('Está seleccionado');
}