Existen varias forma de por realizar esta acción, acá dejo cuatro formas para poder hacerlo:

1.- Una sola linea: Verificando el estado de la casilla, es decir, si está marcado o no devolverá 1 o 0.

var isChecked = $('#chkSelect').attr('checked')?true:false;

Si utilizas la versión de jQuery 1.6+, lo puedes hacer así:

var isChecked = $('#chkSelect').prop('checked');

2.- Usando el método val(), este retorna “on” cuando esta tickeado y “undefined” cuando no esta tickeado.

var isChecked = $('#chkSelect:checked').val()?true:false;

2.- Usando el método is(), este retorna true o false dependiendo si esta o no esta tickeado.

var isChecked = $('#chkSelect').is(':checked');

4.- La cuarta forma es encontrar todas las casillas tickeadas en la página.

$("input[type='checkbox']:checked").each(
    function() {
       // Acá va el códgio
    }
);