quickformでregisterRule()をするときに、オブジェクト内のメソッドを利用するにはメソッド名の後ろにオブジェクトを指定すると良いらしいです（PHP5では参照指定は必要ないようです）。
しばし悩みました。。。
registerRule("ルール名称", "callback", "メソッド名", &$オブジェクト);
ですので、良くあるメールアドレスチェックでは次のように。
function checkForm(){
$this -> _form->registerRule('checkmail', 'callback', 'checkEmail', &$this);
$this -> _form->addRule('email', 'メールアドレスではありません。', 'checkmail');
}
function checkEMail(){
//チェック関数
}