Писал пол года назад под AIR, тоже была такая задача. Если проигрывается видео, то выходим в меню.

Код AS3:
NativeApplication.nativeApplication.addEventListener(KeyboardEvent.KEY_DOWN, onDownKey, false, 0, true);
private function onDownKey(e:KeyboardEvent):void {
if (e.keyCode == Keyboard.BACK) {
e.preventDefault();
e.stopImmediatePropagation();
if (_videoPlayer.isPlaying) {
// возврат в меню
} else {
exitApp();
}
}
}