у тебя микрофон слышит звук из колонок из-за чего он(звук) многократно усиливается.Отключай setLoopBack и подбирай коэффициенты,чтоб анимация запускалась без усиления
Добавлено через 13 минут
upd:
<< - это оператор битового сдвига,не думаю,что ему тут место