1. Не использовать ToggleButtonBar. Вместо него использовать Box, Canvas, в общем любой контейнер.
2. Наследоваться от ToggleButtonBar, переписать методы createChildren (в нем добавить разделитель), сеттер dataProvider (добавить флаг на изменения dataProvider ибо тот что есть, объявлен как private), commitProperties (при изменении dataProvider пересоздаются кнопки, соответсвенно надо заново добавить разделитель).