Поставил WireShark и попробовал все выполнить через telnet, выяснилось что все команды должны заканчиваться на \r\n . Так что конструкция должна была выглядеть так
Код:
socket.writeUTFBytes("USER " + "sss\r\n");
socket.flush();
writeByte(0) ставить не пришлось.
Всем спасибо.