Может кому пригодится, AIR-приложение создающее локальный сокет-сервер, для тестирования/изучения сокет-соединений. Пример использования этого сервера здесь.

Можно P2P без медиа сервера, nodeJs+ArcusNode

Есть такая штука на java http://www.smartsocket.net/

Если хотите писать сервер чата на пхп (чего, на самом деле, не рекомендую категорически), то надо смотреть в сторону лонг поллинг (long polling). Работает просто, надежно, быстро, никаких утечек памяти, но надо понимать, что количество пользователей в онлайне равно объему оперативной памяти сервера, поделенному на память, выделяемую под каждое соединение с пользователем. Для лабораторной работы это подходит, для реального приложения - надо смотреть.

Про сокет-сервер на пхп - забыть.
Про сокет-сервер на джаве и любом другом "серьезном" языке при отсутствии опыта программирования на этом языке - забыть. За разумное время ничего не выйдет все равно.

Если нет никакого опыта написания онлайн-сервисов, но есть желание написать что-то работающее в обозримом будущем, то самый быстрый способ добиться результата - это node.js (сокет-сервер прямо "из коробки" работает сразу, да и тут есть примеры работы с ним), а самый правильный способ, если есть планы специализироваться в области высоконагруженных онлайн-приложений, это, пожалуй, все-таки эрланг (erlang).

Сугубо имхо.

Нет, не работаю.