[KumoKairo]

Обычно поднимают небольшой бэкенд сервер, который хранит данные о подключенных в данный момент клиентах, их RTMP id и другую необходимую информацию, и этот же сервер соединяет клиенты друг с другом. Писать можно на чем угодно, я видел даже скрипты на питоне в 30 строчек. Тут больше зависит от "готового" опыта - кто-то писал на Java, кто-то на PHP, кто-то на C++, это не принципиально.
Когда мы экспериментировали с P2P соединениями, писали сервер на Java с использованием Netty.io библиотеки.

Где-то был хороший пример реализации видео и аудио чата через RTMP и скрипт на Python, добавлю ссылку если найду

Кстати сразу настраивайтесь на то, что у 30% клиентов запускаться приложение не будет из-за ограничений NAT и прочих запрещяющих вещей