1. При этом у машин не подключенных к камерам загрузка канала по мониторингу TaskManager не возрастала...
Это чего не значит. Нужно мониторить порт коммутатора, к которому подключена камера.
Это возможно только с управляемым коммутатором.
Посмотрите загрузку на порту коммутатора при подключенном одном клиенте, двух ну и т.д. Если загрузка порта возрастает - то это явно не мультикаст.
2. Если коммутатор поддерживает мультикаст, то мультикаст трафик появляется только на тех портах, с которых идет запрос на подключение к мультикаст потоку. Для мультикаст используется отдельный IP адрес, как правило из диапазона 224.0.0.0 - 239.255.255.255.