Здравствуйте, Александр!
Скажите пожалуйста, модем как устройство установлен в системе?
«Панель управления — Телефон и модем — Модемы», там устройство Вы можете привязать к COM порту системы.
В разделе «Диагностика», Вы можете запустить диагностику работы устройства — стоит начать с этого, если «Успешно», будем разбираться.