Усенко О.А. Приложения теории информации к задачам радиотехники

Учебное пособие. — Ростов-на-Дону; Таганрог: Южный федеральный университет, 2021. — 154 с. — ISBN 978-5-9275-3964-2.В учебном пособии изложены теоретические основы прикладной теории информации. Особое внимание уделено методам и приемам решения практических задач, наиболее часто встречающихся в радиотехнике. В данное пособие включены разделы для самоконтроля в виде теоретических вопросов и практических заданий.
Учебное пособие предназначено для бакалавров, специалистов и магистрантов технических вузов.Введение.
Количественная оценка информации.
Понятие информации.
Оценка количества информации при равновероятных состояниях элементов сообщений.
Оценка количества информации при разновероятных состояниях элементов сообщений.
Представление сообщений и определение энтропии при непрерывном распределении состояний элементов.
Условная энтропия и ее свойства.
Энтропия объединения. Свойства энтропии объединения.
Взаимная энтропия.
Контрольные вопросы.
Задачи для самостоятельного решения.
Кодирование иформации.
Простые безызбыточные коды.
Составные коды.
Коды по законам комбинаторики.
Эффективное кодирование.
Помехоустойчивое кодирование.
Коды для обнаружения одиночных ошибок.
Построение группового кода.
Контрольные вопросы.
Задачи для самостоятельного решения.
Заключение.
Список литературы.