— Григорий Анатольевич, история криптографии насчитывает четыре тысячи лет. В чём же гениальность и новизна разработок Клода Шеннона?
— Шеннон превратил криптографию из искусства, которым она была четыре тысячи лет, в науку, поставив её на прочный математический фундамент. При этом, как мне кажется, заниматься наукой ради науки он не хотел и всегда имел в виду какой-то конечный результат. Редчайшее сочетание инженерного и математического ума! Подростком он сделал «беспроводной телеграф», чтобы общаться с другом, который жил в километре от него. Уже создав теорию информации, он изобрёл электромеханическую мышь, которая искала выход из лабиринта. И это был один из первых экспериментов в так популярном сегодня искусственном интеллекте (хотя я предпочитаю говорить «искусственный разум»). В 1961 году, вместе с профессором математики Эдом Торпом, Клод Шеннон создал первый в мире ноутбук. Это не был ноутбук в сегодняшнем смысле слова, но это была специализированная машина для оценки вероятности при игре в карты. Они с Торпом ездили в Лас-Вегас, рассчитывали с помощью своей машинки вероятность выигрыша в рулетку и карты, играли и выигрывали! Интересная история, но Торп на этом не остановился, создал команду, которая ездила по казино, а много позже это вылилось в сценарий довольно популярного американского фильма «Двадцать одно» (2008 год).
— А чем он занимался во время Второй мировой войны?
— Во время войны Шеннон работал на войну: занимался математической криптографией. Я уверен, что именно тогда он и понял, что такое информация и как её измерять. В 1940 году Шеннон защитил диссертацию формально по математике, но, как сказали бы сегодня — диссертацию на стыке наук, мультидисциплинарную. Она называлась «Алгебра для теоретической генетики». Так что он уже имел опыт «внедрения» математики в другие области знания. Но когда в конце 1940-х его основные работы вышли в открытой печати, то американские математики его достижения не признали, посчитав, что там нет строгих доказательств. Зато признали советские. Особенно Андрей Николаевич Колмогоров, один из основоположников современной теории вероятности и, в частности, теории информации. Некоторые выдающиеся результаты Колмогорова 1950—1960-х годов вдохновлены работами Клода Шеннона.
В 1948 году Шеннон опубликовал статью «Математическая теория связи», в которой теория информации появилась сразу как законченная теория. Утром люди прочли статью и поняли: возникла новая наука.
В этой статье слово «код» приобрело два новых и разных смысла. Прежнее, привычное значение слова «код» (или «кодирование») — способ написания сообщения в таком виде, чтобы никто, кроме получателя, не смог его прочитать, то есть кодирование как шифрование информации. Новое значение слова «код» — это такой способ избыточного представления информации, который позволяет исправлять ошибки, возникающие при передаче или хранении информации. Наконец, третье значение — сжатие информации, то есть экономная запись сообщений в некотором алфавите. Старинный пример такого сжатия — азбука Морзе. И Шеннон нашёл ответ на вопрос, насколько мы можем сжимать информацию при условии, что хотим её точно восстановить.
— Работы Клода Шеннона совпали с появлением в мире самых первых компьютеров...
— Да, Шеннон про передачу информации сразу думал как про передачу ноликов и единичек. И первые компьютеры тоже опирались на двоичную систему. Это и было началом цифровой эры. Люди поняли, что можно всё оцифровывать. Более того, стало понятно, что можно передавать информацию совсем не так, как это делали раньше. Шеннон предложил новый способ борьбы с ошибками в канале связи, то есть борьбы с шумом. Раньше были фильтры, которые отфильтровывали шум, ну и, конечно, существовало простое решение — сделать помощнее сигнал. Но когда вы делаете сигнал мощнее, происходит перерасход энергии. И Шеннон предложил ввести избыточность. Люди знают, что когда они говорят или пишут, то их понимают, несмотря на невнятную дикцию или плохой почерк. Потому что в нашем языке уже заложены средства исправления ошибок — некорректного написания, нечёткого произношения. Наш язык очень избыточен. Шеннон показал, как можно эффективно вводить избыточность для языка из 0 и 1 для исправления ошибок. Избыточность — это когда мы в канал передаём не только нужную информацию, но ещё и приписываем «хвостик», тоже состоящий из битов. Принимая все эти биты вместе, мы можем исправить ошибки. Но у каждого канала связи есть пропускная способность, своего рода порог. Шеннон был первым, кто обнаружил пороговые эффекты в дискретной математике. На языке передачи информации это означает: пока вы передаёте информацию со скоростью меньше пропускной способности, вы можете сделать вероятность итоговой ошибки стремящейся к нулю. Но как только вы достигли пропускной способности, перешагнули чуть-чуть — всё. Вы почти всегда будете ошибаться. Такая тонкая грань: превысили скорость передачи информации на сотую долю процента, и всё рухнуло.
— Как эти идеи применяют на практике?
— В Институте проблем передачи информации (ИППИ) РАН можно увидеть фотографии Луны и Венеры. Их сделали в ИКИ РАН с помощью ИППИ РАН. Мы (тогда ещё СССР) послали ракету, она облетела, сделала снимок, но затем фотографии надо было передать на землю, учитывая, что при передаче из космоса будут ошибки, а энергия у передатчика небольшая. Естественно, что надо было фото сжать и при этом не потерять в качестве. Сейчас это умеет любая цифровая «мыльница». Но тогда шёл 1975-й, и тем не менее удалось получить первые фотографии с другой планеты!
Следующее впечатляющее применение идей Шеннона состоялось чуть позже, в 1982-м, когда компании Sony и Phillips выпустили первые компакт-диски (CD). На презентациях кто ножиком, кто ножницами, а кто с помощью джема(!) портили диск, вставляли опять в проигрыватели, и люди не слышали разницы в звучании. Это была фантастика! Конечно, как всегда во всех фокусах, там была некая заготовка. Царапины и прочие дефекты замечательно нейтрализовывались заложенным при записи кодом, который и исправлял ошибки.
Третий большой успех — цифровая фотография. Сегодня мы забыли про плёнки, про пункты проявления-получения фотографий. Всё это было бы невозможно без оцифровки непрерывных данных. В данном случае — пиксели, их всё равно нужно цифровать. Но этого мало, их также надо сжать. А так как фотографии очень избыточны, то их можно сильно сжать и почти не потерять в качестве, так что человеческий глаз не замечает различий.
После цифровой фотографии последовало то, что фотографию — в некотором смысле — убило: смартфоны. Они тоже не могли бы существовать без теории информации и, конечно, без прогресса в микроэлектронике.
