В диалоге — Константин Воронцов, доктор физико-математических наук, профессор РАН и Наталия Лескова, специальный корреспондент журнала «Наука и жизнь».
КВ: Искусственный интеллект — это название, которое в 1956-м году на Дартмутском семинаре придумали для новой области исследований. Тогда оно олицетворяло мечту учёных создавать умные компьютерные программы, способные решать интеллектуальные задачи, ранее посильные только людям. Время идёт, мечта развивается и обрастает подробностями. ИИ — это зонтичный термин, охватывающий большое число технологий. Я занимаюсь этой областью более тридцати лет, ещё со студенческих времён. Забавно наблюдать, как всё это время учёные придумывают новые термины и названия. Сами же хихикают, что опять нашу область переименовали. Каждый раз название подчёркивает какой-то новый аспект: распознавание образов, машинное обучение, большие данные, бизнес-аналитика, науки о данных — но, по существу, это всё то же самое, только под новым шильдиком. Что касается термина «искусственный интеллект», он был не в моде довольно долго. Когда я пришёл в науку в 90-е годы, затем и в нулевые, это было чуть ли не ругательством. Во-первых, потому, что вокруг ИИ всегда было много некомпетентных спекуляций, фантазий и просто словоблудия. Во-вторых, искусственным интеллектом называли технологии, которые как раз к тому времени себя слегка дискредитировали. Шла всемирная «зима искусственного интеллекта», уже вторая по счёту. Это была реакция научного и индустриального сообщества на перегретые ожидания. Сначала казалось, что вот-вот наступит эра умных программ, но на прорыв не хватило вычислительных мощностей, объёмов данных, хитроумной математики, и на исследования в области нейронных сетей опять урезали финансирование. В других направлениях исследования никогда и не прекращались — машинное обучение и анализ данных всегда находили массу применений. Ведь искусственный интеллект не есть что-то единое. Это и не объект, и не субъект, и не программа на каком-то сервере. Это общее название для множества разрозненных технологий, которые создаются разными командами в разных точках мира для решения очень разных задач.
НЛ: Понятно, что интеллект — это сумма технологий, как говорил Станислав Лем. А в смысле интеллекта — он существует? Мы ведь даже не понимаем, что такое человеческий интеллект, как же можем создавать искусственный?
КВ: Дело в том, что этот термин вырвался за пределы научного сообщества, где люди относятся к терминам легко и с долей иронии, понимая, откуда что взялось. Когда обыватель слышит про искусственный интеллект в СМИ, у него возникают в голове образы из массовой культуры, Терминатора или Матрицы, чего-то страшного или, наоборот, великого и всемогущего. У специалистов это вызывает раздражение, а в позитивном ключе — понимание, насколько огромен объём просветительской работы, которую необходимо проводить с людьми. Начиная с объяснения, что мы неправильно употребляем слова. Мы не вправе применять к искусственному интеллекту глаголы активного действия, якобы он что-то сделал, решил, впервые убил человека…
НЛ: На самом деле убил?
КВ: Да, была такая новость пару лет назад. Но даже в случае применения автономных видов вооружения на поле боя или в контртеррористических операциях приказ о применении беспилотника отдаётся и исполняется людьми. Обычные обывательские вопросы «а что, если он выйдет из-под контроля?» или «а что, если он начнёт уничтожать своих или гражданских?» в равной степени относятся к обращению с любым видом оружия, не обязательно высокотехнологичного. Ответственность всегда несут люди. Железка сама ничего не делает, её всегда кто-то запускает, даже если она с электроникой и самонаводящаяся.
НЛ: Истории о том, как беспилотники убивают людей, мы слышим сегодня чуть ли не каждый день. И понятно, что беспилотники делают это не по своей воле.
КВ: То, о чём мы слышим, — это, главным образом, беспилотники, которыми управляет оператор. Если беспилотник летит, ориентируясь по местности самостоятельно, а не по внешнему сигналу, то это уже весьма продвинутый искусственный интеллект с компьютерным зрением. Однако решение о выполнении боевой задачи всё равно будет принимать оператор. Делать беспилотники более автономными пока все боятся. Есть масса рисков, и нужно ещё много времени на исследования, прежде чем такого рода технологии станут по-настоящему надёжными.
НЛ: Учёные стремятся создавать всё более совершенные технологии, которые мы называем искусственным интеллектом. Может, у них в конце концов получится создать что-то, превосходящее человеческий интеллект? Во многих отношениях уже удалось — в том, например, чтобы считать большие данные.
КВ: Мы много уже создали такого, что по вычислительным возможностям превосходит человека. Компьютер может вычислять с такой скоростью и точностью, какие самым продвинутым гениям недоступны. Тем не менее мы это интеллектом не называем — это просто вычисления. Есть даже такое понятие — «эффект искусственного интеллекта», его ввела Памела Маккордак в книге 2004 года «Машины, которые думают». Допустим, мы создаём компьютерную систему для решения какой-нибудь трудной интеллектуальной задачи — выдачи кредитов, медицинской диагностики, разведки полезных ископаемых, игры в шахматы или в го. Так вот, каждый раз повторяется одна и та же история: когда технология создана и способ решения стал понятен, все говорят: «какой же это интеллект, опять всего лишь вычисления». Даже сейчас, когда появились большие языковые модели, впервые в истории ИИ обладающие сотнями эмерджентных способностей, мы всё равно говорим, что это не интеллект, а вычисления. Похоже, мы вообще не в состоянии провести чёткую грань между интеллектом и «просто вычислениями». Нейронные сети огромного размера обучились человеческому языку по текстам всего интернета, впитали его в себя, растворили в себе и теперь могут говорить с нами на все эти темы. Оставаясь вычислительной технологией.
НЛ: И мы это называем интеллектом.
КВ: Важно не как оно называется, а какие возможности даёт и что представляет собой по сути. По сути, это языковой интерфейс к знаниям, накопленным человечеством. Поисковые системы появились лет тридцать назад, и мы быстро привыкли ими пользоваться: написал запрос — получил ответ. Это был сильный прогресс: не надо ходить в библиотеки, любую информацию можно найти немедленно. Поисковик стал для нас обыденностью, и мы не называем его искусственным интеллектом, хотя зря — задачи ранжирования решаются именно методами искусственного интеллекта. Большие языковые модели дали нам новую возможность: теперь вместо коротких запросов и просмотра поисковой выдачи мы можем поговорить с чат-ботом о любой нужной нам теме, уточнить просьбу, получить разъяснения. А что поменялось? Внутри всё та же гигантская коллекция текстов из Интернета, изменился только способ её представления (он стал неточным) и способ коммуникации с пользователем (он стал на порядок удобнее). Никакого интеллекта подлинного, то есть похожего на человеческий, там и раньше не было, и теперь быть не может. Но это спор о терминах — что мы готовы называть интеллектом. Пока строгого определения не существует, это слово нельзя считать научным термином, сейчас это спекулятивное понятие...
