Как живой
Что такое искусственный интеллект и зачем он нужен в медицине? Сможет ли нейросеть уже сейчас заменить настоящего доктора и не исчезнет ли в будущем профессия врача? Об этом размышляет наш собеседник Геворг Бледжянц, кардиохирург Бакулевского центра, к.м.н., генеральный директор компании «Соцмедика», занимающейся разработками систем на основе искусственного интеллекта для медицины.
– Итак, что же такое искусственный интеллект (ИИ)?
– Четкого определения ИИ ни у кого нет. Я бы даже сказал, что у каждого разработчика свое понятие ИИ. Причина проста: планка ИИ становится всё выше и выше. И то, что мы раньше называли искусственным интеллектом, сейчас кажется нам уже довольно примитивной системой.
Ещё несколько лет назад считалось, что ИИ – это система, которая за нас может решать определенные задачи автоматизированным образом. После этого появились системы семантического вывода, на которых основаны современные поисковики.
Однако современное понимание искусственного интеллекта началось с обработки больших данных. Здесь уже начали применяться современные нейронные сети. Сегодня они могут многое: распознавать образы и звуки, анализировать их, обучаться в процессе работы и так далее.
Примеров применения ИИ с использованием нейронных сетей множество в нашей повседневной жизни. Начиная от систем распознавания образов в нашем смартфоне и заканчивая системами, которые по анализу изображений определяют образы, движения этих образов и распознают их.
Например, система контроля скорости на трассе не только распознаёт движущийся объект, его очертания, но и определяет его местоположение и узнаёт номер автомобиля. Всё это происходит за считанные секунды.
В медицине многие называют искусственным интеллектом системы обработки медицинских изображений. Эти системы анализируют снимки и выявляют на этих картинках определённые паталогические очаги, образования и т. д. В основе этого лежат уже готовые шаблоны разных нейронных сетей.
– Это и есть ИИ, на ваш взгляд?
– На мой взгляд, все это уже системы вчерашнего дня. Что же будет дальше?
Как врач я считаю, что ИИ в ближайшем будущем мы будем называть системы, максимально приближенные к природной модели. То есть, повторяющие работу человеческого мозга.
– Думаете, такое в принципе возможно? Ведь наш мозг неалгоритмичен.
– Я думаю, возможно. Некоторые разработчики (и я с ними согласен) уже разделили ИИ на две категории: слабый и сильный. Слабым ИИ мы считаем системы, которые надо постоянно обучать и давать правила вывода ответа: вот правильная картинка, которая привязана к данной болезни. Эта картинка отвечает за эту болезнь, эта за эту и так далее
Геворг Бледжянц, кардиохирург НЦ им. А.Н. Бакулева, генеральный директор АО «Соцмедика». Фото: АО «Соцмедика».
А сильный ИИ – это система, которая сама обучается. Самообучение – это одна из характеристик интеллекта. Его ничему не обучили. Только дали базовые правила и архитектуру. Такой ИИ обучается, как ребенок, воспринимает окружающий мир, сам анализирует информацию, сам создает правила и выстраивает алгоритм. Основополагающее слово в этом случае: сам. Мы сейчас активно сотрудничаем с нейробиологами и нейрофизиологами, пытаясь создать модель сильного ИИ в медицине.
– Какие разработки в вашей области уже существуют?
– Нынешние разработки можно разделить на два основных класса. Это аппараты семантического вывода, экспертная система в том числе. И второе – это классические нейронные сети, которые нужно все время обучать, переобучать. Эта система не имеет концептуального логического поиска. То есть, такой ИИ может распознавать изображения как образ, но что делать с этим дальше, как с этим жить, с чем ассоциировать, он не знает. Но планку все время надо поднимать. Поэтому, на мой взгляд, ИИ – это то, что приблизит нас к биологической модели.
– Каким требованиям должен отвечать ИИ?
– Основное требование ИИ будущего – нейроморфность. Как я уже сказал, он должен быть построен по аналогии с природной моделью, насколько это возможно, и отвечать функциональным возможностям человеческого организма. Что такое нейроморфность? Это то, как построены наши когнитивные области головного мозга, как построен мозг, где лежат микроархитектурные и макроархитектурные сведения.
Например, есть подкорковые ядра и определенные проводящие пути, области коры головного мозга. Каждый за что-то отвечает. Нужно создавать эти области именно в нейронных сетях, где разные нейронные сети будут взаимосвязаны с друг другом и смогут передавать данные так же, как это происходит в нашем мозге.
Могу привести пример зрительного анализатора: сетчатка как аналог матрицы, которая получает визуальный сигнал и передает его дальше. В мозге любой наш взгляд на какой-то предмет запускает сложнейший механизм по визуализации образов.
Сейчас мы довели наши разработки до этого уровня. В компании «Соцмедика» мы смоделировали путь сетчатки до коры головного мозга. Что будет дальше? Дальше наш ИИ должен прийти к этапу осмысления полученной картинки, а затем – озвучить то, что увидел. Этого пока у нас нет, но мы над этим активно работаем.
– Вы что же, пытаетесь создать настоящего врача?
– По сути, да, как бы фантастически это ни звучало. Мы создаем врача, который может думать, как человек, анализировать, как человек, но в отличие от человека делать это максимально быстро и практически не ошибаться. В идеале мы хотим, чтобы наш «врач» имел сознание, настроение, любил и радовался.
– Не получится ли так, что настоящий врач будет уже не нужен?
– Нет, настоящий, живой врач будет нужен всегда. Любой ИИ – это всегда помощник человека, а не замена ему. Например, в ситуации высокого инфекционного риска, скажем, нынешней новой коронавирусной инфекции, такой ИИ может на время заменить врача в «красной зоне». Существуют и другие применения такого ИИ.
– Какие еще есть новые разработки в области ИИ, связанные с медициной?
– Могу рассказать про наши приземленные продукты из серии слабого ИИ, которые уже вышли на рынок. В первую очередь, это системы, которые относятся к типу систем сематического вывода. Например, экспертная система ЭКФ (Электронный клинический фармаколог), которая помогает врачу правильно подобрать лекарственное лечение, основанное на индивидуальных особенностях пациента, проверить межлекарственное взаимодействие и предупредить о возможных побочных действиях. Объединённая база медицинских знаний UMKB, созданная нашей компаний – это тоже своего рода ИИ. То есть, мы задаём вопрос, и система быстро находит в семантическом пространстве тот ответ, который нужен.
Это проект ЭАТ (Электронный ассистент терапевта), который на основе алгоритмического подхода и анализе данных, будет помогать терапевту поставить правильный диагноз. В этой системе мы пытаемся использовать интуитивный и дедуктивный подходы. Насколько это возможно сегодня, мы хотим приблизиться к природной модели ИИ.
Когда мы осматриваем пациента в первый раз, мы сначала интуитивно представляем его диагноз. В голове уже формируются болезнь, которая у него, скорее всего, есть. Но когда мы потом включаем дедукцию, начинаем дальше рассматривать ситуацию логически и уточнять этот диагноз. Вот этот подход мы сейчас хотим скомбинировать в Электронном терапевте.
Если говорить в целом о медицине, то есть группа программ, которые анализируют медицинские изображения, выявляют на них патологические процессы и пытаются сопоставить предварительный диагноз. Это сегодня в России активно внедряется в медицине.
– Нам не уйти от этических проблем, связанных с ИИ, например, кто будет отвечать за ошибки, сделанные с помощью программ и устройств, управляемых ИИ?
– В течение ближайших десяти лет отвечать будет врач, не машина. Но если удастся сделать тот сильный ИИ, о котором я говорил, эти вопросы встанут с новой силой. Пока ответов на них у нас нет.
– Возможны ли ситуации, когда «умные» программы и устройства могут «сознательно» навредить человеку? Так называемая проблема «бунта машин» многократно описана в фантастических произведениях.
– Это возможно только в контексте сильного ИИ, которого пока ни у кого нет, но все мировые разработчики работают над его созданием. И это возможно только в том случае, если разработчики чего-то не предусмотрели. Ведь одно из главных правил ИИ – не навредить человеку.
Если говорить о ИИ, созданном на основе природной модели, необходимо предусмотреть и создание подкорковых ядер, которые его остановят, как они останавливают и человека от какого-либо преступления.
– Но не всякого человека они останавливают.
– Это правда. Уже сейчас случаются ошибки системы, когда дроны неосознанно могут нанести вред. Так же нейронная сеть убивает людей, когда ставит неверный диагноз. Но мы говорим о той ситуации, когда внутри системы рождается сознание, формируется ассоциативная память, понимание собственного Я. Может ли такое создание в принципе поставить себя выше человека? Наверное, может. И мы должны предусмотреть всё, прежде чем такие системы создадим.
Тот принцип разработки ИИ, который мы сейчас пытаемся развивать, может дать и такие побочные эффекты, если его сделать без тормозов, без подкорковых ядер, которые такого не позволят.
Думаю, если мы будем придерживаться природной модели, такого апокалипсиса не будет, потому что природа за нас это уже предусмотрела. Есть определенные подкорковые ядра, отвечающие за наши движения. Например, мы рефлекторно поворачиваем голову при яркой вспышке света.
Есть подкорковые ядра, которые тормозят нас при определённых сильных эмоциях. Они гасят мозг для того, чтобы мы не нанесли своему организму существенный вред.
Например, высокий стресс. Почему при сильных стрессах человек теряет сознание? Это защитный механизм мозга, который предотвращает сильные повреждения.
Подкорковые ядра нам не подчиняются, но они есть, природа их заложила. То же самое и здесь: мы можем поставить подкорковые ядра, которые просто запрещают этой системе делать плохие вещи. К такой системе мы идем. Об этом мы пока мечтаем, пытаемся строить зрительный анализатор. И если однажды наша система проснется, поймет, например, что такое молоко и попытается попросить у нас стакан молока, мы сможем дальше ее развивать.
Таким образом, апокалипсиса не будет у тех разработчиков, которые правильно его разработали, продумали и поставили подкорковые тормоза. Но, если говорить об опасностях, то да, это возможно.
