В Сколково обсудили, может ли робот причинить вред человеку
Проблемы взаимоотношений с роботами обсуждались на кругом столе Второй международной конференции по робототехнике Skolkovo Robotics – 2014, которая прошла 1-2 марта на территории инновационного центра «Сколково».
Цель конференции Skolkovo Robotics International Conference – собрать для диалога на одной площадке максимальное число заинтересованных в развитии робототехники людей: заказчиков и потенциальных инвесторов, предпринимателей, ученых, инженеров, студентов.
В программу Skolkovo Robotics – 2014 вошли, в частности, выставка робототехнических проектов, тематические круглые столы, мастер-классы по робототехнике.
В круглом столе на тему «Великие нерешенные проблемы взаимодействия людей и роботов» приняли участие: Владимир Павловский, профессор, ведущий научный сотрудник Института прикладной математики им. М.В. Келдыша РАН (ИПМ РАН); Надежда Зильберман, доцент кафедры гуманитарных проблем информатики Философского факультета Томского Университета; Фрэнк Тоуб, издатель и главный редактор информационного робототехнического портала «The Robot Report», основатель компании Robostox, который сумел превратить робототехнику и инструменты автоматизации в ликвидный товар с котировками на фондовой бирже NASDAQ; проф. Джанмарко Веруджио, председатель Комитета по науке Школы робототехники Института электроники, информационной техники и телекоммуникаций (Генуя, Италия) который первым ввел термин «робоэтика» - принципы поведения людей при конструировании и использовании роботов; и Кейт Дарлинг, профессор Массачусетского технологического института, специалист в области правовых аспектов антропоморфизма роботов. Модератором встречи стал Максим Киселёв, директор Лидерских программ Сколтеха.
В ходе дискуссии поднимались вопросы, относящиеся к философскому осмыслению робототехники и проблем сосуществования людей и роботов.
Профессор Джанмарко Веруджио призвал задуматься над этическими аспектами робототехники. Во многих сферах деятельности роботы начинают заменять человека, и многие профессии становятся невостребованными. По мнению профессора, о возможных социальных последствиях таких изменений нужно задумываться уже сегодня. Особое внимание было уделено вопросу создания роботов, способных причинить человеку вред. Ученый рассмотрел эту проблему на примере военных роботов. Передовые страны тратят огромные ресурсы на разработку беспилотных боевых летательных аппаратов, танков, боевых автомобилей, «умных» ракет и других видов боевых роботов. При этом в международном праве на сегодняшний день не существует более или менее оформленных норм, регулирующих применение тех или иных боевых роботов. Не выработано даже четкое определение самого понятия «робот». Ситуация осложняется тем, что военные технологические разработки осуществляются в режиме строжайшей секретности. Насколько велик риск появления в ближайшее время самостоятельно мыслящих роботов-солдат, которые, обладая свободной волей, обратят свою боевую мощь против человека, сказать сложно. Однако очевидно, что бесконтрольное развитие боевых роботов (как и любой военной технологии) может привести к самым ужасным последствиям. Поэтому проблемы, которые поднимает робоэтика, более чем актуальны.
Кейт Дарлинг, исседователь Медиа-лаборатории Массачусетского технологического института, продолжила тему робоэтики, рассмотрев проблемы взаимодействия человека и роботов в быту. В процессе взаимодействия с роботами в быту человек склонен наделять их человеческими качествами и эмоционально привязываться к ним. Это может приводить к самым непредсказуемым последствиям. Например, ребенок привязывается к антропоморфному роботу-игрушке, а потом в случае её поломки получает психологическую травму как при гибели любимого живого существа. Но одновременно с возникающими опасностями, очевидна и польза, которую могут принести такие игрушки. Они способствуют умственному и эмоциональному развитию детей. По мнению Кейт Дарлинг, для того, чтобы минимизировать наносимый социальными и бытовыми роботами вред и максимизировать приносимую ими же пользу, разработчики и производители роботов должны осознавать всю степень ответственности. Сфера социальной и бытовой робототехники нуждается в правовом регулировании не меньше, чем сфера военных роботов, считает ученый.
«На сегодняшний день мы не можем сами точно определить, что такое смысл, - сказал профессор Павловский. – Но при этом хотим, чтобы робот этот смысл понимал».
В ходе встречи обсуждался также вопрос, где проходит грань между работающим в автоматическом режиме механизмом и роботом. Участники дискуссии пришли к выводу, что робот это техническая система, наделенная, в некоторой степени, «свободой воли», способностью принимать решения независимо от воли своего создателя, а значит, потенциально, и вопреки его воле. Это накладывает на разработчиков робототехнических систем особую ответственность.
«Проблемы, которые сегодня обсуждались, это, в первую очередь, проблемы ответственности, - подчеркнул Максим Киселев. – Хочется повторить слова, которые я часто говорю студентам: когда вы создаете новые технологии, пожалуйста, думайте о последствиях, к которым это может привести, и о той ответственности, которую вы как изобретатели несете».
Источник: www.skoltech.ru
