Более полувека назад, в 1942 году, американский фантаст Айзек Азимов в одном из первых своих рассказов о роботах «Хоровод» сформулировал три закона робототехники.
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому закону.
3. Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому или Второму законам.
В наше время польский учёный Дариуш Емельняк (Университет Козьминского в Варшаве) в связи с появлением искусственного интеллекта (ИИ) предложил Четвёртый закон робототехники.
4. Робот или ИИ не могут обманывать человека, выдавая себя за человеческое существо.
Необходимость данного дополнения становится всё более очевидной по мере того, как виртуальные личности, тексты, изображения и даже мелодии и стихотворения, порождённые ИИ, становятся всё более похожими на реальных людей, результаты их мышления и действий. Уже сейчас боты, созданные ИИ, нередко вводят пользователей интернета в заблуждение, выдавая себя за людей. Недаром растёт число сайтов, на которых как условие доступа вам прежде всего предлагают доказать, что вы — человек, решив несложную задачку типа «отыщите на этих пяти фото фрагменты автомобиля». Но скоро ИИ сможет решать и такие задачи, выдавая себя за человека. Это подтверждает рост числа преступлений, связанных с манипуляциями в киберпространстве. Только в США потери от таких правонарушений в 2024 году составили более 10 миллиардов долларов.
Из Четвёртого закона робототехники, предложенного польским учёным, вытекают несколько следствий:
■ ИИ обязан при каждом взаимодействии с человеком сообщать о своей истинной сути;
■ такое же указание должны нести генерированные им материалы, например, тексты, изображения, видео;
■ необходимы юридические механизмы для проведения в жизнь этих требований;
■ нужны технические стандарты того, как определять продукты работы ИИ.
Для внедрения перечисленных правил в жизнь понадобятся новые законные и подзаконные акты, уточнения в имеющихся законах. Конечно, всё это потребует создания массовых образовательных программ для повышения грамотности населения в области ИИ. В тексты, фотографии, видео и звуковые файлы придётся вводить неустранимые цифровые водяные знаки — невидимые и неслышимые для того, кто не обладает нужной программой. Крупные производители фотокамер уже сейчас ввели в свои изделия цифровые водяные знаки, указывающие дату, время, местоположение и даже имя фотографа, что позволяет легко выявлять манипулированные фотографии и видео-кадры. В странах Европейского союза действует закон, детально регулирующий применение ИИ.
В рассказах и романах Айзека Азимова интрига, как правило, состоит в том, что роботы, строго следуя предписанным трём законам, попадают сами и вводят своих хозяев в неожиданно сложные ситуации, выйти из которых удаётся лишь путём временного отказа от правил или при нестандартном их толковании. Хочется надеяться, что и в реальной жизни консенсус между естественным и искусственным интеллектом будет достигнут.
