Вызов технологий искусственного интеллекта в обеспечении права на историческую правду и в деле противодействия фальсификациям истории оценил в выступлении на XI Петербургском международном юридическом форуме 12 мая заместитель председателя Комитета Совета Федерации по Регламенту и организации парламентской деятельности, сенатор от Ленинградской области Сергей Перминов.
«Хотел
задать некий дискурс, весьма провокационный, который напрямую касается вопросов
сохранения исторической правды и борьбы с фальсификацией, и касается вопросов
регулирования искусственного интеллекта. Потому что буквально несколько недель
тому назад мы с Сергеем Лукьяненко,
нашим известным фантастом, после того как «ChatGPT» стал доступен для всех,
стали обсуждать очень интересные вопросы, и Сергей со мной согласился:
Представьте себе момент времени, когда мощность эксплуатируемых систем сможет
создать альтернативный материал, который может подменить для поколения, которое
сейчас вступает во взрослую жизнь, подменить абсолютную реальность. То есть
будет написана не просто альтернативная история, а будет написана история,
которая будет отсылать к фактам, артефактам, письменным источникам», – отметил Сергей Перминов.
Перминов
Сергей Николаевичпредставитель от исполнительного органа государственной власти Ленинградской области
«Вопрос
регулирования искусственного интеллекта – это вопрос, который на сей день до конца еще никому не понятен: ни европейским нашим бывшим партнерам, ни на территории Китая, Соединенных Штатов. Это такая terra incognita, и с этим
абсолютно мы все соглашаемся, – констатировал законодатель. – Есть несколько
вызовов, которые характеризуют развитие права в этом направлении. Первое – это
вызов скорости: это всегда будут государства, которые опережают и которые
опаздывают. Государства, которые опережают и имеют высокотехнологичные
платформы, они смогут заменять, глобально заменять, абсолютно весь пласт
необходимой информации для формирования теории уже в каком‑то измеримом
промежутке времени».
«Второй аспект – по мере развития двух миров – «мира «Эппл» и «мира «Андроид», мира закрытого, который монополизирован, и мира открытого, который предлагает совместную работу на каких‑то понятных принципах и основаниях – всегда будет вступать в конфликт с такими понятиями, категориями как суверенитет, территориальная целостность и так далее, но право на историческую правду и отсутствие фальсификаций может обеспечить только суверенное государство. То есть это еще одна развилка, в которой мы с вами можем увязнуть, это абсолютно точно, – продолжал сенатор. – Дальше: киберпространство и история – с одной стороны, это интересно государству, а с другой стороны, в «цифре» продвигаются частные корпорации. Здесь есть конфликт, который фиксируется на уровне связей частного и государственного. Это еще один конфликт, который может и будет требовать нашего внимания. И нет определения – это четвертый фактор, на который следует обратить внимание, – нет определения, что такое есть «ИИ-инцидент», что такое есть кибернападение, что такое есть киберпреступление в отношении памяти. Это вообще никак не урегулировано».
«И в этой связи для вас, высокой аудитории, полагаю, было бы небезынтересным, а для нас, как для людей практикующих, было бы совершенно интересно вместе
понять, что у национального государства должна быть своя платформа, которая
обеспечивает защиту того, что называется историческая память, и защищает от фальсификаций, – сказал сенатор. – Это значит, что должна быть создана
национальная система атрибутирования, маркирования фактов, артефактов,
письменных источников. Потому что то, что нам сейчас кажется фантастикой, через
10–15 лет станет такой же реальностью, как мы сейчас с вами здесь 12 мая 2023 года. То есть пройдет совсем короткий исторический промежуток времени, когда,
если мы с вами на эти вопросы не ответим, мы вступим в серую зону. Где будут
играть глобальные игроки, которые будут этот мир строить по своим правилам,
создавая «сакральные тексты», которые будут подменять казавшиеся нам очевидными
факты и поколения воспитывать на этой подмене, и после этого будут возникать
зоны конфликта».
Сергей
Перминов напомнил, что «не так давно генеральный секретарь ООН Антониу Гуттериш
сказал, что конфликт 2022 года, он это называет конфликтом, спровоцировал
раскол мира на две системы – условно он их назвал американской и китайской.
Понятно, к роли России он никак не отнесся. Так в этих системах он не предсказал, а уже по факту констатировал создание абсолютно всего: своих
теоретических школ, финансов, кибернетического пространства, суверенного
интернета, военно-дипломатической и политической мощи и так дальше. Мир
«расползается» и никогда не будет прежним. И для нас с вами вызов использования
искусственного интеллекта, его алгоритмов в вопросах фальсификации и защиты
становится первоочередным. Мы должны создавать эти национальные системы, мы
должны воспитывать поколения историков».
«Отвечая
на Ваш вопрос, как, собственно, разделить доступ к информации – информации,
которая является подлинной, со значком «верифицировано», что да, это было так.
«Повесть временных лет» – была? Очевидный факт: можете читать текст – вот, он
верифицирован, потому что есть источник. А можете читать «повесть временных
лет», которую сгенерировал «ChatGPT», где Дональд Трамп был викингом, который
напал на былинных татар, которые потом «съели» китайцев. Но это же не бред, это
уже правда, это уже сейчас. Этот эффект галлюцинаций он уже сейчас создается».
И мы с вами должны обеспечить доступ к разной информации, потому что «всем
цветам цвести» для того, чтобы науку двигать вперед. Значок, который
верифицирует подлинность, он не даст возможности подмены и фальсификации. Мне
кажется, эти вопросы требуют нашего внимания, и прежде всего – юридического
сообщества. Ответ на этот вопрос можно искать на стыке высоких технологий,
наших фантастов, наших историков, наших юристов, наших философов. Потому что он
требует своего осмысления в моменте, вот здесь и сейчас. Это не ждет, это
невозможно отложить, потому что это происходит с нами», – резюмировал он.
Запись выступления сенатора РФ Сергея Перминова доступна «ВКонтакте» по ссылке: https://vk.com/video717863660_456239156 .