Вчера, 22 августа, состоялась конференция «Гуманитарные и социокультурные аспекты развития и применения технологий искусственного интеллекта».


В конференции, которую организовало военное ведомство совместно со Сколковским институтом науки и технологий, приняли участие ведущие специалисты страны по проблематике ИИ. Среди них, в частности, начальник управления Президента РФ по развитию информационно-коммуникационных технологий и инфраструктуры связи Татьяна Матвеева, генеральный директор группы компаний Info Watch Наталья Касперская, представители компании «Яндекс», другие профильные эксперты.

«Проекты, подразумевающие использование технологии искусственного интеллекта, требуют обязательной экспертизы профильных силовых структур, – заявил советник министра обороны РФ Андрей Ильницкий, выступая на конференции. – Такую экспертизу на межведомственном уровне (СБ РФ) следует поручить компетентным силовым органам РФ». При этом он отметил, что недостаточные компетенции, объективная неготовность «принимающих решения» к внедрению систем с элементами ИИ – «это серьезная управленческая угроза». «Кто будет принимать решения – человек, наделенный ответственностью или безответственная машина, – вот в чем вопрос», – подчеркнул Ильницкий.

По его словам, как бы ни был силен ИИ, «конечное решение должно оставаться за человеком». «Но это в теории, – продолжил советник министра обороны РФ. – А на практике возникает опасность того, что при принятии решений рекомендации технических специалистов, отвечающих за разработку и функционирование ИИ в конкретных государственных силовых, гражданских, а также бизнес-структурах, не будут должным образом верифицироваться теми, кто принимает решения, – в силу отсутствия у них соответствующих знаний, образования и компетенций».

«В итоге, – сказал Андрей Ильницкий, – мы можем стать заложниками людей, групп, структур (действующих как внутри страны, так и из-за рубежа), которые де-юре не имеют полномочий на управление, а де-факто таковыми обладают. В пределе это фактически может привести к имитации государства, когда state (и даже могучее, таинственное deep-state) переродится в fake-state, где общество фактически устранено от процедуры принятия решений, а люди подменяются их цифровым следом/ проекцией».

По его оценке, «это вызов суверенитету и власти – как системе управления страной. В такой ситуации пусть и незлонамеренное, но некомпетентное использование ИИ в системе принятия решений может стать роковым».

Говоря об очевидных рисках использования ИИ в информационной социогуманитарной сфере, советник министра обороны РФ отметил, что «технологические и социальные ресурсы влияния на людей огромны, а в области обороны и безопасности особенно».

«Искусственный интеллект уже способен создавать «фейковые новости», формировать искусственную реальность в режиме онлайн, взламывать аккаунты соцсетей и распространять там специальную информацию для того, чтобы влиять на сознание граждан, заставляя политиков принимать «нужные» заказчикам инфоатак решения, продуцируя риски реальных конфликтов между странами», – отметил А. Ильницкий.

Проблема современной России, по его мнению, не только в экономической зависимости от внешнего мира, но и в ментальном заражении чуждыми смыслами. «Для нашего деидеологизированного, разобщенного постковидного общества, где элита во многом утратила волю и доверие, ментальная война, ведущаяся против России с использованием в том числе технологий ИИ, является самым опасным типом «холодной войны».

«Фундаментальное образование может стать основой формирования российской идеологии и стратегии развития искусственного интеллекта (ИИ), – сказал далее Андрей Ильницкий. – Характер глобальных трансформаций таков, что действовать рефлексивно, пытаясь реагировать на кризис, – просто бессмысленно. Главной задачей становится формирование собственной российской идеологии и стратегии развития ИИ. В стратегической постановке в основе искомого решения – доступное всем россиянам лучшее в мире фундаментальное образование».

Министр обороны России генерал армии Сергей Шойгу указывал на то, что основой технологического прорыва являются знания и компетенции. К сожалению, на протяжении последних 20–25 лет из системы образования просто системно выхолащивались фундаментальные естественно-научные дисциплины. В результате лишь около 20% выпускников средней школы сдают ЕГЭ по физике. По химии – и того меньше. То есть молодые люди могут закончить школу, но так и не освоить азы этих фундаментальных наук. Школа готовит неучей. А ведь именно эти науки, наряду с математикой, учат ребенка думать. Резко снизилось качество инженерно-технического образования.

Андрей Ильницкий считает, что «если сегодня не начать интенсивно заниматься подготовкой и воспитанием кадров, национально ориентированных и компетентных в применении ИИ, то можно провалиться «со всеми своими замыслами».

«На фоне отсутствия у общества, а у молодежи особенно, ментального иммунитета к разного рода принесенным извне чуждым ценностям и целям – инерционная, пассивная работа в социогуманитарной сфере создает уязвимость национальной безопасности и угрозу существования российской цивилизации. Очевидно, что так дальше продолжаться не может», – констатировал советник министра обороны.

Кроме того, он отметил, что назрело введение в официальный оборот, в систему госуправления и правовое поле таких понятий, индикаторов/показателей, как информационная и психоэмоциональная устойчивость общества: «Отслеживание подобных показателей, мониторинг социальной среды на этот предмет, эффективные коммуникации с обратной связью и последующие политические решения определят способность государственных и общественных структур сохранять дееспособность в условиях осуществления в отношении России киберударных операций. Отсюда обеспечение заданного состояния информационно-психологической устойчивости общества должно рассматриваться как одна из важнейших целей России не только военно-силовой безопасности, но и в сфере социально-экономического развития РФ».

«Ситуация довольно серьезна. Без системной политики в области обеспечения киберинформационной и психоэмоциональной безопасности мы можем постепенно уступить контроль над нашей жизнью зарубежным технологиям и центрам влияния, их пятой колонне внутри страны. Упустим контроль, инициативу в этой области, проиграем ментальную войну – лишимся суверенитета и потеряем страну», – заключил свое выступление Андрей Ильницкий.