Цифровая безопасность в эпоху ИИ: от цифровых рисков к цифровой гигиене в системе дополнительного образования детей

В условиях стремительной цифровизации образовательной среды и активного внедрения технологий искусственного интеллекта особое значение приобретает обеспечение безопасности участников образовательных отношений. В статье рассматриваются правовые, психологические и этические аспекты использования цифровых платформ и искусственного интеллекта в системе дополнительного образования детей. Материалы статьи могут быть использованы педагогами дополнительного образования, методистами и руководителями учреждений дополнительного образования для создания безопасной цифровой среды.

У.А. Коврежникова,
методист,
Государственное бюджетное учреждение
дополнительного образования Калужской области
«Областной центр дополнительного образования детей
им. Ю.А. Гагарина»,
г. Калуга, E-mail: ulyanakovrezhnikova@yandex.ru

Цифровизация системы дополнительного образования привела к массовому внедрению в образовательный процесс онлайн-платформ, мессенджеров, облачных сервисов и видеоконференций. Удобство, доступность и гибкость цифровых инструментов не вызывают сомнений. Однако за этими преимуществами скрываются серьезные риски для безопасности детей, которые зачастую остаются вне поля зрения педагогов.

Современный педагог, стремясь к эффективности, использует сторонние сервисы – от Telegram до Google Meet – для организации занятий, обратной связи и публикации работ обучающихся. При этом многие из этих платформ не соответствуют требованиям российского законодательства, что создает угрозу юридической, информационной и психологической безопасности обучающихся. Особенно актуальными становятся вопросы, связанные с использованием технологий искусственного интеллекта (далее – ИИ). Генеративные модели вроде ChatGPT, YandexGPT или Gemini становятся доступными для детей и педагогов, но их использование без понимания рисков может привести к непреднамеренным нарушениям: созданию фейков, распространению запрещенного контента, утечке персональных данных. Таким образом, цифровизация требует не только технической готовности, но и высокой степени осознанности со стороны всех участников образовательного процесса.

Цель данной статьи – проанализировать риски, возникающие в цифровой образовательной среде, и предложить педагогам, методистам и руководителям образовательных учреждений практические шаги по формированию культуры цифровой гигиены – ключевого элемента безопасной цифровизации. В статье особое внимание уделяется роли педагога как гаранта соблюдения норм закона, этических принципов и психологического благополучия детей в условиях развития ИИ. Материалы статьи основаны на анализе нормативно-правовой базы Российской Федерации, рекомендациях федеральных органов исполнительной власти (Роскомнадзор, Минпросвещение), деятельности Лиги безопасного Интернета и разработке методических решений для педагогических работников.

Анализ кейсов, зафиксированных Роскомнадзором, свидетельствует о системных нарушениях в сфере обработки персональных данных [12]. Образовательные организации нередко размещают в открытом доступе приказы о зачислении с указанием ФИО, даты рождения и адреса проживания детей, а также фотографии и видео участников конкурсов без письменного согласия родителей [15]. Некоммерческое партнерство Лига безопасного интернета отмечает рост числа обращений от родителей по вопросам кибербуллинга в чатах и вовлечения детей в деструктивные сообщества через мессенджеры [13]. Эти тенденции подтверждают, что цифровая среда требует не только технической защиты, но и постоянного педагогического сопровождения.

Обеспечение безопасности в цифровой образовательной среде невозможно без опоры на нормативно-правовую базу.

Федеральный закон от 27.07.2006 № 149-ФЗ «Об информации, информационных технологиях и о защите информации» обязывает образовательные учреждения обеспечивать защиту информации, контролировать контент, с которым взаимодействуют обучающиеся, и ограничивать доступ к запрещенной информации [6]. Согласно статье 12.1 этого закона в «Единый реестр российского ПО» [14] и «Перечень верифицированных электронных ресурсов» входят такие платформы, как «Сферум», «Яндекс» и Webinar, использование которых позволяет минимизировать правовые риски.

Федеральный закон от 27.07.2006 № 152-ФЗ «О персональных данных» устанавливает обязательное получение письменного согласия родителей на обработку персональных данных, хранение информации на серверах, расположенных на территории Российской Федерации, и назначение ответственного лица в образовательном учреждении [7]. Использование таких сервисов, как Zoom, Google Meet, Telegram и Discord, нарушает эти требования, поскольку предполагает передачу данных за пределы страны.

Федеральный закон от 29.12.2010 № 436-ФЗ «О защите детей от информации, причиняющей вред их здоровью и развитию» устанавливает обязанность по фильтрации контента и запрещает распространение информации, пропагандирующей жестокость, наркотики, суицид и другую вредоносную информацию [8].

Санитарные правила 2.4.3648-20 регламентируют время пребывания детей за экраном, чередование нагрузок и условия организации рабочего места [10].

В Концепции развития дополнительного образования до 2030 года подчеркивается важность цифровой грамотности педагогов и необходимость создания безопасной цифровой среды образовательной организации [9].

Особую угрозу в цифровой образовательной среде представляет неосведомленность детей о действующем законодательстве, что может привести к непреднамеренным нарушениям и последующему привлечению к административной или уголовной ответственности. Многие дети не осознают правовых границ своего поведения в интернете, воспринимая пересылку мемов, репосты видео или шутливые формулировки в чатах как безобидное проявление активности.

При этом такие действия могут подпадать под действие строгих норм закона. Федеральный закон от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности» устанавливает запрет на распространение экстремистских материалов, призывы к насилию и оправдание терроризма [4]. Федеральный закон от 06.03.2006 № 35-ФЗ «О противодействии терроризму» определяет меры по предупреждению террористической деятельности и ответственность за ее пропаганду [5]. Статья 20.29 Кодекса Российской Федерации об административных правонарушениях предусматривает ответственность в виде штрафов или ареста за незаконное распространение информации, признанной экстремистской, в том числе через мессенджеры, социальные сети и мемы [3]. Уголовный кодекс РФ содержит положения, предусматривающие наказание за информационные преступления: например, за реабилитацию нацизма, публичное оправдание терроризма, а также за преступления в сфере компьютерной информации (глава 28 УК РФ) и против основ конституционного строя и безопасности государства (глава 29 УК РФ), включая статью 280 – «Публичные призывы к осуществлению экстремистской деятельности», статью 280.1, статью 280.3 – «Дискриминация Вооруженных сил Российской Федерации» и статью 280.4 – «Публичные призывы к осуществлению деятельности, направленной против безопасности государства» [2].

На практике это означает, что ребенок, не задумываясь, может переслать изображение с символикой, признанной экстремистской, сделать репост видеоролика с призывами к насилию или использовать в общении оскорбительные формулировки, не понимая, что совершает правонарушение. Важно понимать, что с 16 лет наступает административная ответственность за такие действия [3], а с 14 лет – уголовная ответственность за тяжкие преступления [2]. При этом родители несут имущественную ответственность за действия несовершеннолетнего в соответствии со статьей 1073 Гражданского кодекса Российской Федерации [1].

Помимо правовых аспектов, необходимо учитывать психологические риски цифрового пространства [13]. Кибербуллинг, проявляющийся в давлении со стороны сверстников в чатах и социальных сетях, оказывает значительное влияние на эмоциональное состояние детей [16]. Цифровое выгорание, связанное с постоянной информационной перегрузкой, снижает мотивацию детей к обучению и реальному общению. Манипулирование сознанием через вовлечение в деструктивные сообщества представляет серьезную угрозу для формирования мировоззрения подростков. Интернет-зависимость способствует изоляции и снижению качества социальной коммуникации.

Образовательные организации выполняют не только воспитательную, но и профилактическую функцию: именно педагоги первыми могут заметить рискованное поведение и своевременно разъяснить его последствия. Без такой работы дети остаются уязвимыми перед законом, а учреждение – под угрозой привлечения к субсидиарной ответственности за недостаточную профилактическую работу. Педагогическое сообщество должно осознавать, что информирование детей о границах дозволенного в цифровой среде – это не формальность, а необходимый элемент безопасного образовательного процесса.

Развитие технологий ИИ открывает новые возможности для развития креативности, критического мышления и персонализации обучения в различных направлениях дополнительного образования. В программах по техническому творчеству ИИ может использоваться для написания кода, диагностики ошибок, моделирования проектов и формирования алгоритмического мышления. В программах естественно-научной направленности – для распознавания видов растений и животных, анализа экологических данных и прогнозирования природных явлений. В программах социально-гуманитарной направленности – для работы с историческими текстами, формулирования гипотез, проверки фактов и составления черновиков исследований. Эти технологии позволяют сосредоточиться на творческой и аналитической составляющей, освобождая участников от рутинных задач, но в то же время усиливают этические и правовые проблемы.

ГОСТ Р 59895-2021 «Технологии искусственного интеллекта в образовании. Общие положения и терминология» определяет ИИ как технологии, имитирующие когнитивные функции человека, включая самообучение и принятие решений вне жесткого алгоритма [11]. Это означает, что результаты работы ИИ не всегда предсказуемы, а потому требуют постоянного контроля со стороны педагога. Кодекс этики в сфере ИИ, разработанный Альянсом в сфере искусственного интеллекта (далее – Кодекс), служит ориентиром для развития технологий ИИ в нашей стране и призван обеспечить доверие к ним со стороны пользователей, общества и государства [17]. Согласно данному Кодексу, ответственность за последствия применения ИИ всегда несет человек. Среди ключевых принципов, заявленных в Кодексе, – недопущение причинения вреда, безопасность данных, идентификация ИИ в общении и оценка рисков. Эти положения являются обязательными ориентирами для педагогов, использующих ИИ в своей практике. Особую ответственность несут педагоги, поскольку именно они выбирают инструменты для образовательного процесса. Однако, как показывает практика, многие действуют, руководствуясь принципом удобства, а не безопасности. Это происходит не из-за нежелания соблюдать законы, а из-за недостаточной информированности и отсутствия четких методических указаний.

На современном этапе формирование цифровых компетенций педагогов и обучающихся является одной из приоритетных задач системы дополнительного образования.

Учреждениям дополнительного профессионального образования необходимо включать модули по цифровой этике и безопасности в дополнительные профессиональные программы (переподготовки/повышения квалификации), образовательным учреждениям – разрабатывать внутренние регламенты по использованию ИИ и проводить тренинги по критическому восприятию контента, созданного ИИ. Педагоги должны уметь проверять достоверность информации, распознавать фейки и понимать алгоритмы работы моделей.

Попробуем сформулировать несколько правил создания в образовательном учреждении безопасной цифровой среды:

– рекомендуется использовать только верифицированные российские платформы;

– не следует публиковать фото и видео детей без письменного согласия родителей;

– официальные групповые чаты должны создаваться в отечественных мессенджерах;

– личные аккаунты для рабочих целей использовать нельзя;

– тема безопасности должна быть включена в образовательные программы (необходимо проводить с обучающимися занятия по цифровой гигиене, обсуждать с ними риски кибербуллинга, фейков, мошенничества, экстремистского контента и юридической ответственности).

Безопасность в цифровой образовательной среде – это не второстепенный вопрос, а основополагающий принцип организации образовательного процесса. Только при соблюдении правовых, этических норм и психологических принципов возможно эффективное использование цифровых технологий. Представленные в статье материалы позволят педагогическим работникам избежать юридических рисков, защитить детей от психологических травм и сформировать культуру цифровой гигиены. Для безопасного использования цифровых платформ необходимо внедрять методическое сопровождение образовательной деятельности, проводить регулярное обучение педагогов, ориентированное на формирование у них осознанного выбора цифровых технологий.

Безопасность – это не ограничение свободы, а условие ее существования. Только в безопасной среде дети могут учиться, творить и развиваться.

Список источников:

1. «Гражданский кодекс Российской Федерации» от 30.11.1994 № 51-ФЗ [Электронный ресурс]. – URL: http://www.kremlin.ru/acts/bank/7279 (дата обращения: 07.08.2025).
2. «Уголовный кодекс Российской Федерации» от 13.06.1996 № 63-ФЗ [Электронный ресурс]. – URL: http://www.kremlin.ru/acts/bank/9555 (дата обращения: 07.08.2025).
3. «Кодекс Российской Федерации об административных правонарушениях» от 30.12.2001 № 195-ФЗ [Электронный ресурс]. – URL: http://www.kremlin.ru/acts/bank/17704/page/2 (дата обращения: 07.08.2025).
4. Федеральный закон от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности» [Электронный ресурс]. – URL: http://www.kremlin.ru/acts/bank/18939 (дата обращения: 07.08.2025).
5. Федеральный закон от 06.03.2006 № 35-ФЗ «О противодействии терроризму» [Электронный ресурс]. – URL: http://www.kremlin.ru/acts/bank/23522 (дата обращения: 07.08.2025).
6. Федеральный закон от 27.07.2006 № 149-ФЗ «Об информации, информационных технологиях и о защите информации» [Электронный ресурс]. – URL: http://www.kremlin.ru/acts/bank/24157 (дата обращения: 07.08.2025).
7. Федеральный закон от 27.07.2006 № 152-ФЗ «О персональных данных» [Электронный ресурс]. – URL: http://www.kremlin.ru/acts/bank/24154 (дата обращения: 07.08.2025).
8. Федеральный закон от 29.12.2010 № 436-ФЗ «О защите детей от информации, причиняющей вред их здоровью и развитию» [Электронный ресурс]. – URL: http://www.kremlin.ru/acts/bank/32492 (дата обращения: 07.08.2025).
9. Распоряжение Правительства РФ от 31.03.2022 № 678-р «Об утверждении Концепции развития дополнительного образования детей до 2030 года [Электронный ресурс]. – URL: https://www.garant.ru/products/ipo/prime/doc/403709682/ (дата обращения: 07.08.2025).
10. Постановление Главного государственного санитарного врача РФ от 28.09.2020 № 28 «Об утверждении санитарных правил СП 2.4.3648-20 “Санитарно-эпидемиологические требования к организациям воспитания и обучения, отдыха и оздоровления детей и молодежи”» [Электронный ресурс]. – URL: https://base.garant.ru/75093644/ (дата обращения: 07.08.2025).
11. ГОСТ Р 59895–2021. «Национальный стандарт Российской Федерации. Технологии искусственного интеллекта в образовании. Общие положения и терминология» [Электронный ресурс]. – URL: https://protect.gost.ru/v.aspx?control=8&baseC=6&page=0&month=10&year=2025&search=ГОСТ%20Р%2059895-2021.&RegNum=1&DocOnPageCount=15&id=231585 (дата обращения: 07.08.2025).
12. Федеральная служба по надзору в сфере связи, информационных технологий и массовых коммуникаций [Электронный ресурс]. – URL: https://rkn.gov.ru (дата обращения: 11.08.2025).
13. Некоммерческое партнерство «Лига безопасного интернета» [Электронный ресурс]. – URL: https://ligainternet.ru (дата обращения: 13.08.2025).
14. Реестр программного обеспечения [Электронный ресурс]. – URL: https://reestr.digital.gov.ru/ (дата обращения: 01.08.2025).
15. Судебная практика по делам о нарушениях при обработке персональных данных несовершеннолетних [Электронный ресурс]. – URL: https://4people.grfc.ru/analytics-and-legislation/analysis-practice-ru/sudebnaya-praktika-po-delam-o-narusheniyah-pri-obrabotke-personalnyh-dannyh-nesovershennoletnih/ (дата обращения: 15.08.2025).
16. Информационная безопасность в интернете для детей: основные угрозы и способы их предотвращения [Электронный ресурс]. – URL: https://vc.ru/id1206792/1977793-informatsionnaya-bezopasnost-dlya-detei-v-internete (дата обращения: 01.08.2025).
17. Кодекс этики в сфере ИИ [Электронный ресурс]. – URL: https://ethics.a-ai.ru/ (дата обращения: 15.09.2025).