Методические рекомендации Минпросвещения России о применении ИИ в школе: безопасность, ответственность, ограничения и запреты
Искусственный интеллект (ИИ) пришел в школу и как объект изучения в рамках учебного предмета “Информатика”, и как средство повышения эффективности организации профессиональной деятельности педагогического работника. По информации Минцифры, ИИ на постоянной основе используют порядка 80% школьников.
Минпросвещения России направило в регионы для использования в работе Методические рекомендации для педагогических работников общеобразовательных организаций по применению в профессиональной деятельности ИИ (далее – МР). В них определено, что реализация образовательных программ с применением ИИ должна проходить в условиях педагогической целесообразности, сохранения здоровья и информационной безопасности личности обучающихся, их родителей (законных представителей) и педагогических работников. Поскольку, как отмечается в МР, применение ИИ в деятельности педагогических работников может иметь значимые последствия для психического, физического и социального благополучия как самих педагогов, так и обучающихся, в МР представлен целый комплекс мер безопасности при работе с ИИ.
Так, в числе принципов, на которых основывается применения ИИ в деятельности педагогического работника, такие как: ответственное применение, педагогическая целесообразность, когнитивная безопасность обучающихся, психологическая безопасность обучающихся, критический анализ, информационная безопасность применения ИИ.
О безопасности при работе с общедоступными серверами ИИ
Согласно МР, при работе с общедоступными сервисами такими как серверы ИИ, разработанные не на территории РФ; серверы ИИ, разработанные на территории РФ; серверы ИИ, интегрированные в ГИС, подключенные к Интернету, в целях безопасности запрещается загружать:
- персональные данные обучающихся, родителей (законных представителей), педагогических и иных работников;
- информацию ограниченного доступа (оценки, характеристики, работы обучающихся);
- локальные нормативные акты образовательной организации (приказы, распоряжения), служебные записки и иную организационно-распорядительную документацию);
- сведения и информацию, отнесенные законодательством РФ или локальными нормативными актами образовательной организации к конфиденциальным или ограниченного доступа.
Также недопустима загрузка данных на серверы разработчика, позволяющих идентифицировать личность обучающегося, персональных данных, без согласия родителя (законного представителя) на обработку с указанием конкретных рисков.
Об ограничениях, запретах и этике
Педагогам рекомендуется использовать ИИ только в качестве дополнительного средства профессиональной деятельности. Согласно МР, запрещается:
- самостоятельное использование ИИ учениками 1–4 классов;
- использование ИИ при проведении промежуточной и итоговой аттестации;
- применять ИИ для создания материалов обратной связи оценочного и личностного характера (формулировок типа индивидуальной характеристики ученика, выводов о его способностях или об итоговой оценке поведения);
- использовать ИИ при выполнении заданий, где ученик должен лично продемонстрировать знания и навыки (защита проекта, устный ответ, контрольная работа).
Не рекомендовано считать безусловным доказательством нарушения, выявленные сервисами, которые используются, чтобы определить, был ли текст сгенерирован ИИ. Окончательное решение должен принимать педагог.
Педагогам рекомендуется формировать у обучающимися культуру ответственного применения ИИ и соблюдать этические нормы:
- не выдавать сгенерированный ИИ текст за свой авторский труд на конкурсах, в публикациях или при аттестации без указания факта использования ИИ и без собственной переработки содержания;
- заблаговременно информировать родителей о применении ИИ, о допустимых и недопустимых способах его применения в образовательном процессе, возможных рисках, а также правилах информационной безопасности. в том числе на родительских собраниях, с демонстрацией конкретных инструментов.
Кстати, по мнению члена президиума Совета по внешней и оборонной политике (СВОП) Александра Лосева, использование ИИ может привести к снижению когнитивных способностей у детей, что является очень опасным процессом, так как разучит их думать, и призвал всех родителей ограничивать доступ детей к его технологиям (Эксперт Лосев рассказал об опасности чрезмерного использования ИИ школьниками – Новости на Вести.ru).
P.S. Уважаемые родители! ИИ может использоваться злоумышленниками, например, для воспроизведения индивидуального стиля переписки. Могут баловаться ИИ и ученики. Будьте бдительны!
Источник: