Комплекс вопросов, связанных с психологическим благополучием и безопасностью пользователей ИИ, рассмотрели в Оренбургском государственном университете имени В.А. Бондаренко. На десятом семинаре научно-методического центра «Искусственный интеллект в образовании» в обсуждении приняли участие студенты, аспиранты, сотрудники и гости вуза.

Открыл мероприятие ректор ОГУ Сергей Мирошников. В приветственном слове он обратил внимание собравшихся, что доклады подготовлены обучающимися в университете.

Технический концепт защиты психики несовершеннолетних от воздействия искусственного интеллекта представил аспирант Аэрокосмического института, генеральный директор ООО «Нова-робот» Ильдар Каскинов. В ходе доклада он подчеркнул важность изучения гуманитарной среды и психологической безопасности в условиях быстрого развития технологий. Одним из решений было предложено создание специализированных систем ИИ-агентов, адаптированных для детской аудитории, отмечена необходимость внедрения «родительского контроля» на различных уровнях, включая законы, интернет-сервисы и программное обеспечение.

В совместном выступлении студенты Института языков и культур Егор Ковешников и Института математики и информационных технологий Илья Коняев раскрыли тему психологической безопасности LLM. Проведя исследование поведения современных языковых моделей в критических сценариях, они выявили их уязвимости, которые создают потенциальные угрозы для пользователей, особенно для детей. Чтобы обеспечить безопасное взаимодействие несовершеннолетних с ИИ, была предложена концепция суверенной спроектированной модели.

Образовательные риски применения нейросетей подростками в дополнительном IT-образовании проанализировал магистрант Института общественных наук, педагог международной школы программирования Coddy Андрей Бойцан. Важной частью доклада стали результаты опытно-экспериментальной работы, которая показала, что ИИ как инструмент поддержки в учебной деятельности способствует развитию самостоятельности, критического мышления и цифровой грамотности.

О влиянии психологических и нейрофизиологических факторов на формирование любовной привязанности к ИИ рассказала обучающаяся на 2-м курсе химико-биологического факультета Юлия Хромова. По результатам исследований было установлено, что система привязанности активируется автоматически при получении заботы и отсутствии критики, при этом живой объект не требуется. Возможность полностью контролировать ИИ-партнера и постоянный доступ к нему исключает страх общения, но приводит к снижению чувствительности рецепторов и может формировать зависимость.

Доклады вызвали активную дискуссию участников. Вопрос, с какого возраста обучать детей работе с искусственным интеллектом, поставила ассистент кафедры возрастной и педагогической психологии ОГПУ Светлана Комлева. Во время обсуждения были озвучены проблемы более сильного доверия нейросетям, чем людям, и сложного определения границы между привязанностью и зависимостью от ИИ.

«Сегодня перед нами стоит задача — создать посредника между ребенком и внешним миром в виде адаптированной нейронной сети. Именно по этому пути — синтеза технологий и гуманизма — пойдет педагогика будущего», — отметил ректор ОГУ Сергей Мирошников.

В завершение семинара была выделена приоритетная задача для научного сообщества. Необходимо детально исследовать психологию человека и специфику его взаимоотношений с искусственным интеллектом.

Управление социальных коммуникаций и новых медиа

Ошибка в тексте? Выделите её и нажмите «Ctrl + Enter».