ИИ грянул гром?.. Искусственный интеллект для высшей школы: угрозы и возможности

Сегодня мы продолжаем обсуждение актуальной проблематики, начатой членами Экспертного совета в предыдущем 146-м номере «АО».  

Напомним, тема, вынесенная в заголовок публикации, неслучайно перекликается с названием знаменитого рассказа Рэя Брэдбери. Действительно, дискуссия о возможном неоднозначном влиянии стремительно развивающихся технологий ИИ на глобальную экономику и человеческое общество сегодня набирает силу. Так, в одном из ключевых материалов октябрьского выпуска «АО» – большом репортаже с пленарной сессии «Искусственный интеллект: тренды, риски, регулирование» ХХIV Ясинской конференции ВШЭ отмечается одним из ее участников: «Сейчас для университетов тяжелый момент. Нам надо как-то определиться в роли университета и понять, куда двигаться <…> Кто-то говорит, что образования не будет – зачем нужно образование, если все будут с помощью искусственного интеллекта суперумными?..»

Столь пристальное внимание к теме вполне закономерно: эксперты утверждают, что технологии ИИ имеют «сквозной» характер и потому, как в свое время электричество и Интернет, способны в ближайшие десятилетия полностью изменить весь технологический уклад и мировой экономики, и базовых социальных институтов, в том числе высшей школы. 

Один из последних примеров такого влияния – возможности использования в образовательном процессе ChatGPT. Надо отметить, что академическое сообщество пока не пришло к общему мнению и не выработало единого подхода к использованию данной технологии. Например, как сообщают СМИ, Парижский университет Sciences Po&RV University в Бангалоре (Индия) запретил своим студентам использование ChatGPT. Аналогично, китайские власти подготовили законопроект «об отмене результатов, достигнутых студентами при написании выпускных работ с использованием искусственного интеллекта». И, напротив, в некоторых колледжах в США использование ИИ разрешено официально и мотивируется тем, что «студенты должны владеть современными технологиями».

Итак, членам Экспертного совета «АО» мы задали следующие вопросы…

АО. Какие потенциальные риски и возможности для отечественной высшей школы несет активное внедрение технологий искусственного интеллекта? Как вы оцениваете уровень готовности российских университетов к этим технологиям?

– Мое знакомство с искусственным интеллектом (ИИ) произошло в середине 80-х годов прошлого века, когда он прорастал через экспертные системы, позволяющие решать трудноформализуемые задачи. Технический уровень был совсем другой, о нейросетях можно было только мечтать, экспертные системы тогда создавались как программы, оперирующие с базами знаний с использованием процедур логического вывода и принятия решений.

Для вузов конца прошлого века активное внедрение технологий ИИ – это безусловная возможность. Почему с переходом на нейросети мы все больше стали говорить об ИИ как об угрозе? Плохо ли, если такой чат-бот, как, например, ChatGPT, будет помогать нам анализировать сверхбольшие массивы данных и делать выборки по нашему запросу? Не потому ли мы боимся появления в вузовской культуре такого инструмента, что не успеваем за высокими темпами развития науки и технологий, что учим не принимать решения и делать выбор в сложных ситуациях с высокой степенью неопределенности, а просто транслируем накопленные знания? Но сегодняшний уровень развития экономики предъявляет совсем другие требования к специалистам. А готова ли наша система высшего образования с тяжело и медленно меняющимися ФГОСами работать на опережение? Смена технологического уклада обязывает нас принципиально менять образовательные технологии, а когда мы не торопимся это делать – ИИ становится угрозой.

Но если возникают угрозы, давайте оценивать риски и управлять ими! Для кого-то ИИ, действительно, может стать высоким риском и тогда мы должны думать о том, как им управлять. Учиться управлять рисками сейчас должны все вузы, ведь даже контрольно-надзорная деятельность с 2020 года переведена на риск-ориентированный подход.

– В последние годы технология искусственного интеллекта (ИИ) стала одним из наиболее обсуждаемых и быстро развивающихся направлений в мире. Отрасли, применяющие искусственный интеллект, получают значительные преимущества, в том числе и высшая школа. Внедрение искусственного интеллекта в отечественные университеты предоставляет огромный потенциал для развития технологий ИИ, но с этими новыми возможностями приходят и потенциальные риски.

С одной стороны, использование искусственного интеллекта позволяет повысить качество образования за счет построения индивидуальных учебных программ, освобождения преподавателей от рутинных задач, расширения доступности образования для различных категорий населения и подготовки специалистов в области ИИ. Среди потенциальных рисков можно выделить следующее: потеря живого общения между студентом и преподавателем, недостаток компетентных специалистов в этой области, возможное нарушение безопасности данных.

Отмечу, что в СКФУ созданы все условия для внедрения технологий ИИ в образовательный процесс. К примеру, для проведения промежуточной и итоговой аттестации университет использует систему «Прокторинг», которая поз­воляет наблюдать за действиями студентов во время экзамена.

Кроме того, университетом разработана информационно-аналитическая система управления «ИАСУ ВУЗ». На основе искусственного интеллекта она может рассчитать вероятность того, что абитуриенты будут приняты. Это происходит с помощью модифицированной нейронной сети. Также система может автоматически заполнять адреса из справочника, находить дубликаты карточек людей и выполнять другие действия.

– Появление новых технологий часто воспринимается неоднозначно. Конечно, есть определенные риски и возможности, которые на текущий момент времени явно не проявляются, но будут иметь развитие в перспективе.

Некоторые ученые (А.И. Ракитов, М.Н. Харабаджах, М.Шпитцер) отмечают определенные риски и проблемы для участников системы образования. Вот некоторые из них:

• отсутствие «прямых» контактов студентов с преподавателем, что негативно влияет на освоение учебного материала, особенно учитывая возрастные особенности;
• формализация знаний и снижение результатов трудовой деятельности выпускников (часть операций алгоритмизируется);
• ухудшение оперативной памяти обучающихся в связи с биологическими изменениями в структуре мозговой деятельности, которые обусловлены новой значительной нагрузкой на психику;
• проблема обеспечения конфиденциальности и безопасности накапливаемых данных; 
• необходимость непрерывного повышения технических компетенций (некоторые преподаватели имеют сложности в процессе адаптации к новым методам обучения); 
• сокращение рабочих мест (часть трудовых функций компенсируют алгоритмы искусственного интеллекта) и изменение структуры занятости в сфере высшего образования.

Некоторые риски отмечаются также в докладе ЮНЕСКО от 2022 года «Технологии искусственного интеллекта в образовании. Руководство для лиц, ответственных за формирование политики». В п.3.3 отмечается ряд потенциальных проблем, связанных с навязчивостью, утечкой собираемых данных в процессе обучения, этические проблемы (предписываемые методы обучения без человеческого участия, постоянная запись на камеру, предвзятость, заложенная в алгоритмы и проч.).

Ряд специалистов (Т.В. Щукина, Э.Ш. Бекирова) напротив отмечают положительный эффект от внедрения этих технологий в образовательное пространство (как правило, при этом учитывается экономический расчет и эффективность). Среди них следующие:

• технологии искусственного интеллекта автоматизируют рутинные процессы (улучшение системы планирования учебного процесса, автоматизация оценки работ или проведение экзаменов преподавателями);
• стандартизация навыков и компетенций студентов в рамках дисциплин (оптимизация учебных курсов);
• методы обучения становятся более интерактивными и ориентированными на личность обучающегося;
• преодоление разобщённости между социальными субъектами в вопросе доступа к электронным образовательным ресурсам;
• усиление функций интеллектуальной системы человека для решения специфических задач.

Оценить уровень готовности российских университетов к этим технологиям без определенной статистики и динамики сложно, но как в одном из интервью отметил директор направления «Развитие на основе данных» АНО «Университет 2035», эксперт в области изучения искусственного интеллекта Андрей Комиссаров: «Нужно держать глаза открытыми».

– Внедрение искусственного интеллекта (ИИ) во все сферы человеческой жизни происходит независимо от нашего желания или нежелания и проникновение его в сферу высшего образования так же неизбежно, как в остальных отраслях человеческой деятельности. Национальная стратегия развития искусственного интеллекта на период до 2030 г. дает следующее определение – это комплекс технологических решений, позволяющий «имитировать когнитивные функции человека» и получать при выполнении конкретных задач результаты, сопоставимые с интеллектуальными достижениями людей (http://www.kremlin.ru/acts/bank/44731). ИИ в высшем образовании сейчас – это данность, и мы можем либо идти в ногу с процессом, осознавая все его риски и преимущества, или тянуться в хвосте, жалуясь самим себе на слишком быстро меняющийся мир.

Каковы же будут магистральные направления внедрения ИИ в наших университетах? Основными, на наш взгляд, будут следующие:

1. Разработка контента. Как со стороны преподавателя, так и со стороны обучающихся. Системы ИИ могут использовать материалы традиционной учебной программы для создания индивидуальных пособий или методических инструментов по определенным разделам – в помощь преподавателю. Равно как и могут оказывать помощь студенту для разработки рефератов, докладов, творческих или расчетных работ. В последнем случае безусловно возникает проблема этического характера – насколько и в каком виде допустимо применение студентом ИИ в представлении своих учебных результатов. Игнорирование проблемы само по себе нефункционально и скорее приведёт к катастрофическим результатам, нежели её осмысление, формализация и перевод в нормативно-правовую плоскость. С ИИ не нужно бороться – поздно! – университетам нужно определить «условия игры», понять, в каких областях, в каких объемах и в каких формах допустимо использование обучающимся технологий ИИ – и это заключает в себе организационно-нормативный аспект проблемы. Он сразу потянет за собой необходимость соответствующей подготовки и научно-педагогических кадров вуза, и его материально-технической базы, в первую очередь в части программного оснащения – однако выбора у нас уже нет. Технологическая революция всегда приводит к значительным изменениям в содержании и формах организации учебного процесса.

2. Индивидуализация обучения. Предоставляя настраиваемые приложения для персонализированного опыта и поддержки обучения, ИИ может адаптировать образовательные рамки для удовлетворения потребностей учащихся в соответствии с их знаниями, интересами и способностями (инструменты на основе ИИ-технологий могут предоставлять обучающимся персонализированную обратную связь, что приводит к более вовлеченному обучению, специально адаптированному к уникальным способностям и пробелам обучающегося; они могут помочь педагогам адаптировать обучение на основе ответов учащихся). ИИ может сделать образовательные материалы более доступными для обучающихся с различными стилями обучения или ограниченными возможностями. Более того, ИИ и цифровые технологии могут предоставить доступ к значительно более широкому кругу информационных и учебных ресурсов. И если ранее мы говорили о том, что педагог в современном образовании должен привыкать к деформации своей роли со стопроцентного «индивидуального носителя уникального знания» к в значительной степени «организатора информационного образовательного пространства обучающихся» (классифицируя источники информации в соответствии с корректностью, полнотой информации, ее соответствием целям и задачам дисциплины), то теперь можно будет говорить о частичной передаче этой функции искусственному интеллекту – а функционал преподавателя обогатится новым инструментарием в этой области. Более того, ИИ может помочь педагогу организовывать учебный процесс, осуществляя корректировку на основании обратной связи от обучающихся, — и в повышении точности оценки.

3. Содействие управлению образованием и администрированию. И речь не только о внедрении ИИ в область информационных систем и экспертную среду, но и такие аспекты, как интеллектуальное репетиторство и обучение, системы видеонаблюдения и прокторинга, системы распознавания речи педагога. 

Как и любая технологическая революция, внедрение ИИ в образовательные процессы в университете приводит к изменению всех аспектов учебного процесса – и требует изменения всех его участников – и самой структуры и содержания обучения. И основой таких изменений должна стать кадровая готовность вуза, готовность осознать горизонт проблем и пространство технологических, административных и методических решений.

С этой точки зрения внедрение модуля ИИ в основные образовательные программы – шаг необходимый, но недостаточный. В первую очередь необходимо повышение квалификации профессорско-преподавательского состава, системная переподготовка управленческих и обеспечивающих кадров – только так возможно идти в ногу со временем – и именно эта задача таит в себе максимальные риски для университетов.

Но вопросы остаются, например, конфиденциальность – поскольку ИИ собирает данные студентов, важно, чтобы были приняты соответствующие меры по защите данных. Дегуманизация образовательной среды – хотя автоматизированные инструменты обеспечивают полезное руководство во время учебных мероприятий, традиционное взаимодействие «преподаватель – студент» в значительной степени определяет мотивацию и, как результат, качество обучения. Кроме того, часть исследователей полагает, что использование автоматизированных систем оценивания может потенциально ограничить возможности для развития навыков критического мышления.

АО. Московский городской педагогический университет – первый в России – официально разрешил своим студентам использовать чат-боты и другие инструменты ИИ для подготовки выпускных квалификационных работ. Намерен ли ваш вуз последовать этому примеру?

– Мы нисколько не возражаем против использования чат-ботов и других инструментов ИИ для сбора материалов при подготовке выпускных или исследовательских работ, поскольку главный акцент в работах делаем не на сбор и «упаковку» информации по проблеме, а на экспертную оценку ее пригодности для решения сложных прикладных задач, которые связаны с проблемами конкретных производств, практиками управления бизнесом. И речь идет в этом случае не о запрете использования ChatGPT, а о рекомендации применения инструментов ИИ.
 

– Проникновение такой передовой технологии, как искусственный интеллект (отметим именно технологию генерации текста Generative Pretrained Transformer и разнообразные нейросети для генерации изображений) во все сферы жизнедеятельности человека идет ускоренными темпами и использование его в будущем не избежать. Активная интеграция данных инструментов в браузеры, мессенджеры, сервисы только усиливает этот процесс. Подготовка выпускных квалификационных работ в Белгородском государственном институте искусств и культуры в не меньшей степени, чем весь образовательный процесс отраслевого регионального вуза, направлена на развитие навыков уникальной интеллектуальной деятельности молодых людей – потенциальных создателей уникальных объектов интеллектуальной деятельности. Полагаю, что следование примеру МГПУ для нас сегодня – это интересный опыт. Пока же, на наш взгляд, целесообразно выработать и внедрить универсальные нормы использования искусственного интеллекта в образовательном процессе высшей школы во избежание получения деструктивного эффекта.

– Современные системы определения степени заимствования («Антиплагиат» и др.) развиваются в темпах, сопоставимых с темпами развития технологий ИИ, а потому позволяют определять фрагменты, сгенерированные ИИ. С нашей точки зрения, назрела задача глобального пересмотра нормативно-правовой базы, регулирующей вопросы подготовки ВКР и иных работ студентов, как на уровне каждого отдельного университета, так и на межвузовском уровне.

– Вопрос включает две составляющие: «официальное разрешение» и «выпускная квалификационная работа». Результатом подготовки ВКР является ее качество (актуальность, новизна и востребованность). Если выпускник и его руководитель решат, что использование ИИ позволит выполнить ВКР более качественно и докажут это на защите – вопрос о разрешении использования ИИ снимается. Вопрос не в разрешении или не разрешении использования ИИ для подготовки ВКР. Вопрос в мере ответственности выпускника и его дипломного руководителя.

ИИ один из этапов прогресса, развития человечества. Сейчас все чертежи инженер-конструктор выполняет на компьютере, а еще три десятка лет назад чертил карандашом на ватмане.

АО. В президентском указе «О развитии искусственного интеллекта в Российской Федерации» (№490 от 10.10.2019) отдельным пунктом (п. 47) отмечено: «К 2030 году в России должны реализовываться образовательные программы мирового уровня для подготовки высококвалифицированных специалистов и руководителей в области ИИ». Какие образовательные программы по направлениям ИИ реализуются (или готовятся к реализации) в вашем вузе?

– Если мы не сформируем спрос на таких специалистов, проблема кадрового обеспечения российского рынка технологий ИИ не решится. Сегодня ведущие вузы говорят о низкой доле абитуриентов, сдающих ЕГЭ по математике, еще ниже – по физике. А почему? Инженерное образование, утратив в 90-х годах свою привлекательность, не скоро восстановит ее. Поэтому отмеченную в Указе необходимость стимулирования (в том числе материального) работодателей к принятию мер по приобретению сотрудниками компетенций в области ИИ и в смежных областях его использования, я поставила бы на первое место. Формирование реальной и достойно оплачиваемой потребности в таких специалистах на рынке – самая главная задача.

Но нельзя узко смотреть на задачу обеспечения российского рынка технологий ИИ квалифицированными кадрами, делая акцент исключительно на компетенциях и навыках в области математики, программирования, анализа данных, машинного обучения. Развитию ИИ в немалой степени способствует подготовка постановщиков задач, специалистов в области извлечения экспертных знаний. ChatGPT умеет извлекать знания из оцифрованной информации. Но еще с 80-х мы знаем о проблеме нежелания экспертов делиться своими знаниями, поддерживая таким образом собственную значимость. Или проблема скомпилированности экспертного знания.

Академия Пастухова, успешно реализуя такие дополнительные профессиональные программы, как «Руководитель цифровой трансформации», «Интернет-маркетинг», «Нейромаркетинг», «Сайтостроение», сейчас работает над образовательным проектом, направленным на разработку технологии подготовки специалистов для эффективного извлечения уникальных экспертных знаний.

– В нашем университете активно внедряются образовательные программы, связанные с искусственным интеллектом. 
Магистерская программа «Искусственный интеллект, математическое моделирование и суперкомпьютерные технологии в разработке информационных систем» по направлению подготовки «Информационные системы и технологии». В 2023 году здесь проходят обучение более 30 студентов.

В рамках проекта «Цифровая кафедра» реализуется программа «Прикладной искусственный интеллект и машинное обучение» (в 2022-2023 учебном году обучение прошло около 200 человек, а в 2023-2024 году планируется обучить 175 человек). Эта программа предоставляет возможность студентам и профессионалам из различных областей получить практические навыки в области прикладного искусственного интеллекта.

– В Белгородском государственном институте искусств и культуры осуществляется подготовка бакалавров, магистров, специалистов различных направлений, преимущественно гуманитарного профиля. В соответствии с основополагающими ФГОС ВО результат обучения направлен на формирование ключевых компетенций обучающихся и предусматривает, в том числе, формирование компетенций, связанных с использованием современных информационных технологий. Так, в учебных планах бакалавриата в обязательной части включена дисциплина «Информационные технологии». В структуре есть раздел «Информационные технологии обработки данных», в ходе изучения которого рассматриваются информационные технологии как офисного программного обеспечения и электронного документооборота, так и технологии хранения данных и программирования. Также в рамках дисциплины обучающиеся знакомятся с основными современными тенденциями в области цифровизации.

Институт стремится к совершенствованию образовательного процесса и, в частности, в учебный план направления подготовки 51.03.06 «Библиотечно-информационная деятельность» включена дисциплина «Системы искусственного интеллекта». Вопрос включения специальных модулей как отдельных дисциплин по изучению технологий искусственного интеллекта в наши образовательные программы по некоторым направлениям не актуален с учетом наличия обязательной дисциплины «Информационные технологии», учебно-методические материалы которой ежегодно обновляются, ведущие преподаватели проходят повышение квалификации, актуализируя, в том числе, сведения в отношении ИИ.
 

– В СГУ им. Питирима Сорокина реализуется несколько программ по направлению ИИ. Одной из первых стала передовая магистерская программа «Прикладная информатика в экономике», разработанная совместно с СПбГУ, в содружестве с ведущими специалистами в области ИИ. Программы «Искусственный интеллект. Цифровая среда образовательной организации» в рамках педагогического образования и «Искусственный интеллект» в рамках направления подготовки «Прикладная математика» реализуются для студентов-бакалавров. Модули и разделы по искусственному интеллекту внедрены в образовательные программы различного уровня на системной основе.

– В рамках развития направления «Искусственный интеллект» в 2022 году в университете создана кафедра «Программная инженерия и искусственный интеллект». Данная кафедра создана (переформатирована) на базе кафедры «Системы информатики», выпускающей программистов с 1990 года.

В настоящее время кафедра ведет подготовку бакалавров по профилю «Математическое и программное обеспечение систем искусственного интеллекта», магистров по профилю «Искусственный интеллект и инженерия данных» (в соответствии с Соглашением о взаимодействии с ФГОУ ВО ЮУрГУ (НИУ) от 26.08.2022 г.) и аспирантов по специальности «Искусственный интеллект и машинное обучение».

Также в рамках сотрудничества с ЮУрГУ в университете началась подготовка по профилю «Искусственный интеллект в металлургии» (направление «Металлургия») и «Искусственный интеллект в промышленных и экологических биотехнологиях» (направление «Биотехнология»).

Университет уделяет большое внимание и научным исследованиям в области ИИ. С 2022 года на базе факультета «Компьютерные науки и технологии» работает научная лаборатория «Искусственный интеллект».