Поиск по сайту
Вход Регистрация
Х
Логин
Пароль

Забыли пароль?
Войти через:
Об изданииНаши проектыКонтактыОформить подпискуМЕДИАпланёрка

Информационно-аналитический журнал

Новости образовательных организаций. Аналитические материалы. Мнение экспертов.
Читайте нас в
социальных сетях
ВУЗы
НовостиВузыБолонский процессНегосударственное образованиеФГОС-3УМОФедеральные вузыВнеучебная работа
Образование в России
ШколаСПОДПОЗаконодательствоРегионыМеждународное сотрудничествоОтраслевое образованиеСтуденчество
Качество образования
АккредитацияРейтингиТехнологии образованияМеждународный опыт
Рынок труда
АнализРаботодателиТрудоустройство
Наука
Молодые ученыеТехнологииКонкурсы
Вебинары
Март 2016Май 2016Сентябрь 2016
Партнёры

Российские ученые улучшили метод глубокого обучения нейросетей

В Институте интеллектуальных кибернетических систем НИЯУ МИФИ предложили новый метод для обучения ограниченной машины Больцмана (вид нейросети), позволяющий оптимизировать процессы семантического кодирования, визуализации и распознавания данных.

Просмотров: 6

В Институте интеллектуальных кибернетических систем НИЯУ МИФИ предложили новый метод для обучения ограниченной машины Больцмана (вид нейросети), позволяющий оптимизировать процессы семантического кодирования, визуализации и распознавания данных. Результаты исследования опубликованы в журнале «Optical Memoryand Neural Networks».

В настоящее время большую популярность приобретает изучение глубоких нейронных сетей различной архитектуры: сверточных, рекуррентных, автоэнкодерных. Ряд высокотехнологичных компаний, среди которых – Microsoft и Google, используют глубокие нейронные сети для проектирования различных интеллектуальных систем. Вместе с глубокими нейронными сетями приобрел популярность термин «глубокое» обучение.

В системах глубокого обучения автоматизируется сам процесс выбора и настройки признаков. То есть, сеть самостоятельно определяет и использует наиболее эффективные алгоритмы для иерархического извлечения признаков. Для метода глубокого обучения характерно обучение на больших выборках при помощи единого оптимизационного алгоритма. Типичные алгоритмы оптимизации настраивают параметры всех операций одновременно и эффективно оценивают влияние каждого параметра нейросети на ошибку с помощью так называемого метода обратного распространения.

«Способность искусственных нейронных сетей обучаться является наиболее интригующим их свойством. Подобно биологическим системам, нейронные сети сами моделируют себя, стремясь достичь лучшей модели поведения», — отметил профессор Института кибернетических систем НИЯУ МИФИ Владимир Головко.

Прорыв в обучении нейросетей произошел в 2006 году, после научной публикации Джеффри Хинтона с описанием техники предварительной тренировки нейросети. В статье говорилось, что можно эффективно предобучать многослойную нейронную сеть, если обучать каждый слой отдельно при помощи ограниченной машины Больцмана, а затем дообучать методом обратного распространения ошибки. Эти сети получили название нейронных сетей глубокого доверия (Deep Belief Networks, DBN).

Профессор ИИКС НИЯУ МИФИ Владимир Головко проанализировал проблематику и основные парадигмы глубокого машинного обучения, предложив новый метод для обучения ограниченной машины Больцмана. Ученый показал, что классическое правило обучения этой нейросети является частным случаем предложенного им метода.

«Американские ученые Минский и Пейперт в свое время выявили, что однослойный персептрон с пороговой функцией активации формирует линейную разделяющую поверхность с точки зрения классификации образов и поэтому не может решить задачу «исключающее или». Это провоцировало пессимистические выводы насчет дальнейшего развития нейронных сетей. Однако последнее утверждение справедливо только для однослойного персептрона с пороговой или монотонной непрерывной функцией активации – например, сигмоидной. При использовании сигнальной функции активации однослойный персептрон может решить задачу «исключающее или», так как он разбивает входное пространство образов на классы при помощи двух прямых», – рассказал Владимир Головко.

В работе также были проанализированы перспективы применения глубоких нейронных сетей для сжатия, визуализации и распознавания данных. Кроме того, Головко предложил подход к реализации семантического кодирования (хеширования) с помощью глубоких автоассоциативных нейронных сетей. Этот метод глубокого обучения может быть очень полезен в поисковиках для нейросетей, которые, по утверждению автора, будут показывать высокую скорость поиска релевантных изображений.

Практическую ценность данных научных разработок сложно переоценить: они уже нашли применение в таких областях, как компьютерное зрение, распознавание речи и биоинформатика.

Ссылка на оригинал статьи

Нашли ошибку на сайте? Выделите фрагмент текста и нажмите ctrl+enter

Теги: МИФИ, технологии

Похожие материалы:
МКС и коллайдер: Нобелевский лауреат Тинг рассказал о своих экспериментах
ICPPA-2018: хороший старт для молодых учёных
Совместный проект «ДИОР» объединит усилия НИЯУ МИФИ и Университета ИТМО
Содружество Приборостроительного завода и Трехгорного технологического института
Нейросеть обучили определять пол человека по написанному тексту
Пионер нанотехнологий включил студентов МИФИ в разработку «умных» лекарств
Студент ВИТИ НИЯУ МИФИ стал победителем выставки проектов на кубке Клуба робототехники
Будущее атомной энергетики – AtomFuture 2018 в Обнинске
Фотоника и бионанотехнологии – новые направления развития для НИЯУ МИФИ
Первый эксперимент на установке МАВР

При использовании любых материалов сайта akvobr.ru необходимо поставить гиперссылку на источник

Комментарии пользователей: 0 Оставить комментарий
Эту статью ещё никто не успел прокомментировать. Хотите стать первым?
Читайте в новом номере«Аккредитация в образовании»
№ 5 (105) 2018

Что день грядущий нам готовит? Как следует из доклада об основных направлениях деятельности Правительства РФ до 2024 года – вхождение России в число пяти крупнейших экономик мира. В отношении науки и образования планы не менее масштабные: ускорение темпов научно-технологического развития должно обеспечить стране место среди пяти ведущих мировых держав, а эффективная образовательная политика – удовлетворить спрос стратегически важных отраслей в высококвалифицированных кадрах. Об этом и других сценариях будущего читайте в новом номере «АО». А еще мы открываем новую рубрику. Пропустить невозможно!
Анонс журнала

Партнеры
Популярные статьи
I Всероссийский форум для руководителей государственных и частных колледжей ProFuture’19
Ключевые темы форума: управление и оптимизация процессов СПО, маркетинг и эффективные инструменты...
Новый виток развития колледжа
Костромской областной медицинский колледж им. Героя Советского Союза С.А. Богомолова является...
Подтверждая высокий статус российской музыкальной школы
Российская академия музыки имени Гнесиных была первым российским вузом, прошедшим не только...
Трудоустройство иностранных студентов – атрибут позиционирования на международном рынке образовательных услуг
Проведенные в зарубежных странах исследования факторов выбора иностранными студентами страны и...
Научно-образовательный центр Республики Дагестан
Дагестанский государственный университет народного хозяйства – крупный региональный научно-...
Из журнала
#101Минобрнауки РФ готовится к масштабной реформе профессионального образования
#102Коркинский горно-строительный техникум готовит востребованные кадры
#101Новосибирский кооперативный техникум им. А.Н.Косыгина готовит востребованные кадры
#94Российская система аккредитации в сфере образования прошла знаковые рубежи
#98Цифровизация образования в России и мире
Информационная лента
09:05Открыт прием заявок на участие в олимпиадах по общественным коммуникациям «PR-Олимп-2019»
09:05В ЮУрГУ на региональном этапе «РобоФеста» покажут искусство управления дронами и запустят роботов на Луну
09:03Всероссийский конкурс креативных проектов и идей по развитию социальной инфраструктуры «НЕОТЕРРА»
09:01Физики БФУ им. И. Канта разработали методику определения состава микропластика из Балтийского моря
09:00Петербургский и Туринский Политех будут развивать нефтегазовую отрасль