Поиск по сайту
Вход Регистрация
Х
Логин
Пароль

Забыли пароль?
Войти через:
Об изданииНаши проектыКонтактыОформить подпискуМЕДИАпланёрка

Информационно-аналитический журнал

Новости образовательных организаций. Аналитические материалы. Мнение экспертов.
Читайте нас в
социальных сетях
ВУЗы
НовостиВузыБолонский процессНегосударственное образованиеФГОС-3УМОФедеральные вузыВнеучебная работа
Образование в России
ШколаСПОДПОЗаконодательствоРегионыМеждународное сотрудничествоОтраслевое образованиеСтуденчество
Качество образования
АккредитацияРейтингиТехнологии образованияМеждународный опыт
Рынок труда
АнализРаботодателиТрудоустройство
Наука
Молодые ученыеТехнологииКонкурсы
Вебинары
Март 2016Май 2016Сентябрь 2016
Партнёры

Российские ученые улучшили метод глубокого обучения нейросетей

В Институте интеллектуальных кибернетических систем НИЯУ МИФИ предложили новый метод для обучения ограниченной машины Больцмана (вид нейросети), позволяющий оптимизировать процессы семантического кодирования, визуализации и распознавания данных.

Просмотров: 6

В Институте интеллектуальных кибернетических систем НИЯУ МИФИ предложили новый метод для обучения ограниченной машины Больцмана (вид нейросети), позволяющий оптимизировать процессы семантического кодирования, визуализации и распознавания данных. Результаты исследования опубликованы в журнале «Optical Memoryand Neural Networks».

В настоящее время большую популярность приобретает изучение глубоких нейронных сетей различной архитектуры: сверточных, рекуррентных, автоэнкодерных. Ряд высокотехнологичных компаний, среди которых – Microsoft и Google, используют глубокие нейронные сети для проектирования различных интеллектуальных систем. Вместе с глубокими нейронными сетями приобрел популярность термин «глубокое» обучение.

В системах глубокого обучения автоматизируется сам процесс выбора и настройки признаков. То есть, сеть самостоятельно определяет и использует наиболее эффективные алгоритмы для иерархического извлечения признаков. Для метода глубокого обучения характерно обучение на больших выборках при помощи единого оптимизационного алгоритма. Типичные алгоритмы оптимизации настраивают параметры всех операций одновременно и эффективно оценивают влияние каждого параметра нейросети на ошибку с помощью так называемого метода обратного распространения.

«Способность искусственных нейронных сетей обучаться является наиболее интригующим их свойством. Подобно биологическим системам, нейронные сети сами моделируют себя, стремясь достичь лучшей модели поведения», — отметил профессор Института кибернетических систем НИЯУ МИФИ Владимир Головко.

Прорыв в обучении нейросетей произошел в 2006 году, после научной публикации Джеффри Хинтона с описанием техники предварительной тренировки нейросети. В статье говорилось, что можно эффективно предобучать многослойную нейронную сеть, если обучать каждый слой отдельно при помощи ограниченной машины Больцмана, а затем дообучать методом обратного распространения ошибки. Эти сети получили название нейронных сетей глубокого доверия (Deep Belief Networks, DBN).

Профессор ИИКС НИЯУ МИФИ Владимир Головко проанализировал проблематику и основные парадигмы глубокого машинного обучения, предложив новый метод для обучения ограниченной машины Больцмана. Ученый показал, что классическое правило обучения этой нейросети является частным случаем предложенного им метода.

«Американские ученые Минский и Пейперт в свое время выявили, что однослойный персептрон с пороговой функцией активации формирует линейную разделяющую поверхность с точки зрения классификации образов и поэтому не может решить задачу «исключающее или». Это провоцировало пессимистические выводы насчет дальнейшего развития нейронных сетей. Однако последнее утверждение справедливо только для однослойного персептрона с пороговой или монотонной непрерывной функцией активации – например, сигмоидной. При использовании сигнальной функции активации однослойный персептрон может решить задачу «исключающее или», так как он разбивает входное пространство образов на классы при помощи двух прямых», – рассказал Владимир Головко.

В работе также были проанализированы перспективы применения глубоких нейронных сетей для сжатия, визуализации и распознавания данных. Кроме того, Головко предложил подход к реализации семантического кодирования (хеширования) с помощью глубоких автоассоциативных нейронных сетей. Этот метод глубокого обучения может быть очень полезен в поисковиках для нейросетей, которые, по утверждению автора, будут показывать высокую скорость поиска релевантных изображений.

Практическую ценность данных научных разработок сложно переоценить: они уже нашли применение в таких областях, как компьютерное зрение, распознавание речи и биоинформатика.

Ссылка на оригинал статьи

Нашли ошибку на сайте? Выделите фрагмент текста и нажмите ctrl+enter

Теги: МИФИ, технологии

Похожие материалы:
Фотоника и бионанотехнологии – новые направления развития для НИЯУ МИФИ
ICPPA-2018: хороший старт для молодых учёных
Ученые придумали, как удешевить электронику за счет «водородных пузырей»
В НИЯУ МИФИ разрабатывают инновационный материал для биоразлагаемого имплантата
Студент ВИТИ НИЯУ МИФИ стал победителем выставки проектов на кубке Клуба робототехники
Первый эксперимент на установке МАВР
Будущее атомной энергетики – AtomFuture 2018 в Обнинске
Пионер нанотехнологий включил студентов МИФИ в разработку «умных» лекарств
Нейросеть обучили определять пол человека по написанному тексту
МКС и коллайдер: Нобелевский лауреат Тинг рассказал о своих экспериментах

При использовании любых материалов сайта akvobr.ru необходимо поставить гиперссылку на источник

Комментарии пользователей: 0 Оставить комментарий
Эту статью ещё никто не успел прокомментировать. Хотите стать первым?
Читайте в новом номере«Аккредитация в образовании»
№ 7 (107) 2018

За молодыми учеными – будущее страны. По крайней мере, таков расклад, отраженный в нацпроекте «Наука». Что же касается самих начинающих и не очень исследователей – они в большей степени озабочены настоящим, в котором их зарплата несоизмерима с заработками менеджеров по продажам, а без участия в конкурсах, направленных на коммерциализацию результатов исследований, получить средства на научную деятельность практически невозможно. Оценка качества образования, рейтингование, информационная открытость, практико-ориентированное обучение, интернационализация и модернизация… Традиционно «АО» держит вас в курсе острых тем и актуальных трендов. Новый номер – не исключение. Читайте прямо сейчас!
Анонс журнала

Партнеры
Популярные статьи
VI Международный форум «U-NOVUS - 2019 «Форум новых решений»
В рамках Форума пройдет Всероссийская командная научная игра с международным участием «SCIENCE...
В КГУ помогают женщинам, пережившим насилие в семье
В рамках Всероссийской благотворительной акции «Не виновата» в поддержку женщин, переживших...
В Намангане (Узбекистан) планируется открытие филиала ЮУрГУ
В ходе визита в Наманган делегация ЮУрГУ подписала «дорожные карты» по приоритетным направлениям...
III Международная конференция «Наука будущего» и IV Всероссийский форум «Наука будущего — наука молодых»
Главная задача конференции и форума – формирование у молодежи представления о науке как о...
Интеграция Педагогической науки и практики в условиях кризиса глобализации
Международная научная конференция "Интеграция Педагогической науки и практики в условиях кризиса...
Из журнала
#103Чувашский государственный университет им. И.Н. Ульянова стал инновационным центром региона
#98Общество «Знание» и Кубанское казачье общество основали техникум
#97Приоритет Правительства РФ – цифровая экономика
#97ТГУ – лидер глобального образовательного пространства
#104Конкурсный проект «Образовательный марафон» популяризирует лучшие практики ДПО России
Информационная лента
10:38Digital SuperHero объявляет о старте нового хакатона
10:36КФУ и государственная нефтяная компания Кубы на пути к новому образовательному проекту
09:05Школьники создали прототип наноспутника под руководством студентов университета
08:56В ТюмГУ появится Центр биобезопасности лесов
08:39В СВФУ студенты прошли обучение по робототехнике