⭐ Нейронные сети.ои(sa) (ответы на тест Синергия / МТИ / МосАП, май 2023) (Решение → 60398)

Описание

Основы нейронных сетей > Нейронные сети

  • ответы на 21 вопрос
  • результат 85 баллов из 100
  • вопросы отсортированы в лексикографическом порядке
Оглавление

Нейронные сети.ои(sa)Введение в нейронные сетиПолносвязные нейронные сетиЭлементы теории оптимизацииОбучение нейронных сетейСверточные нейронные сетиРекуррентные нейронные сети. 1 ЧастьРекуррентные нейронные сети. 2 ЧастьTips and TricksPytorchВекторные представления словАлгоритм Backpropagation:Тип ответа: Одиночный выбор •

Нейронные сети.ои(sa)

  1. Введение в нейронные сети
  2. Полносвязные нейронные сети
  3. Элементы теории оптимизации
  4. Обучение нейронных сетей
  5. Сверточные нейронные сети
  6. Рекуррентные нейронные сети. 1 Часть
  7. Рекуррентные нейронные сети. 2 Часть
  8. Tips and Tricks
  9. Pytorch
  10. Векторные представления слов


Алгоритм Backpropagation:

Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантов

  • Состоит в случайном подборе весов модели до тех пор, пока не будет достигнут оптимальный набор параметров, минимизирующий ошибку
  • Используется только для оптимизации полносвязных нейросетей
  • Последовательном вычислении градиентов по весам модели, начиная с последнего слоя, по предактивациям соответствующего слоя и градиентам по весам следующего

Архитектура полносвязной нейронные сети основана на идее

Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантов

  • обобщения низкоуровневых признаков и генерирования на их основе более высокоуровневых
  • Построения разделяющей гиперплоскости
  • Минимизации лосс-функции без использования градиентных методов

Все описанные в лекции алгоритмы обладают общим свойством. Каким?

Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантов

  • Для всех требуется вычисление матрицы Гессе оптимизируемой функции
  • Для всех требуется вычисление градиентов оптимизированной функции
  • Для всех требуется подсчет значения оптимизируемой функции в данной точке

Градиентные методы оптимизации

Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантов

  • Представляют собой итерационные алгоритмы
  • Аналитически ищут решение задачи оптимизации
  • Вопреки названию, не используют градиенты

Задача классификации – это задача

Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантов

  • Обучения с учителем
  • Обучения без учителя
  • Обучения с подкреплением

Задачу машинного обучения можно представить в виде последовательности выполнения действий по выбору оптимальной решающей функции f из многопараметрического семейства F. Задача обучения сводится к задаче оптимизации на этапе:

Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантов

  • Выбора семейства F
  • Оценки качества выбранной функции f из семейства F
  • Поиска наилучшей функции из семейства F

Идея Momentum состоит в:

Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантов

  • Вычислении градиента в точке, к которой алгоритм должен сойтись на текущем шаге, согласно посчитанному моментному члену, а не в той точке, откуда алгоритм производит шаг
  • Использовании идеи физической инерции посредством добавления моментных членов, "скоростей"
  • приближенном, а значит - более быстром("моментальном") вычислении градиентов в текущей точке

Лучший способ борьбы с переобучением:

Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантов

  • Изменение архитектуры модели
  • Регуляризации
  • Увеличение количества данных

Метод подбора адаптированного learning rate на основе оценки исторических градиентов:

Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантов

  • Nesterov Momentum
  • RMSProp
  • Adagrad

Наиболее популярный на текущий момент метод оптимизации, основанный на идее использования двух моментных членов, предложенный в 2015 году:

Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантов

  • ADAM
  • Adagrad
  • Adadelta

Начальная инициализация весов нейросети:

Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантов

  • Должна быть константной для того, чтобы результаты обучения нейросети на одной и той же трейнинговой выборке были воспроизводимыми
  • Должна быть случайной для того, чтобы модель могла обучиться, не зануляя градиенты на определенном шаге, причем такой, что дисперсия сигнала не будет изменяться при проходе через слои нейросети.
  • Может быть любой

Нейронные сети бывают следующих видов:

Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантов

  • Полносвязные и рекуррентные
  • Рекуррентные, сверточные и трансформеры
  • Рекуррентные, сверточные, полносвязные и трансформеры

Нейронные сети, наиболее часто применяющиеся в CV – это

Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантов

  • Полносвязные
  • Сверточные
  • Рекуррентные

Обучение нейронной сети – это применение алгоритма оптимизации для решения задачи

Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантов

  • Минимизации средней нормы градиента эмпирического риска по весам модели
  • Минимизации эмпирического риска
  • Минимизации средней нормы матриц весов модели

Обучение с учителем характеризуется

Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантов

  • Целью обучить агента принимать оптимальные решения в среде
  • Отсутствием размеченной выборки
  • Наличием размеченной выборки

Отметьте верные высказывания о функциях активации:

Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантов

  • Функция активации сигмоида лежит в диапазоне [0,1] и может быть интерпретирована как вероятность, а потому часто используется для решения задач бинарной классификации. Функция ReLU - кусочно-линейная
  • Функция Leacky ReLU - всюду дифференцируема. Популярная функция активации гиперболический тангенс может быть использована, как решающая функция для задачи регрессии. Производная сигмоидальной функции не выражается аналитически через значение самой функции в данной точке
  • Все функции активации взаимозаменяемы вследствие того, что имеют одну и ту же область значений и область определения

Переобучение – это эффект, возникающий при

Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантов

  • Излишней сложности модели по отношению к сложности обучающей выборки, из-за чего происходит “заучивание” данных
  • Слишком долгом обучении модели, из-за чего она теряет свою предсказательную способность вследствие увеличения энтропии весов
  • Усталости специалиста по машинному обучению от того, что его модели слишком долго учатся

При прямом проходе через Feed Forward Neural Network:

Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантов

  • Происходит обновление весов модели на основе градиентов, посчитанных на предыдущей итерации
  • Происходит выстраивание архитектуры модели посредством подбора числа слоев и их размеров
  • Сигнал передается посредством последовательного матричного умножения и применения нелинейных функций активации

Производная сигмоиды выражается через саму сигмоиду аналитически, как

Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантов

  • sigm’ = sigm(1 - sigm)
  • sigm’ = 5sigm^(5)
  • sigm’ = 100sigm/sin(sigm)

Условия Каруша-Куна-Таккера применимы для решения:

Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантов

  • Любой задачи оптимизации
  • Задачи выпуклой оптимизации
  • Задачи оптимизации произвольной функции на выпуклом множестве Q

Функции активации в нейронных сетях:

Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантов

  • Нелинейны (глобально) и вносят неоднородность в сигнал при прямом проходе
  • Линейны и нужны для проверки работоспособности модели
  • Активируют нейросеть в разных режимах работы
     
            Описание
            Основы нейронных сетей > Нейронные сетиответы на 21 вопросрезультат 85 баллов из 100вопросы отсортированы в лексикографическом порядке 
            Оглавление
            Нейронные сети.ои(sa)Введение в нейронные сетиПолносвязные нейронные сетиЭлементы теории оптимизацииОбучение нейронных сетейСверточные нейронные сетиРекуррентные нейронные сети. 1 ЧастьРекуррентные нейронные сети. 2 ЧастьTips and TricksPytorchВекторные представления словАлгоритм Backpropagation:Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантовСостоит в случайном подборе весов модели до тех пор, пока не будет достигнут оптимальный набор параметров, минимизирующий ошибкуИспользуется только для оптимизации полносвязных нейросетейПоследовательном вычислении градиентов по весам модели, начиная с последнего слоя, по предактивациям соответствующего слоя и градиентам по весам следующегоАрхитектура полносвязной нейронные сети основана на идееТип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантовобобщения низкоуровневых признаков и генерирования на их основе более высокоуровневыхПостроения разделяющей гиперплоскостиМинимизации лосс-функции без использования градиентных методовВсе описанные в лекции алгоритмы обладают общим свойством. Каким?Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантовДля всех требуется вычисление матрицы Гессе оптимизируемой функцииДля всех требуется вычисление градиентов оптимизированной функцииДля всех требуется подсчет значения оптимизируемой функции в данной точкеГрадиентные методы оптимизацииТип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантовПредставляют собой итерационные алгоритмыАналитически ищут решение задачи оптимизацииВопреки названию, не используют градиентыЗадача классификации – это задачаТип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантовОбучения с учителемОбучения без учителяОбучения с подкреплениемЗадачу машинного обучения можно представить в виде последовательности выполнения действий по выбору оптимальной решающей функции f из многопараметрического семейства F. Задача обучения сводится к задаче оптимизации на этапе:Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантовВыбора семейства FОценки качества выбранной функции f из семейства FПоиска наилучшей функции из семейства FИдея Momentum состоит в:Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантовВычислении градиента в точке, к которой алгоритм должен сойтись на текущем шаге, согласно посчитанному моментному члену, а не в той точке, откуда алгоритм производит шагИспользовании идеи физической инерции посредством добавления моментных членов, скоростейприближенном, а значит - более быстром(моментальном) вычислении градиентов в текущей точкеЛучший способ борьбы с переобучением:Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантовИзменение архитектуры моделиРегуляризацииУвеличение количества данныхМетод подбора адаптированного learning rate на основе оценки исторических градиентов:Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантовNesterov MomentumRMSPropAdagradНаиболее популярный на текущий момент метод оптимизации, основанный на идее использования двух моментных членов, предложенный в 2015 году:Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантовADAMAdagradAdadeltaНачальная инициализация весов нейросети:Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантовДолжна быть константной для того, чтобы результаты обучения нейросети на одной и той же трейнинговой выборке были воспроизводимымиДолжна быть случайной для того, чтобы модель могла обучиться, не зануляя градиенты на определенном шаге, причем такой, что дисперсия сигнала не будет изменяться при проходе через слои нейросети.Может быть любойНейронные сети бывают следующих видов:Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантовПолносвязные и рекуррентныеРекуррентные, сверточные и трансформерыРекуррентные, сверточные, полносвязные и трансформерыНейронные сети, наиболее часто применяющиеся в CV – этоТип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантовПолносвязныеСверточныеРекуррентныеОбучение нейронной сети – это применение алгоритма оптимизации для решения задачиТип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантовМинимизации средней нормы градиента эмпирического риска по весам моделиМинимизации эмпирического рискаМинимизации средней нормы матриц весов моделиОбучение с учителем характеризуетсяТип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантовЦелью обучить агента принимать оптимальные решения в средеОтсутствием размеченной выборкиНаличием размеченной выборкиОтметьте верные высказывания о функциях активации:Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантовФункция активации сигмоида лежит в диапазоне [0,1] и может быть интерпретирована как вероятность, а потому часто используется для решения задач бинарной классификации. Функция ReLU - кусочно-линейнаяФункция Leacky ReLU - всюду дифференцируема. Популярная функция активации гиперболический тангенс может быть использована, как решающая функция для задачи регрессии. Производная сигмоидальной функции не выражается аналитически через значение самой функции в данной точкеВсе функции активации взаимозаменяемы вследствие того, что имеют одну и ту же область значений и область определенияПереобучение – это эффект, возникающий приТип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантовИзлишней сложности модели по отношению к сложности обучающей выборки, из-за чего происходит “заучивание” данныхСлишком долгом обучении модели, из-за чего она теряет свою предсказательную способность вследствие увеличения энтропии весовУсталости специалиста по машинному обучению от того, что его модели слишком долго учатсяПри прямом проходе через Feed Forward Neural Network:Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантовПроисходит обновление весов модели на основе градиентов, посчитанных на предыдущей итерацииПроисходит выстраивание архитектуры модели посредством подбора числа слоев и их размеровСигнал передается посредством последовательного матричного умножения и применения нелинейных функций активацииПроизводная сигмоиды выражается через саму сигмоиду аналитически, какТип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантовsigm’ = sigm(1 - sigm)sigm’ = 5sigm^(5)sigm’ = 100sigm/sin(sigm)Условия Каруша-Куна-Таккера применимы для решения:Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантовЛюбой задачи оптимизацииЗадачи выпуклой оптимизацииЗадачи оптимизации произвольной функции на выпуклом множестве QФункции активации в нейронных сетях:Тип ответа: Одиночный выбор • с выбором одного правильного ответа из нескольких предложенных вариантовНелинейны (глобально) и вносят неоднородность в сигнал при прямом проходеЛинейны и нужны для проверки работоспособности моделиАктивируют нейросеть в разных режимах работы  
            
            
            💯 Нейронные сети.ои(sa) (ответы на тест Синергия / МОИ / МТИ / МосАП, ноябрь 2023)⭐ Нейронные сети.ои(sa) (ответы на тест Синергия / МТИ / МосАП, май 2023)Нейронные сети.ои(sa) тест с ответами Синергия/МОИ/ МТИ /МОСАПНейронные сети  (ОТВЕТЫ 2023)Нейрон, передающий импульс, называется …НЕЙРОПСИХОЛОГИЧЕСКАЯ ДИАГНОСТИКАНейропсихологические симптомы и синдромы поражений головного мозга у детейНе имеющая членства некоммерческая организация, учрежденная Российской Федерацией на основе имущественного взноса и созданная для осуществления социальных, управленческих или иных общественно полезных функций, – это …Неисключаемость – это свойство общественного блага, при котором …Нейродегенеративные заболевания или атрофии мозга [Ответы]Нейролингвистический подход в психологическом консультированииНейронные сети (2023г.) тест с ответами Синергия/МОИ/ МТИ /МОСАПНейронные сети и машинное обучение  2023г МФПУ СинергияНейронные сети и машинное обучение/СИНЕРГИЯ//МОСАП//МОИ//МТИ