Нейросети научились целенаправленно запоминать и забывать информацию
Новости
«Память — драгоценнейший ресурс, поэтому люди научились запоминать только то, что им действительно нужно. Теперь это доступно и машинам».
3К открытий3К показов
Сегодняшние разработки в области глубокого обучения уже во многом превосходят человека: от шахмат и Go до распознавания лиц и объектов. Но есть области, где искусственный интеллект существенно уступает настоящему. В особенности это касается способности людей непрерывно обновлять свою память и «удалять» из нее лишнюю информацию.
А вот машины так не умеют. Любые полученные навыки, вне зависимости от важности, тут же перезаписываются новыми данными. Однако новое исследование, проведенное учеными из Facebook AI Research и Лёвенского католического университета, показало, что естественные механизмы запоминания весьма успешно перекладываются и на искусственные нейросети.
Правило Хебба
Еще в 1940-х годах канадский психолог Дональд Хебб сформулировал теорию: «Между клетками, которые возбуждаются одновременно, возникает прочная связь». Именно по этому принципу и обучаются люди: повторяющееся синхронизированное возбуждение нейронов усиливает связи в мозгу и препятствует стиранию усваиваемой информации из памяти.
Взяв за основу это правило, исследователи разработали нейронные сети, обучение которых происходит по такому же механизму. Теперь, изучая что-то новое, ИИ умеет блокировать изменения в ранее освоенных важных параметрах.
Серия тестов продемонстрировала состоятельность проведенной работы. К примеру, сети, которую натренировали распознавать цветы, вдруг начинали показывать птиц. Возврат к цветам показал, что существенная часть предыдущего навыка распознавания у алгоритма сохранилась.
И хотя пока что отличия новой разработки от обычных нейросетей в подобных испытаниях не столь разительны, у этой идеи есть «большое будущее в машинном обучении». Дальнейшие исследования в этом направлении помогут сделать ИИ более гибкими и способными быстро адаптироваться к изменяющимся условиям окружающей среды.
На данный момент этот блок не поддерживается, но мы не забыли о нём!Наша команда уже занята его разработкой, он будет доступен в ближайшее время.
3К открытий3К показов
Раскатываем модель PyTorch на двух разных сетапах: проводим тренировку и выбираем оптимальный вариант.
Эффективное управление ресурсами является основой успеха в бизнесе — на помощь приходят технологии машинного обучения, в частности, большие языковые модели (LLM).
Оцифровка документов, перевод текста на фотографии или анализ товаров на складе — со всеми этими задачами помогает справиться технология распознавания текста (OCR). Разберемся, чем она полезна для бизнеса и какие возможности для ее развития есть сейчас.