Языковую модель на нейросетях от «Сбера» признали лучшей по пониманию текстов на русском языке. Она уступает только человеку

Языковую модель ruRoberta-large finetune, разработанную в SberDevices, признали лучшей по пониманию текста в рамках главного бенчмарка по оценке текстовых моделей Russian SuperGLUE. 

В рейтинге модель «Сбера» уступила только человеку. В десятку лидеров также вошли ещё 4 модели компании. 

Модель ruRoBERTa повторяет архитектуру BERT и использует токенизацию от нейросети ruGPT-3 — русскоязычного аналога GPT-3, который тоже разработала SberDevices. Она 3 недели обучалась на суперкомпьютере «Кристофари». 

Источник: Код Дурова

Хинт для программистов: если зарегистрируетесь на соревнования Huawei Cup, то бесплатно получите доступ к онлайн-школе для участников. Можно прокачаться по разным навыкам и выиграть призы в самом соревновании.

Перейти к регистрации