Академия Яндекса: Как Яндекс решает задачу ранжирования с помощью больших нейросетей – Александр Гот HD
00:41:42
Академия Яндекса: разработка 374 ролика
674 просмотра
Как Яндекс решает задачу ранжирования с помощью больших нейросетей – Александр Гот.
Слайды: yadi.sk/i/NANb8OrztWDkegПоговорим о том, почему ранжирование Яндекса всё больше определяется нейросетями: как они учатся предсказывать экспертные оценки, почему хорошие оценки стоят дорого и их мало. Углубимся в историю: посмотрим на нейросети в ретроспективе и сравним их по качеству, уделив особое внимание разным вариантам трансформеров. Расскажу (с погружением в технологии), как мы создавали свой трансформер для ранжирования, который кардинально изменил работу алгоритма, и немного о будущем: сверхбольших моделях, генеративных моделях и др.О спикере:Александр Готманов окончил ВМК МГУ в 2005 году. После университета — разработчик-исследователь в московском отделении Intel. С 2014-го занимается качеством поиска в Яндексе. Руководитель группы нейросетевых технологий.
развернуть свернуть
В докладе упоминается, что split-transformer принимает 150 токенов в часть, обрабатывающую документ. Эти 150 токенов — это просто первые 150, или есть какие-то дополнительные методы предобработки/извлечения значимых токенов?