DeepMind показывает Chinchilla: при том же бюджете вычислений модель на 70 млрд параметров, обученная на большем объёме текста, превосходит Gopher на 280 млрд; размер модели и число токенов для обучения надо наращивать одинаково
· Наука
- технология
- Большая языковая модель
- источник
- arxiv.org ↗
¶ cgg6g9xvw