En los datos de entrenamiento de GPT-3, Wikipedia es solo el 3% de la mezcla (3.000 millones de tokens), pero el modelo la vio 3,4 veces, frente a menos de una vez (0,44) los datos web de Common Crawl
traducido por IA, revisado por la redacción
· Medios e información · Ciencia
- tecnología
- Wikipedia después de la IA
- fuente
- arxiv.org ↗
¶ c8nn7qzx9