Transformer+Textos de la web → Modelo de lenguaje grande
fusión · 11/06/2018
OpenAI GPT: un transformer preentrenado con textos — openai.com ↗
Ciencia
⚑ Respaldan
- Trabajo y profesiones / Andrej Karpathy: «Unos 6.000 millones de personas (~75% de la población) apenas han tenido contacto con los LLM, mientras ~5.000 tienen acceso interno a sistemas de nivel puntero»
- Ciencia / Nick Cammarata: «La polisemanticidad —una neurona para muchos conceptos— fue sobre todo una mala lectura: las redes neuronales «ya están limpias» y los agentes pueden analizarlas neurona a neurona; en una revisión preliminar de Qwen3-32B, cerca del 90% de las neuronas tiene una tarea principal»
¶ c9p9gfxz6