Hechos · 2024
eventos: 63 · Cronología
- DeepSeek-V3 se entrenó con 2048 chips H800 recortados para China: 2,788 millones de horas de GPU, unos 5,6 millones de dólares a precio de alquiler por la ejecución finalCiencia · Exportación de cómputo · arxiv.org ↗
- Unit 42 (Palo Alto Networks): un modelo de lenguaje reescribe JavaScript malicioso de forma que un detector basado en redes neuronales lo considera seguro en el 88% de los casos; reentrenar el detector con 10.000 de estas variantes mejoró en un 10% la detección de muestras nuevasCiberseguridad · Defensa de objetivo móvil · unit42.paloaltonetworks.com ↗
- Anthropic describe el patrón orquestador-trabajadores: un modelo central divide la tarea, delega las partes en modelos trabajadores y sintetiza sus resultadosDesarrollo de software · Orquestación de agentes de IA · anthropic.com ↗
- El regulador bávaro BayLDA, autoridad de control principal de la UE en el caso Worldcoin, exige garantizar el borrado de datos conforme al RGPD; la empresa recurre la decisiónPrivacidad y vigilancia · Leyes y regulación · Prueba de humanidad · lda.bayern.de ↗
- La CNIL multa a una empresa con 40.000 €: un programa contaba como inactividad de los empleados en teletrabajo los minutos sin pulsaciones de teclas ni movimientos del ratón, y esa inactividad podía descontarse del sueldoTrabajo y profesiones · Privacidad y vigilancia · Leyes y regulación · Biometría del comportamiento · cnil.fr ↗
- Anthropic y Redwood Research: Claude 3 Opus finge estar de acuerdo y atiende peticiones dañinas de usuarios «gratuitos» en el 14% de los casos, frente a casi cero con los «de pago»; tras el reentrenamiento, esos razonamientos llegan al 78%Ciencia · Seguridad de la IA · arxiv.org ↗
- OpenAI: los modelos de razonamiento de la API evitan Markdown por defecto; para recuperarlo, el desarrollador escribe «Formatting re-enabled» en la primera línea de sus instruccionesDesarrollo de software · Markdown · developers.openai.com ↗
- Ilya Sutskever, en NeurIPS: «el preentrenamiento tal como lo conocemos terminará sin duda»; el cómputo crece, pero los datos no, porque solo hay un internetCiencia · Modelo de lenguaje grande · youtube.com ↗
- Apollo Research: o1, Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro y Llama 3.1 405B son capaces de engañar para cumplir el objetivo de la tarea; o1 mantiene el engaño en más del 85% de las preguntas de seguimientoCiencia · Seguridad de la IA · arxiv.org ↗
- China prohíbe, en principio, la exportación a EE. UU. de galio, germanio, antimonio y materiales superdurosGeopolítica y defensa · Industria y robots · Exportación de cómputo · cn.chinadaily.com.cn ↗
- Seth Larson (Python Software Foundation) se queja de un aluvión de «informes de seguridad de calidad extremadamente baja, con pinta de spam y alucinados por LLM»Ciberseguridad · Desarrollo de software · Trabajo y profesiones · Búsqueda de vulnerabilidades con IA · sethmlarson.dev ↗
- La BIS introduce controles a la exportación de la memoria HBM y de otros 24 tipos de equipos para fabricar chips, e incluye en la Entity List a 140 organizacionesGeopolítica y defensa · Leyes y regulación · Exportación de cómputo · bis.gov ↗
- Anthropic publica como código abierto el Model Context Protocol (MCP), un estándar común para conectar la IA con datos y herramientas en lugar de una integración distinta para cada servicioDesarrollo de software · Agentes de IA autónomos · anthropic.com ↗
- OSS-Fuzz, con modelos de lenguaje que escriben por sí mismos los arneses de fuzzing, encuentra 26 vulnerabilidades, entre ellas CVE-2024-9143 en OpenSSLCiberseguridad · Desarrollo de software · Búsqueda de vulnerabilidades con IA · security.googleblog.com ↗
- He y coautores: el formato del prompt —texto plano, Markdown, JSON o YAML— cambia hasta un 40% el rendimiento de GPT-3.5-turbo en una tarea de traducción de códigoDesarrollo de software · Ciencia · Markdown · arxiv.org ↗
- Epoch AI lanza FrontierMath, una prueba con problemas nuevos de nivel de investigación: los mejores modelos resuelven menos del 2%Ciencia · IA en matemáticas · arxiv.org ↗
- El agente Big Sleep (Google Project Zero y Google DeepMind) encuentra en SQLite un error explotable de gestión de memoria; según Google, el primer ejemplo público de un hallazgo así hecho por un agente de IA en un programa de uso generalizadoCiberseguridad · Desarrollo de software · Búsqueda de vulnerabilidades con IA · projectzero.google ↗
- GitHub Octoverse 2024: más de 5.200 millones de contribuciones en 518 millones de proyectos; los proyectos de IA generativa crecen un 98% y sus contribuciones, un 59%; Python supera a JavaScriptDesarrollo de software · Código abierto · github.blog ↗
- La Open Source Initiative publica la Definición de IA de Código Abierto 1.0: además de los pesos, exige información suficiente sobre los datos de entrenamiento para construir un sistema equivalenteDesarrollo de software · Leyes y regulación · Pesos abiertos · opensource.org ↗
- La red neuronal DMTG mueve el ratón «como un humano» y reduce la precisión de los detectores de bots entre un 5% y un 10%Ciberseguridad · Ciencia · Biometría del comportamiento · arxiv.org ↗
- Anthropic abre la beta pública del «uso del ordenador»: Claude 3.5 Sonnet mira la pantalla, mueve el cursor, pulsa botones y escribe; en OSWorld logra el 14,9% frente al 7,8% del siguiente sistemaDesarrollo de software · Trabajo y profesiones · Agentes de IA autónomos · anthropic.com ↗
- Worldcoin pasa a llamarse World e introduce la verificación de la persona con el chip del pasaporte, sin OrbPrivacidad y vigilancia · Prueba de humanidad · world.org ↗
- Mandiant: tiempo medio desde la divulgación de una vulnerabilidad hasta su explotación, 63 días en 2018–2019, 44 en 2020, 32 en 2021–2022 y 5 en 2023 (5 tras excluir 15 valores atípicos; con ellos, 47)Ciberseguridad · Búsqueda de vulnerabilidades con IA · cloud.google.com ↗
- Brooks, Eggert y Peskoff (Princeton): los detectores marcan como generados por IA más del 5% de los artículos nuevos de la Wikipedia en inglés; esos artículos son de peor calidad y a menudo autopromocionalesMedios e información · Ciencia · Wikipedia después de la IA · arxiv.org ↗
- 404 Media informa sobre WikiProject AI Cleanup, un grupo de editores de Wikipedia que localiza y elimina de los artículos texto generado por IA sin fuentesMedios e información · Wikipedia después de la IA · 404media.co ↗
- Nobel de Física para Hopfield y Hinton por las redes neuronales; al día siguiente, el de Química para Hassabis, Jumper (AlphaFold) y BakerCiencia · Aprendizaje profundo · aihub.org ↗
- ETH Zurich: un modelo resuelve el 100% de los CAPTCHA de imágenes de reCAPTCHA v2; personas y bots necesitan aproximadamente el mismo número de pruebasCiberseguridad · Ciencia · Prueba de humanidad · arxiv.org ↗
- El Tribunal Administrativo Federal de Austria decide que reCAPTCHA no es técnicamente necesario para el funcionamiento de un sitio y que solo puede activarse con el consentimiento del visitantePrivacidad y vigilancia · Justicia y tribunales · La muerte del CAPTCHA · ris.bka.gv.at ↗
- OpenAI o1: un modelo que «reflexiona» antes de responderCiencia · Modelos de razonamiento · openai.com ↗
- Jeremy Howard propone llms.txt, un archivo en Markdown en los sitios web para los modelos de lenguaje, porque Markdown es hoy el formato que mejor entiendenDesarrollo de software · Internet e infraestructura · Markdown · llmstxt.org ↗
- 32 investigadores de OpenAI, Microsoft, el MIT, Harvard, Oxford y otras organizaciones proponen las «credenciales de humanidad»: el CAPTCHA no sirve contra una IA avanzada, y una verificación de identidad estricta no es lo bastante privadaPrivacidad y vigilancia · Ciberseguridad · Ciencia · Prueba de humanidad · arxiv.org ↗
- Entra en vigor la Ley de IA (AI Act)Leyes y regulación · Regulación de la IA · commission.europa.eu ↗
- Investigadores del Center for AI Safety: muchas pruebas de seguridad de la IA están fuertemente correlacionadas con las capacidades generales de los modelos, y el aumento de capacidades puede hacerse pasar por progreso en seguridadCiencia · Seguridad de la IA · arxiv.org ↗
- AlphaProof y AlphaGeometry 2 de DeepMind resuelven 4 de los 6 problemas de la Olimpiada Internacional de Matemáticas: 28 puntos, nivel de plataCiencia · Educación · IA en matemáticas · deepmind.google ↗
- Shumailov y sus coautores, en Nature: al entrenar indiscriminadamente con texto generado por modelos, los nuevos modelos pierden de forma irreversible las «colas» de la distribución original: es el colapso del modeloCiencia · Medios e información · Modelo de lenguaje grande · nature.com ↗
- El fundador de DeepSeek, Liang Wenfeng: el dinero nunca ha sido un problema para la empresa; el problema son las prohibiciones de envío de chips avanzadosNegocios y mercados · Exportación de cómputo · chinatalk.media ↗
- Epoch AI: la reserva de texto público escrito por personas es de unos 300 billones de tokens; al ritmo actual, el entrenamiento de modelos de lenguaje la agotará por completo entre 2026 y 2032Ciencia · Medios e información · Modelo de lenguaje grande · epoch.ai ↗
- Un estudio de más de 45 sistemas de IA generativa: el término open source se usa mucho, pero muchos modelos son, como mucho, de «pesos abiertos» y ocultan los datos de entrenamiento: «open-washing»Desarrollo de software · Leyes y regulación · Ciencia · Pesos abiertos · facctconference.org ↗
- El IETF publica el estándar Privacy Pass (arquitectura, RFC 9576; protocolos, RFC 9577 y 9578): un dispositivo confirma con un token anónimo que ha pasado una verificación sin revelar de quién esPrivacidad y vigilancia · Internet e infraestructura · La muerte del CAPTCHA · rfc-editor.org ↗
- Epoch AI: el cómputo de entrenamiento de los modelos de IA punteros crece entre 4 y 5 veces al año desde 2010Ciencia · Energía y clima · Modelo de lenguaje grande · epoch.ai ↗
- El comisionado de datos personales de Hong Kong (PCPD) ordena a Worldcoin dejar de escanear el iris y el rostroPrivacidad y vigilancia · Leyes y regulación · Prueba de humanidad · hongkongfp.com ↗ ⧗
- Anthropic descubre cómo se representan millones de conceptos dentro de Claude Sonnet: «la primera mirada detallada» al interior de un modelo de lenguaje grande que funciona en un productoCiencia · Modelo de lenguaje grande · anthropic.com ↗
- Jan Leike deja OpenAI: «la cultura y los procesos de seguridad han quedado relegados a un segundo plano frente a productos brillantes»Trabajo y profesiones · Desarrollo de software · Seguridad de la IA · x.com ↗
- Reeves, Yin y Simperl: en el año siguiente al lanzamiento de ChatGPT, las visitas y ediciones de Wikipedia no cayeron; solo crecieron más despacio en los idiomas donde ChatGPT estaba disponibleMedios e información · Ciencia · Wikipedia después de la IA · arxiv.org ↗
- Permira compra una participación mayoritaria en BioCatch con una valoración de la empresa de $1300 millones; su biometría del comportamiento la usan más de 190 bancosFinanzas y dinero · Ciberseguridad · Negocios y mercados · Biometría del comportamiento · permira.com ↗
- Daron Acemoglu: en 10 años la IA aumentará la productividad total de los factores no más de un 0,66%; resulta rentable automatizar cerca del 4,6% de las tareasTrabajo y profesiones · Negocios y mercados · La IA y las profesiones · nber.org ↗
- El Consejo de Gentoo prohíbe las contribuciones creadas con ayuda de herramientas de IADesarrollo de software · Código abierto · wiki.gentoo.org ↗
- Un agente basado en GPT-4 explota por sí solo el 87% de 15 vulnerabilidades ya divulgadas si se le da la descripción del CVE, y el 7% sin ella (Fang et al.)Ciberseguridad · Ciencia · Búsqueda de vulnerabilidades con IA · arxiv.org ↗
- Stanford AI Index 2024, según estimaciones de Epoch AI: el cómputo de entrenamiento de GPT-4 costó unos 78 millones de dólares y el de Gemini Ultra, unos 191 millones de dólares, a precios de alquiler en la nubeNegocios y mercados · Modelo de lenguaje grande · hai.stanford.edu ↗
- Andres Freund descubre una puerta trasera en el repositorio y los paquetes de xz/liblzma que permite comprometer servidores ssh (CVE-2024-3094)Desarrollo de software · Ciberseguridad · Código abierto · openwall.com ↗
- El regulador portugués CNPD suspende durante 90 días la recogida de datos de Worldcoin: entre las personas escaneadas había menoresPrivacidad y vigilancia · Leyes y regulación · Prueba de humanidad · observador.pt ↗ ⧗
- Cognition presenta Devin, «el primer ingeniero de software de IA»: según la empresa, resuelve por sí solo el 13,86% de las tareas de SWE-bench frente al 1,96% del mejor resultado anteriorDesarrollo de software · Trabajo y profesiones · Agentes de IA autónomos · cognition.ai ↗
- La Agencia Española de Protección de Datos (AEPD) prohíbe a Worldcoin recoger y tratar datos durante un máximo de tres mesesPrivacidad y vigilancia · Leyes y regulación · Prueba de humanidad · aepd.es ↗
- Anthropic lanza la familia Claude 3 (Haiku, Sonnet y Opus); según la empresa, Opus supera a sus competidores en la mayoría de las pruebas habituales, y la ventana de contexto es de 200.000 tokensDesarrollo de software · Negocios y mercados · Modelo de lenguaje grande · anthropic.com ↗
- El Stanford Internet Observatory estudia 120 páginas de Facebook que publicaron al menos 50 imágenes generadas por IA cada una: el feed las muestra incluso a quienes no siguen esas páginasMedios e información · Teoría del internet muerto · fsi9-prod.s3.us-west-1.amazonaws.com ↗
- El regulador británico ICO reconoce como biometría «cómo escribe» una persona; con protección especial cuando sirve para reconocer a una persona concretaPrivacidad y vigilancia · Leyes y regulación · Biometría del comportamiento · ico.org.uk ↗
- Sora: vídeo a partir de una descripción de textoMedios e información · Cultura y arte · Vídeo generativo · en.wikipedia.org ↗
- David Autor: la IA, bien utilizada, puede dar a los trabajadores de nivel medio acceso a decisiones de expertos y reconstruir la clase media; no es un pronóstico, sino un argumento sobre lo que es posibleTrabajo y profesiones · La IA y las profesiones · nber.org ↗
- LangChain presenta flujos multiagente en LangGraph: un «agente supervisor» reparte las tareas entre agentes individualesDesarrollo de software · Orquestación de agentes de IA · langchain.com ↗
- FMI: la IA afecta a casi el 40% del empleo mundial y a cerca del 60% en las economías avanzadasTrabajo y profesiones · Negocios y mercados · La IA y las profesiones · imf.org ↗
- El autor de cURL, Daniel Stenberg, describe los primeros informes de vulnerabilidades con «alucinaciones típicas de IA»; de 415 informes se confirmaron 64 y el 66% no era ni una vulnerabilidad ni un errorDesarrollo de software · Ciberseguridad · Crisis de mantenedores · daniel.haxx.se ↗
- Europol reedita su informe sobre deepfakes y elimina la estimación de la futura proporción de contenido sintético (hasta el 90% en 2026 en la versión de 2022) por proceder de una fuente inexactaMedios e información · Elecciones y política · Teoría del internet muerto · europol.europa.eu ↗
- Harvard Business School: recrear el código abierto de uso extendido costaría 4.150 millones de dólares, pero su valor para los usuarios es de 8,8 billones; sin él, las empresas gastarían 3,5 veces más en softwareDesarrollo de software · Negocios y mercados · Código abierto · hbs.edu ↗