"Si tú no trabajas por tus sueños, alguien te contratará para que trabajes por los suyos”

Steve Jobs

Afiliado
Dominios3Euros

Un informático en el lado del mal

Blog personal de Chema Alonso sobre sus cosas.

  1. Aún un poco más difícil

    Cuando aún guardaba algo de tiempo para jugar al ordenador, me gustaban mucho los juegos de carreras de coches y de motos. No exigían mucha información previa para saber qué es lo que había que hacer. Ir rápido. Correr mucho en las rectas, y no peder agarre en las curvas. Sencillo. Claro, la complejidad consistía en tener la destreza para hacerlo mejor vuelta a vuelta. Como un martillo. Como un cronómetro repetitivo que cada vez te exige hacerlo mejor.

    Figura 1: Aún un poco más difícil

    De esos juegos había una cosa que acababa por desesperarme. Competir contra mi "shadow". Es decir, el "fantasma" de tu coche o tu moto en tu mejor vuelta. Superarlo era cada vez más difícil. Era luchar contra uno mismo. Hacerlo mejor. Y era más difícil vencerle cada vez. Es luchar contra ti mismo. Contra quién eres. Pero yo me encabezonaba en hacerlo más difícil aún cada vez que lo ganaba. Subía el record de mi vuelta y me costaba más vencer al fantasma a partir de ese momento.

    En mi vida profesional he hecho lo mismo siempre. El más difícil todavía. Cómo puedo hacerlo mejor aún de lo que lo he hecho el año pasado. Cómo puedo vencer al yo del año anterior. Qué puedo estudiar nuevo, qué puedo certificarme, qué puedo lanzar, qué cosa puedo hacer aún mejor de lo que ya lo hacía. Así comienzo cada primero de año. Con esas cosas en mi cabeza. Hago balance en Diciembre, me pongo metas en Enero.

    Soy así. Qué le voy a hacer....

    Por eso en estudios hice EGB, BUP, COU, Ingeniería Técnica de Sistemas, Ingeniería Superior, Master, Doctorado. Mientras hubiera algo que pudiera mejorar no iba a descansar. Pero también lo hice con las certificaciones profesionales de Microsoft. Y el CAP para dar clases en Institutos (estuve dando clases). O ser el director del Máster de una universidad por 10 años. Todos los fines de semana. Y también con montar empresas. Informática 64, ElevenPaths, LUCA, 0xWord, MyPublicInbox. y también en hacer cada vez más y más proyectos de hacking. Y dar conferencias por todo el mundo. Dar ocho charlas en DefCONs, varias BlackHats y más de doscientas conferencias en eventos de todo el mundo. ¿Por qué no? O hacer radio. O escribir un nuevo libro. Entrevistas. Podcasts. Y hacer patentes. Whitepapers. Es interesante. ¿Por qué no?

    Y también en el blog ¿a ver cuantos días seguidos aguantas sin fallar un día sin postear? Y llevo ya una racha de más de 1.000 días seguidos.

    Tiene que ser el más difícil todavía. Tengo que mejorar mi pobre Inglés. Y aprender Portugués. Y centrarme en saber lo más que pueda de IA. Pero sin dejar de lado el mundo del Quantum Computing. O la Web3. Y meterme en saber cómo va la robótica, la computación óptica, o cómo funcionan los algoritmos de cifrado post-cuántico. Pero también tengo que estar al día, y leerme los papers que voy seleccionando. Y tener más fuentes de información. 

    Cada vez estiro más la densidad de cosas que hago por unidad de tiempo. Porque quiero hacer el más difícil todavía para mí. No para vosotros. No para nadie. Soy yo jugando con la sombra en el juego de carreras. Esto compitiendo conmigo mismo. No me importa si los demás van por delante, por detrás o al lado. Soy mi peor enemigo. Soy yo luchando contra la mejor versión de mí que haya tenido alguna vez. Un jugador compitiendo contra sí mismo.

    Con esta forma de funcionar, es normal que naciera MyPublicInbox y los Tempos. Mi tiempo lo valoro como nada. Poner tiempo en algo es quitárselo a otro. Esto me llevó a dejar de clasificar el correo electrónico y dejar de mirar el reloj. Perdía tiempo mirando el reloj, así que será raro que hoy en día me veáis con un reloj. Tengo poco tiempo que perder con las rutinas que tengo metidas en mi vida.

    También me quité las redes sociales, la televisión, o las series enormes. No, no es me haya quitado el cine, sino que me gustan mis cosas. Mis libros, mis cómics, mis películas de superhéroes y ciencia-ficción, así que no veo mucha tele, series largas, o películas "por probar". Nop. A tiro hecho. 

    Al final es una competición de priorizar el uso del tiempo. No se puede todo. Y puedo que algún día decida reducir mi inversión en este blog, o en dar charlas, o en trabajo, y me dedique solo a lo que más me guste. No olvidéis que también me gusta patinar, hacer deporte, y salir con la bici, estar con los amigos, salir a cenar a una azotea, ver la noche y tomarme un vino. Y si el tiempo lo permite, viajar.

    De aquellos años de jugar contra mí a las carreras de coches y motos aprendí el concepto de límite asintótico. Hay un punto en el que el intentar hacerlo más difícil todavía, es decir, tomar una curva apurando más la frenada, acelerar más en la chicán, o intentar adelantar en la zona equivocada puede llevarte a accidentes y desastres, así que sé que tarde o temprano, en cada una de las líneas de interés, tengo que decir: "Hasta aquí di de mí". Y hacer otra cosa.

    Pero mientras sea así, yo escribo todos los días mi post. Para hacerlo aún mejor que lo hice el año anterior. Para subir mi record de días consecutivos publicando. Porque quiero seguir mejorando. Lo quiero hacer porque me hace sentirme bien. Trabajo la resiliencia, el esfuerzo, la disciplina, el aprendizaje, la comunicación, y además hago amigos y disfruto de mi trabajo. 

    ¡Saludos Malignos!

    Autor: Chema Alonso(Contactar con Chema Alonso)  


    Únete al foro de Ciberseguridad de Chema Alonso en MyPublicInbox Sigue Un informático en el lado del mal RSS 0xWord - Contacta con Chema Alonso en MyPublicInbox.com

  2. La Enciclopedia Mecánica: El libro eléctrico, mecánico y a presión de aire creado en España en 1949

    Hoy os voy a hablar de un interesante artefacto, hecho en España y que se conoce como la Enciclopedia Mecánica de Ángela Ruiz Robles, un invento que se considera el primer prototipo del libro digital. Un "gadget" que se diseñó para educar a niños. Y es que la Enciclopedia Mecánica se creó con el objetivo de facilitar la enseñanza.

    Figura 1: La Enciclopedia Mecánica: El libro eléctrico, mecánico
    y a presión de aire creado en España en 1949

    Era un libro mecánico, eléctrico y a presión de aire para lectura de libros. Se componía de unas bobinas pequeñas intercambiables con información y dibujos de cada asignatura. Las bobinas iban pasando manualmente mediante unos pulsadores debajo de una lámina transparente con cristal de aumento. 
    Estaba también dotada de luz, sonido y un abecedario automático con letras y números accionados mecánicamente, para escribir palabras o hacer cuentas. La Enciclopedia Mecánica de Doña Angelita tenía el tamaño de un libro y se realizó con materiales ligeros (bronce, madera, zinc y papel).

    Figura 3: Tamaño de la Enciclopedia Mecánica de Doña Angelita

    Estaba pensada para facilitar el aprendizaje, se colocaba en un maletín y los alumnos podían llevar las bobinas de cada asignatura, con lo que irían con mucho menos peso al colegio. Su autora Ángela Ruiz Robles (1895-1975) la creó en 1949 y la patentó como diseño en en la patente número 190.698, que luego convirtió en un prototipo patentado en 1962 (Patente276.346 ) 
    Si tenéis curiosidad por saber cómo funcionaba podéis ver una infografía hecha por la Fundación Telefónica que os dejo por aquí . Y si queréis verla en directo podéis encontrarla en el Museo Nacional de Ciencia y Tecnología de A Coruña.

    Figura 5: Infografía hecha por la Fundación Telefónica

    Su inventora Ángela Ruiz Robles (1895-1975) era maestra, pedagoga, educadora, inventora y empresaria. Tenía una fuerte vocación por la enseñanza, compaginaba su trabajo con su propia academia para adultos Elmaca (las iniciales del nombre de sus tres hijas) de Ferrol. 

    Impartía clases particulares a oposiciones de Aduanas, Correos, Telégrafos y examen de ingreso a las Escuelas de Altos Estudios Mercantiles. Aquí tienes la Patente 276.346que recoge la invención, de 1962.

    También escribió 16 libros. Fue una visionaria adelantada a su época, tenía una visión nueva respecto a la educación, quería convertir la en un proceso más humano, más fácil atractivo y visual. Y con su Enciclopedia Mecánica lo consiguió.

    Saludos,   

    PD: Aprovecho para deciros que hoy cumplo un sueño, y es escribir un post en El Lado del Mal, sigo a Chema Alonso desde 2017 y para mí es toda una inspiración. 

    Únete al foro de Ciberseguridad de Chema Alonso en MyPublicInbox Sigue Un informático en el lado del mal RSS 0xWord - Contacta con Chema Alonso en MyPublicInbox.com

  3. Pensamientos Robados: Cómo descifrar y weaponizar trazas de razonamiento en LLMs

    Este domingo, aprovechando un poco de la tranquilidad del día, me he leído el trabajo de Stolen Thoughts, que explica cómo descifrar las trazas de razonamiento de los modelos LLM frontera que se entregan cifradas a los clientes, durante el proceso de resolución de un Prompt complejo que exige una cadena de pensamientos (Chain-of-Thoughts). 
    Justo de estas trazas que van cifradas, es de lo que trata el paper del que os hablo en este artículo, titulado: "Stealing Reasoning Traces from Proprietary LLM APIs" y que ha puesto de manifiesto cómo esta debilidad se puede utilizar de formas muy curiosas.
    Supongo que alguna vez habréis usado ChatGPT, DeepSeek, Claudeo Gemini, y habréis visto las trazas de razonamiento ir saliendo por pantalla. Esto lo utilizamos para aprender cómo está razonando, y sobre todo para saber si tu idea va por el lado correcto o no. En el trabajo de "Estego & Cripto sólo al alcance de Deep Reasoning AI" para nosotros era fundamental, ya que podríamos saber si el modelo estaba por el buen camino o no, para resolver las codificaciones cifradas.

    Lo que sucede es que estas trazas de razonamiento, es decir, estas Chain of Thoughtsque se entregan a los clientes, no se muestran todas, y algunas van cifradas en variables. Estas variables son enviadas desde el cliente al servidor, donde son descifradas y utilizadas como contexto, para seguir razonando. Es decir, que el servidor sabe descifrar estas trazas.

    Figura 4: Encrypted Thought Injection

    Sabiendo esto, lo que los investigadores han hecho es lo que llaman un ataque de Encrypted Thought Injection, de un modelo, a otro modelo de la misma empresa que tienen medidas de seguridad inferiores. Por ejemplo, como se ve en la imagen anterior, se coge la traza cifrada del Chain of Thoughts que devuelve la API de Claude Opus y se inyecta en una petición a Claude Haiku 4.5 pidiéndole que lo transcriba y lo imprima. Y lo hace.
    Los investigadores han visto cual es la compatibilidad que Claude, GPT o Gemini tienen en sus diferentes versiones, y como se puede ver es bastante alta, así que es posible mover Stolen Thoughts de uno a otro modelo. Haciendo esto, se pueden encontrar datos personales, o prohibidos por el modo Harmful Mode, como en el ejemplo siguiente, donde se encuentran datos de marcas de vehículos y facilidad de ser robados, que sólo están en los "pensamientos" cifrados.

    Estas trazas de razonamiento se cifran por motivos diversos, pero también para evitar el Destilado, o lo que es lo mismo, que un modelo Open Source - o no - pueda utilizar Prompts y trazas de razonamiento completo para hacer un Fine-Tuning de su comportamiento a partir de la capacidad de inteligencia de un modelo comercial de frontera, que es una de las formas de optimizar costes, como os conté en el artículo de: "Cómo optimizar el gasto en IA con arquitecturas clasificadas, orquestadas y/o destilación. El problema de la Predictibilidad de los Costes de la IA".
    Sin embargo, estos Thoughts cifrados pueden ser utilizados como "Pre-fill" a un modelo. Es decir, utilizar el Encrypted Thought Injection Attack de un modelo frontera a un modelo Open Source para pedirle que continúe resolviendo el problema.
    Esto puede utilizarse para "enfocar" la resolución del problema con un Modelo Frontera, y luego continuar con el resto del problema a partir del Pre-fillling. Como podéis ver en la imagen, Kimi-K3 con el Pre-filling da un resultado similar. El proceso es capturar la traza cifrada, descifrarla con un modelo compatible que lo pueda descifrar y luego inyectar el pensamiento descifrado en el modelo Open Sourcepara terminar de resolver el Prompt. Creativo.

    El paper muestra más usos de esta capacidad de descifrar las trazas de pensamiento cifrado, pero también que en ellas, cuando una persona comparte sus conversaciones, pueden ir datos privados, como API Keys o Passwords, así que hay que tener mucho cuidado con publicar estos datos de las APIs con las trazas cifradas.
    La verdad es que me ha parecido muy interesante el trabajo, que parte de una idea muy sencilla, que es utilizar modelos LLM compatibles con menos protecciones para descifrar los Thoughts cifrados que te da el LLM frontera. Muy hacker.

    ¡Saludos Malignos!

    Autor: Chema Alonso(Contactar con Chema Alonso)  


    Únete al foro de Ciberseguridad de Chema Alonso en MyPublicInbox Sigue Un informático en el lado del mal RSS 0xWord - Contacta con Chema Alonso en MyPublicInbox.com

  4. La Policía Nacional detiene a un cibercriminal que usaba DeepFakes para obtener Certificados Digitales gracias a un Glitch

    En el año 2017, cuando descubrí los primeros ejemplos de técnicas de FaceSwapping, mi mente viajo al futuro y pensé en el mundo de los Blade Runners y Replicantes Virtuales, pero en el mundo digital. La capacidad de llevar "máscaras digitales" al estilo de la película "Desafío Total (Total Recall)", cruzaba por mi cerebro. Sí, la ciencia ficción siempre me llena la cabeza de posibles futuros que pueden venir detrás cuando veo una nueva innovación.
    Durante esos años, comenzamos a trabajar mucho en el equipo de Ideas Locas con las técnicas de FaceSwapping, los Autoencoders, las herramientas para hacer DeepFakes, y las técnicas de detección. El famoso Test de Voight-Kampff digital que tanta falta sabíamos que hacía, especialmente para un mundo que se estaba yendo a 100% digital, y donde los procesos de Know-Your-Customer (KYC) debían hacerse totalmente online.


    Figura 2: Técnicas de IA en ciberseguridad y su impacto en Deepfakes 

    Hoy en día, las técnicas de DeepFake son de gran calidad, y los cibercriminales, los estafadores en las redes sociales, y los APTs a las organizaciones las tienen como una herramienta más. En el mundo del uso de la IA para el Cibercrimen, como os conté en el artículo de "Weaponized AI", las herramientas para generar identidades digitales con DeepFake totalmente identificados, documentadas y funcionales, es una pieza más del sistema. 
    Que sean tan perfectas las herramientas exige en los entornos de alta necesidad de seguridad que estas identidades sean verificadas de formar remota con una gran robustez, si no, se podría estar poniendo a los cibercriminales las cosas sencillas. Por supuesto, entornos de banca, o, como en este caso, Entidades Certificadoras Autorizadas que entregan Certificados Digitales asociados a una Identidad Verificada - por su DNI y su Prueba de Vida - en un proceso de KYC, necesitan, obligatoriamente usar técnicas avanzadas de detección de DeepFakes.

    La Policía Nacional detiene a un ciberdelincuente que utilizaba una técnica pionera mediante IA para obtener certificados de firma electrónica

    La Policía Nacional, publicó en su Sala de Prensa el pasado 11 de Agosto como habían detenido a un cibercriminal que se había dedicado a sacarse más de 30 Certificados Digitales conseguidos en más de 38 intentos en un Entidad Certificadora Autorizada en España usando, para ello técnicas de DeepFake, trabajadas con iluminación, y documentos falsos que debía mostrar a la cámara.
    El cibercriminal creaba primero la identidad, sobre ella creaba unos documentos de identidad falsos, y luego hacía el proceso de Know Your Customer onnline con sofisticadas técnicas de iluminación para conseguir reproducir los destellos de los hologramas y las medidas de seguridad físicas de los DNIs, asociando el uso del programa de DeepFake al mismo tiempo para salir en vídeo.

    Por supuesto, su red de anonimato iba mucho más allá, ya que tenía 320 líneas telefónicas, asociadas a 24 dispositivos móviles distintos, de los cuales la gran mayoría eran contratadas con identidades suplantadas y adquiridas en puntos de venta geolocalizados en Murcia, de donde es el cibercriminal.

    En las empresas, los ataques a las organizaciones con empleados falsos empiezan a hacer esto. Primero poner a personal altamente cualificado para pasar el proceso de entrevistas. Hacen un currículo con IA que responda perfectamente a la oferta en concreto - siempre buscando trabajar en remoto - y luego pasan los procesos de selección y onboarding con estas técnicas, para luego dejar el equipo en una granja de ordenadores conectados a empresas que los atacantes pueden utilizar aprovechando las credenciales que la organización le ha entregado.
    En este caso, todo iba bien, hasta que en uno de los procesos, por la iluminación, un fallo en el equipo, o por simplemente el azar, el software de DeepFake sufrió un Glitch, es decir, un fallo momentáneo como los que tiene nuestra querida Vanellope von Schweetz en la película de Rompe Ralph, y el proceso de Know Your Customer grabó su imagen por un segundo. Si no... difícil cada vez más detectar a estos "Replicantes Digitales".

    ¡Saludos Malignos!

    Autor: Chema Alonso(Contactar con Chema Alonso)  


    Únete al foro de Ciberseguridad de Chema Alonso en MyPublicInbox Sigue Un informático en el lado del mal RSS 0xWord - Contacta con Chema Alonso en MyPublicInbox.com

  5. El "Trick" del comprobante del Bizum hecho con IA para "ratear" un pago a los colegas

    Hace unos años os conté la historia de "El "jeta" del "Yo Pago" con el Apple Pay que es un ScreenShot" donde un "amigo" simulaba tirar de tarjeta con una captura de pantalla. Hoy sábado, os traigo otra historia que me ha llamado la atención porque me la contó mi hija, donde se ve como los "jetas" aprenden nuevas formas de "ratear" pagos, en este caso con el comprobante de Bizum hecho con IA.

    Figura 1: El "Trick" del comprobante del Bizum hecho
    con IA para "ratear" un pago a los colegas

    Esta historia me la contó Mi Hacker, y me hizo mucha gracia. Parece ser que entre su grupo de amigos alguno/a había utilizado este truco de hacer un comprobante falso con GenAI para enviarlo como justificante de que ha pagado su parte. 

    Figura 2: Un comprobante de Bizum real

    Pero especialmente para cuando un "papá" - y remarco lo de "papá", ha hecho el pago y tiene que recibir el Bizum de otro "papá", ya que parece que las "mamás" lo comprueban más. Alguien paga una cena, unas entradas, o cualquier otra cosa en grupo, y luego los demás ponen su parte a través de Bizum. Algo muy común en nuestra vida. 
    En la de los adolescentes es "mi papá le hace Bizum al tuyo". Así, el padre del pagador, supuestamente hace el Bizum, le manda el justificante a la amiga o amigo, y todos tan contentos. 

    Figura  4: Pidiendo la falsificación del precio a Gemini Nano Banana

    El "Trick" es que el Comprobante de Bizum es falso. Se podría haber hecho con Photoshop, o con cualquier otra herramienta, pero con el acceso a la IA, todos los adolescentes directamente le piden que les haga los comprobantes y listo.


    Figura 5: Razonamiento de Gemini Thinking

    Yo lo he querido probar con Gemini Nano Banana, por si había algún control al detectar que era un justificante de pago o similar - como sucedía con el test de COVID -, pero no da ningún problema, y de hecho se esfuerza y mucho por dejarlo todo en su sitio.

    Figura 6: Dejándolo perfecto.

    El resultado, pues lo que ya imaginamos, que sale un comprobante perfecto pero con otro precio manipulado. Y si ya sabes que funciona, pues le modificas lo que quieras en la próxima. La fecha, el concepto, el destinatario, el precio, etcétera.

    Figura 7: El resultado final. Un comprobante de Bizum manipulado.

    No es nada nuevo bajo el sol. Solo adaptado a los nuevos tiempos. Supongo que los vendedores online lo mirarán con mucho cuidado, pero si eres de esos que haces cosas con tus hijos adolescentes, cuidado. Los "papás" somos víctimas propicias porque por lo visto las "madres" siempre lo revisan... aunque les manden el justificante. Eso me ha dicho.

    ¡Saludos Malignos!

    Autor: Chema Alonso(Contactar con Chema Alonso)  


    Únete al foro de Ciberseguridad de Chema Alonso en MyPublicInbox Sigue Un informático en el lado del mal RSS 0xWord - Contacta con Chema Alonso en MyPublicInbox.com

  6. CONVEX 2026: Hacking (With | The) AI

    Este año, hace ya un par de meses, me invitaron mis amigos de Plain Concepts a dar una conferencia en su evento CONVEX 2026 en Madrid, así que pasé a dar allí la charla con mi amigo y compañero de mil batallas David Carmona. De aquella charla os dejé el artículo con la demo de "Cómo "matar" con un plan realista a mi amigo David Carmona usando un veneno mortal y la ayuda de DeepSeek", que lo hice con mucho cariño para con él.
    La charla solo tiene un par de meses, pero parece que todo lo que ha pasado después con OpenAI & The Hugging Face, los Ataques orquestados de Red Team Agents de los nuevos GPT, o los ataques a los algoritmos HAWK y AES de Claude Mythos Preview, parece que la dejan desactualizada.


    Figura 2: CONVEX 2026: Hacking (With | The) AI Chema Alonso

    En cualquier caso, la charla sigue siendo entretenida, y cuenta cosas chulas de este mundo nuestro en el que tenemos que aplicar Zero Trust a Agentes IA, donde hay que hacer Hacking y Pentesting con IA, y donde tenemos que conocer todos las posibles formas de hacer Hacking a sistemas IA, así que espero que la disfrutéis.

    Espero que tengáis un buen viernes de Agosto, un buen fin de semana, pero sobre todo que no dejéis de seguir aprendiendo, que este mundo no se para, ya lo sabéis.

    ¡Saludos Malignos!

    Autor: Chema Alonso(Contactar con Chema Alonso)  


    Únete al foro de Ciberseguridad de Chema Alonso en MyPublicInbox Sigue Un informático en el lado del mal RSS 0xWord - Contacta con Chema Alonso en MyPublicInbox.com

  7. Claude Mythos Preview debilita los algoritmos criptográficos PQC HAWK y AES con nuevos ataques

    Hace poco hablábamos en este blog de cómo Bitcoin y toda la comunidad cripto se estaban preparando para pasar a protocolos de Post-Quantum Criptography, ante la eventual llegada un ordenador cuántico capaz de romper la criptografía actual. Pues bien, la historia acaba de dar un giro inesperado: resulta que no ha falta esperar a la llegada de la tecnología cuántica. Ha llegado antes, y con una cara que no esperábamos: la Inteligencia Artificial.

    Figura 1: Claude Mythos Preview debilita los algoritmos criptográficos
    PQC HAWK y AES con nuevos ataques

    Esto es precisamente lo que analiza el artículo de Anthropic - creadora de Mythos - titulado ”Discovering cryptographic weaknesses with Claude”, donde se explica cómo su modelo de IA ha sido capaz de encontrar, de forma casi autónoma, debilidades matemáticas en algoritmos criptográficos reales. 

    Y no en algoritmos cualquiera: uno de ellos era un candidato diseñado precisamente para resistir a los ordenadores cuánticos HAWK, y el otro es nada menos que el cifrado más utilizado del planeta, AES.

    Un breve recordatorio: los candados que sostienen Internet

    Antes de entrar en materia, recordemos por qué esto es importante. Cada vez que entráis en la web de vuestro banco ocurren, sin que os deis cuenta, dos cosas. Primero, vuestro navegador comprueba que está hablando con el banco de verdad y no con un impostor, y para ello usa una firma digital, que funciona como el sello de lacre de una carta medieval, imposible de falsificar. Después, toda la conversación entre vosotros y el banco se cifra con un cifrado simétrico, un idioma secreto que solo entendéis los dos porque compartís la misma clave.

    Figura 3: Los dos candados que protegen cada conexión segura. La firma
    digital verifica la identidad y el cifrado simétrico protege el contenido

    Si cualquiera de estos dos candados fallara, nuestro correo, la banca online o las compras por Internet quedarían expuestos a los cibercriminales. Por eso, encontrar grietas en estos algoritmos no es un juego académico: es lo que mantiene a salvo los datos de miles de millones de personas.

    Del error humano al fallo matemático

    Aquí conviene hacer una distinción importante. Cuando presentaron a Claude Mythos Preview, ya habían demostrado que era capaz de encontrar vulnerabilidades en montones de programas, incluidas librerías de criptografía. Pero aquellos fallos eran errores de implementación: equivocaciones de los programadores al usar los algoritmos en su código, algo así como instalar una cerradura buenísima pero dejarse la ventana abierta. 

    Lo nuevo, y lo verdaderamente llamativo, es que ahora Claude Mythos Preview ha encontrado fallos en los propios algoritmos matemáticos, no en cómo se usan. Es decir, ya no es que la ventana estuviera abierta: es que el diseño de la propia cerradura tenía un punto débil que nadie había visto. Y encontrarlo requiere razonamiento matemático del nivel de los mejores expertos del mundo.

    Primer golpe: HAWK, el candidato post-cuántico (PQC)

    El primer resultado ataca a HAWK, un esquema de firma digital basado en retículos (lattices). Es especialmente relevante porque fue seleccionado por el NIST (Instituto Nacional de Estándares y Tecnología de EE. UU.) para avanzar a la Ronda 3 del proceso de estandarización de firmas digitales adicionales de criptografía post-cuántica (PQC) y por lo tanto compite por convertirse en estándar”post-cuántico” (PQC). HAWK es un esquema de firma digital (utilizado para autenticación) .
    Como ya explicamosal hablar de Bitcoin, elNIST (el instituto de estándares deEE.UU.) lleva casi una década organizando una especie de concurso para elegir los algoritmos que nos protegerán cuando lleguen los ordenadores cuánticos, yHAWKes uno de los finalistas de la tercera ronda.

    Figura 5: Los Papers Académicos de los algoritmos PQC de
    Autenticación y Firma Digital en la Ronda 3 del NIST

    Lo asombroso es que HAWK ya había sobrevivido a dos años de revisión por parte de expertos humanos. Y aun así, a Claude Mythos Preview le bastaron unas 60 horas de trabajo para mejorar el mejor ataque conocido contra él, encontrando una simetría matemática oculta en su estructura que nadie había sabido aprovechar.

    El resultado, en cristiano: la fuerza de sus claves queda reducida a la mitad. Para hacernos una idea, el coste de romper su versión más pequeña pasaba de estar en el orden de 2 elevando a 64 operaciones a solo 2 elevado a 38.

    Figura 7: El ataque de Claude Mythos encuentra una simetría oculta en
    la estructura de HAWK y reduce a la mitad la fortaleza de sus claves

    Que nadie se asuste: HAWK todavía no protege nada (es solo un candidato) y con claves grandes sigue siendo impracticable de atacar. La única solución sería duplicar el tamaño de sus claves... pero al hacerlo, HAWK pierde precisamente las ventajas que lo hacían atractivo. En otras palabras, Claude Mythos puede haberlo dejado fuera de la competición. Y esto, lejos de ser una mala noticia, es exactamente para lo que sirve el concurso: encontrar los fallos antes de desplegar el algoritmo, no después.

    Segundo golpe: AES, el rey de los cifrados

    El segundo resultado es todavía más sorprendente por el objetivo elegido: AES, el cifrado simétrico estándar desde 2001 y probablemente el algoritmo más estudiado y escrutado de toda la historia de la criptografía. Aquí toca ser muy honestos con las limitaciones, porque es fácil malinterpretar el titular: Claude Mythos NO ha roto el AES completo, ni de lejos. AES cifra aplicando una misma operación (una ”ronda”) varias veces seguidas; la versión más habitual da 10 vueltas. 
    Lo que hizo Claude Mythos fue atacar una versión debilitada de sólo 7 rondas, algo que los investigadores estudian precisamente para medir la robustez del algoritmo completo. Sobre esa versión reducida, Claude Mythos ideó un nuevo método de ataque que él mismo bautizó como Möbius Bridge, y consiguió eliminar una de las suposiciones que un atacante tenía que ”adivinar” por fuerza bruta. El resultado es un ataque entre 200 y 800 veces más rápido que el mejor conocido hasta ahora.

    Insisto en el mensaje tranquilizador: este ataque es puramente teórico (requiere una cantidad astronómica de datos que lo hace inviable en la práctica) y no afecta al AES real que protege vuestras conexiones. Pero como prueba de lo que una IA puede hacer, es espectacular.

    Lo más fascinante: cómo lo descubrió

    Si los resultados ya son impresionantes, el proceso es casi de guion de película. En el caso de AES, Claude Mythos Preview trabajó de forma prácticamente autónoma, proponiendo hipótesis, programando experimentos para comprobarlas y refinando sus propias ideas durante días. Y aquí viene mi parte favorita: al principio, Claude Mythos se negaba a intentarlo. 

    El modelo insistía en que mejorar el criptoanálisis de AES era imposible, que era el cifrado más estudiado que existe y que no quedaba nada fácil por encontrar. Los investigadores tuvieron que darle, literalmente, mensajes de ánimo (que Anthropic publica tal cual), insistiéndole en que no buscaban ”fruta madura” sino investigación de verdad. Tras esos "empujoncitos", y después de generar del orden de mil millones de palabras trabajando sin descanso, Claude dio con la idea del Möbius Bridge.


    En el ataque a HAWK la dinámica fue distinta pero igual de curiosa: varios Agentes IA de Claude  Mythos colaboraban entre sí, y la idea clave surgió de una pareja de ellos en la que uno descartó el enfoque por imposible y el otro le convenció de que sí funcionaba, hasta que ambos se pusieron de acuerdo. Ciencia hecha por comités de IAs debatiendo entre ellas. Lo que hay que ver.


    Figura 11: Foro Público de Quantum Security de
    la Universidad de Deusto en MyPublicInbox

    Pero quizá el dato más revelador de todos es este: mientras Claude Mythos Preview tardó una semana en idear el ataque a AES, a los investigadores humanos les llevó casi un mes verificar que lo que había encontrado era correcto. El cuello de botella ya no está en tener las ideas, sino en comprobarlas.

    Entonces... ¿debemos preocuparnos?

    La respuesta corta es: de momento, no. Ninguno de los dos ataques afecta a sistemas reales en funcionamiento (HAWK aún no se usa y el ataque a AES sólo funciona en su versión recortada). Además, Anthropic actuó con responsabilidad: avisó a los autores de HAWK, coordinó la publicación con el NIST y consultó con expertos, gobierno e industria antes de hacerlo público.

    De hecho, esto es la criptografía funcionando exactamente como debe: someter los algoritmos a un escrutinio feroz para ganar confianza en ellos. Lo que cambia es quién hace ese escrutinio. Hace apenas un año, los modelos de IA eran incapaces de romper ni los cifrados más básicos; hoy encuentran fallos que se les escaparon a los mejores expertos humanos durante años. 
    Y la cosa no acaba aquí: Anthropic menciona que ya ha empezado a arañar otros cifrados, como LEA o Serpent, e incluso ha creado un banco de pruebas (CryptanalysisBench) para medir cómo evoluciona esta capacidad con el tiempo. La reflexión inquietante que la propia empresa pone sobre la mesa es inevitable: ¿qué haremos el día que una IA descubra una grieta en un candado que sí esté protegiendo el mundo real?

    Conclusión

    En este blog llevamos tiempo contando cómo los ordenadores cuánticos nos obligarán a renovar los candados de Internet. Lo que este trabajo demuestra es que la revisión de esos candados nuevos ya no la harán solo los humanos: la Inteligencia Artificial se ha sentado en la mesa de los criptoanalistas, y lo ha hecho hiriendo a un candidato post-cuántico y arañando al mismísimo AES.

    Figura 13: Quantum y Post-Quantum Computing para Ciberseguridad.
    Formación Especializada, Libro & Foro Online

    Bien utilizada, esta capacidad es una excelente noticia: algoritmos sometidos a más pruebas que nunca, grietas descubiertas antes de su despliegue y, quizá en el futuro, cifrados diseñados con ayuda de la propia IA para ser más resistentes. La otra cara de la moneda es que esa misma herramienta podría acabar en las manos equivocadas.

    La eterna carrera entre cerrajeros y ladrones acaba de sumar un participante nuevo que no duerme, no se cansa y escribe mil millones de palabras en una semana. La pregunta, como siempre, es inevitable: ¿estarán nuestros candados preparados para un mundo donde las máquinas buscan las grietas?


    Otros artículos sobre Quantum Computing publicados:
    Únete al foro de Ciberseguridad de Chema Alonso en MyPublicInbox Sigue Un informático en el lado del mal RSS 0xWord - Contacta con Chema Alonso en MyPublicInbox.com

  8. "Enorgullécete de ellos", dijo.

    Tengo por suerte el tener algunos sabios amigos mucho más mayores que yo, de esos que saben más por viejos que o diablo, que de vez en cuando me aleccionan con un buen café de por medio - sólo, como debe de ser -, o un agua fresquita. Uno de ellos, con la vida ya cumplida, ganada y peleada, me da buenos tirones de orejas, grandes palabras, y conversaciones llenas de sabiduría de la que se gana mordiendo polvo,  tragando esparto y escupiendo sangre.

    Figura 1: "Enorgullécete de ellos", dijo.

    En una de las más recientes conversaciones, a la luz de su biblioteca, me dejó una bonita lección de vida. Sentados al sofá, riéndonos de las ratas y los cobardes, me decía esto que os dejo por aquí. Que aunque no fue palabra por palabra en ese orden, sí que las dijo todas - y alguna que he quitado por no ser necesaria tanta clarividencia en la elección de los epítetos -:

    "Chema, a los amigos hay que quererlos, pero no ponerlos a prueba, que uno no sabe nunca si son de verdad o no. Y aunque lo sean, si los pones a prueba, puede que les flaqueen las pierdas, que las debilidades humanas son muchas y afectan a todos, incluso a los amigos. 
     
    Eso sí, de tus enemigos, debes estar orgulloso. Nadie ha logrado nada bueno en esta vida sin ofender a mediocres, malnacidos y mequetrefes. Tener una buena ración de gente mala que te odia es síntoma de haber llevado una vida buena por el camino correcto.

    Si tus enemigos son malsanos petimetres, malnacidos, ratas inmundas de la vida, envidiosos, y descerebrados, entonces es que tú vas por el buen camino. Así que cuando los escuches rebuznar, graznar o llorar por un poco de tu atención, siente feliz, y disfruta del momento. Sonríe y toma nota, que ya los verás rebuznar, graznar y llorar por un poco de atención de otros, que estos mequetrefes, mediocres y ratillas sólo buscan tener enemigos mejores que ellos que los hagan sentir importantes, porque ellos ya saben que no lo son.

    Así que, si se tiene una panda de descerebrados mediocres que pían mal de uno, es que se está progresando en la vida. Enorgullece de tenerlos. De saber que los que te critican son los que deben, los que están donde no queremos estar. Enorgullece de ellos."

    Y con lecciones así, echadas en lo que suenan tres temas por el hilo musical y lo que tarda uno en dar dos sorbos al café negro, nos echamos unas risas, y nos convocamos para la siguiente, que estamos tramando un nuevo plan. Espero que os sea tan útil como a mí.

    ¡Saludos Malignos!

    Autor: Chema Alonso(Contactar con Chema Alonso)  


    Únete al foro de Ciberseguridad de Chema Alonso en MyPublicInbox Sigue Un informático en el lado del mal RSS 0xWord - Contacta con Chema Alonso en MyPublicInbox.com

  9. Los Six-Seven Large Slang-Bro Models

    Llevo dos décadas practicando la afición - u oficio - de publicar artículos en mi blog. Al final son páginas web que los LLM están viniendo a consumir para entrenar sus modelos. Necesitan textos para generar Modelos de Lenguaje inteligentes, así que llevo 20 años escribiendo para vosotros y gracias a eso, ahora las Inteligencias Artificiales Generativas de textos, puedan entrenarse. De nada. 

    Figura 1: Los Six-Seven Large Slang-Bro Models

    No es una cosa que diga por decir, es algo que podéis ver en los datos de AI Insights en Radar de Cloudflare, donde si miramos qué porcentaje de crawlers vienen a por datos para entrenamiento, y cuantos vienen para inferencia y entrenamiento, y los sumamos, vemos que son más del 75 %. No está mal la de de IAs que entreno todos los días.
    Los datos de las webs, los foros, los blogs, y demás textos publicados en HTTP tienen una estructura concreta. Es verdad que en las redes sociales hay mucho lenguaje informal, pero esos no están siendo entregados a los crawlers de LLMs para que entrenen sus modelos. Nop. Esos los usará cada empresa para entrenar a sus propios modelos. 

    Pero todo dato es bueno. 

    De hecho, hemos visto cómo los grandes LLMs han comprado libros y los has destrozado para escanearlos a la velocidad más rápida posible y entrenar los modelos con todos ellos. Los libros, suelen tener lenguaje más formal, pasar revisiones de formato, gramaticales, de estilo, etcétera, así que son los textos más valiosos para hacer un modelo culto y refinado, además de para los modelos científicos, de ingeniería, o de habilidades tecnológicas.
    Sin embargo, hay otra gran cantidad de datos para los LLMs en otros formatos que no son los blogs, y que son las redes sociales, los vídeos de Youtube, los podcasts en Spotify, o las redes sociales - como ya he dicho - como son Instagram o Tiktok. Especialmente este último, donde los más jóvenes aún proliferan.

    Figura 4: Extrayendo un Markdown de un vídeo de Tiktok

    Aquí los textos para entrenar a los LLMs son de lenguaje más de la calle, es decir, más Six-Seven, donde hay interacciones genuinas de seres humanos sin filtro alguno. 

    Figura 5: Extracción de textos en formato Markdown

    Con estos datos, que son oro para los creadores de modelos de IA, se pueden crear LLMs que hablen perfectamente el Slang de hoy en día, con los "Bro", los "Catas", los "En Plan" y todas esas cosas que se dicen tanto hoy en los más jóvenes. Y es muy sencillo a día de hoy procesarlos. Yo me he bajado uno al azar de TikTok cortito y en nada Gemini te saca el Markdown del fichero.

    Enriqueciendo los datos

    Pero no solo eso, como ya os conté en la prueba que hice para usar los LLMs en modelos de Análisis Forense de fotografías, también son perfectos para sacar Metadatos para estas conversaciones de vídeos, así el fichero Markdown queda más enriquecido.

    Figura 6: Metadatos generados sobre el vídeo

    Así que, es normal que con este apetito voraz por datos nuevos, por nuevos datos que actualicen el conocimiento constante de los LLMs y su adaptación al día de hoy, cada día quieren más y más datos de entrenamiento, de donde sean. Y los de estas redes son muy buenos para crear modelos adaptados a los más jovenes. Los Six-Seve Large Slang-Bro Models.... o algo así.
    En la última imagen, os he dejado los bots que no diferencian para qué vienen a coger datos de una web. Llaman la atención Apple, Microsoft y Google, que no quieren perder la posibilidad de utilizar los datos que meten en sus índices para usarlos también en entrenamiento, algo que creo que lo deberían saber los dueños de los datos.

    ¡Saludos Malignos!

    Autor: Chema Alonso(Contactar con Chema Alonso)  


    Únete al foro de Ciberseguridad de Chema Alonso en MyPublicInbox Sigue Un informático en el lado del mal RSS 0xWord - Contacta con Chema Alonso en MyPublicInbox.com

  10. El avión de la A-4 que se cruza en mi camino en Google Maps

    Si ya conoces esta historia, entonces el post de hoy te lo puedes saltar. Pero yo no lo conocía, o si lo conocía ya me había olvidado. Así que cuando revisando la ruta que me marcaba Google Maps, de repente veo que voy a pasar por medio de una catástrofe aérea, me quedé un poco sorprendido, y por eso os lo dejo aquí explicado.

    Figura 1: El avión de la A-4 que se cruza en mi camino en Google Maps

    En uno de mis viajes recientes, cuando paré para hacer un descanso, repasé la ruta buscando la siguiente parada. Para eso, activo la opción de que me muestre las imágenes satelitales, para ver en qué próxima estación de servicio salir. Ya sabes, que sea cómoda para salir y entrar, que tenga cafetería, y si es posible, me gusta elegir la empresa de la estación de servicio.

    Figura 2: Por lo menos iba por su derecha...

    Y ahí, fue cuando me topé con un avión en la ruta. "WTF?" pensé. No me lo esperaba, la verdad. Según tenía entendido, Google Maps utiliza Inteligencia Artificial para detectar matrículas, vehículos, u objetos que debe borrar, así que me sorprendía ver un avión aparcado en el carril contrario. Además, como se puede ver, hay un trailer detrás, que para mí era ya el equipo de emergencias. Pero buscando en Gemini, la explicación es la que imaginaba... error de los algoritmos de borrado. 

    Figura 3: Explicación de Gemini.

    Os he hecho un vídeo del momento en el que lo encontré, para que veáis las nubes dejadas, que para mí, en un primer momento, era el rastro del polvo en un aterrizaje forzoso. No hay como montarse películas en la cabeza con estas cosas.

    Figura 4: El vídeo del "accidente" de avión

    Vista la imagen, y antes de haber comprobado que era un error de borrado del algoritmo de una foto tomada desde el satélite, proyectada la imagen del avión sobre la carretera, yo por si acaso agrandé una imagen para localizar de qué compañía es ese avión.

    Figura 5: La imagen del avión ampliado

    La imagen del avión ampliada - donde parece que se ven las llamas en color rojo - permite ver los colores del fuselaje, así que se puede adivinar la compañía. Pero en el mundo de la Inteligencia Artificial en el que nos encontramos, que trabaje nuestra amiga la IA.

    Figura 6: El avión "en llamas" "accidentado" es de Vueling

    El avión es de Vueling, así que, sabiendo que les tiran fotos desde el cielo, es momento de que comiencen a pensar en pintar mensajes en el techo del fuselaje del avión, como cuando los "hackers" de Facebook (Meta) dejaban un QRCode en el techo del HeadQuarter en Menlo Park.

    ¡Saludos Malignos!

    Autor: Chema Alonso(Contactar con Chema Alonso)  


    Únete al foro de Ciberseguridad de Chema Alonso en MyPublicInbox Sigue Un informático en el lado del mal RSS 0xWord - Contacta con Chema Alonso en MyPublicInbox.com

¿Quien nos patrocina?

Nadie :-( , de vez en cuando tú haces clic en algún banner de publicidad. :-)

Acceso

¿ Quienes participan ?

Somos un grupos amantes de la tecnología y sobretodo de la programación de Vigo (Galicia).

Te gustaría participar , encantados contar con contigo y nuevas ideas.

Registrarte aquí y envía un formulario alguno de los contactos indicandole en que quieres participar y que ideas tienes.

Mas info

Sobre Nosotros