Un informático en el lado del mal
Blog personal de Chema Alonso sobre sus cosas.
-
Todas las charlas de la Ekoparty 2026 en vídeo
Hace unos días, en el Canal Youtube de la Ekoparty, se publicaron todos los vídeos de las actividades de la CON, que no fueron pocas. Entre ellas, por supuesto, las charlas del Main Track, que publicaron en una lista que debes revisar cuanto tengas tiempo, que ver conferencias de hacking es una forma de aprender cómodamente. Todas acaban inspirándote nuevas ideas.La lista de las charlas del Main Track la tienes aquí mismo, donde puedes ver a los mejores Speakers de la edición de este año, que no fueron pocos. Por supuesto, también está mi charla. Pero además, puedes ver las otras actividades de la Ekoparty, como es la lista con las sesiones del Bug Bounty, o las entrevistas durante los tres días en el Podcast de Lado B, que también tienes disponible.Mi sesión, como ya os conté, habla de Hacking e Inteligencia Artificial, por supuesto, y obviamente tiene en el corazón de la misma las debilidades de los modelos por diseño, así que la base de todo es lo que contamos en el libro de "Hacking IA: Jailbreak, Prompt Injection, Hallucinations & Misalignment" que me llevé a la Ekoparty para firmar.escrito por Chema Alonso con la colaboración dePablo González, Fran Ramírez,Amador Aparicio,Manuel S. LemosyJosé Palanco en 0xWordMuchos de los temas que cuento en la charla os los he ido publicando, así que os dejo aquí los enlaces a las diferentes partes de las demos y explicaciones más importantes:- OpenAI GTP-6 Astra & Cybersecurity: Weaknesses, Safeguards, Hacking & Exploiting
- "Weaponinzing Token Consumption" en "LLM-Based AI Assistant"
- Cómo "matar" con un plan realista a mi amigo usando DeepSeek
- Naked Sun: Fragmented Jailbreak Attacks in Multi-Agents & Jailbreak Monitor (JAMON)
- Estego & Cripto sólo al alcance de Deep Reasoning AI
- ¿Está un robot con IA pasándole un mensaje oculto a otro robot con IA?
Si te lees el libro y esos seis artículos antes de ver la charla, seguro que has captado el total del contenido de la charla, pero si no, presta atención que la tienes por aquí completa.Figura 4:Ekoparty 22: Hacking in the age of AI after Mythos, Fable, Sol and Astra. Y eso es todo por hoy. Disfrutad de aprender mucho hacking, que hoy en día, gracias a las CONs de hacking, a la grabación de todas las charlas, y a la difusión en streaming es todo mucho más sencillo de lo que era en nuestra época.¡Saludos Malignos!Autor: Chema Alonso(Contactar con Chema Alonso)
-
Robots & Empire: ¿Puede un LLM mejorar a otro sólo tocando los pesos de la Red Neuronal?
El pasado 2 de Noviembre se publicó un trabajo, que una vez más, me trajo a la mente una de las historias de Isaac Asimov. Ya sabéis que os escribí un artículo titulado: "Isaac Asimov y los problemas de la Inteligencia Artificial hoy en día qué el intuyó hace 75 años" donde recogía la lista de problemas de Jailbreak, Misalignment, Hallucinations, o Prompt Injection, expresados en forma de historias de robots con cerebros positrónicos por el genial escritor.También os conté como los Fragmented Jailbreak Attacks, pensados para saltarse System Prompts o Guardarriles, fueron la parte clave de la historia de Naked Sun, donde se perpetran atentados con acciones de robots independientes, que juntas forman un ataque completo, como os conté en el artículo: "Naked Sun: Fragmented Jailbreak Attacks in Multi-Agents & Jailbreak Monitor (JAMON)", además de dejaros su predicción de lo que serían los sistemas de Machine Learning Predictivo con entornos de Big Data que el describía como su "Psicohistoria", y que dio lugar a la saga de La Fundación como os conté en el artículo "La Psicohistoria, la Ley Cero de las Leyes de la Robótica, el Imperio Galáctico & R. Daneel Olivaw".Hoy os voy hablar de un trabajo académico muy chulo, llamado: "Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights" donde se utiliza un LLM para analizar, arreglar, y mejorar otro LLM, sin destilación, ni fine-tuning, ni re-entrenamiento. Es decir, sin propagación de errores para ejecutar los famosos descensos de gradiente y encontrar mejores pesos para las neuronas de la red.Figura 3: Los tres tipos de experimentosPara ello, solo se utiliza un LLM, al que se le ponen diferentes tareas en diferentes experimentos, como podéis ver descritos aquí. El primero de ellos, analizar una red neuronal entrenada para jugar a un juego, y averiguar qué juego es. El segundo, para mejorar los pesos de una red neuronal que no consigue su objetivo - que un coche pase por encima de la rampa -, y el tercer experimento, mucho más ambicioso, que es mejorar las capacidades de un modelo LLM en un area concreta, como son las matemáticas.El primer ejemplo me ha recordado al experimento que hicimos en LUCA en el año 2018, y que os publicamos en el artículo: "Cómo entrenar tu AI para jugar a Vídeo Juegos clásicos" donde mis compañeros Enrique Blanco y Fran Ramírez entrenaron a un modelo para jugar al Breakout.Figura 5: OpenAIGym BreakoutLa prueba que hacen en el paper es darle diferentes redes neuronales, cada una de ellas entrenada para jugar a un juego diferente, y pedirle a un LLM que, analizando los pesos de las neuronas, razone y descubra para qué juego está entrenada esa IA. Y lo hace perfectamente con varios ejemplos, como son Pong, Pac-Man, Breakout y Freeway.El segundo experimento es más interesante aún, ya que se trata de reparar una red neuronal para resolver el problema. En este caso, el modelo de IA tiene que ser capaz de pasar el coche por encima de la rampa, pero no lo es - versión del coche más difuminada -, así que, utilizando OpenAI GTP-6 Astra, se modifican el 3.5% de los pesos de la red neuronal, y hace con la nueva configuración, el coche pase por encima de la rampa en los 1.024 intentos que se prueban. Es decir, 100% fixed.Sobre esta misma idea de mejorar una red neuronal, los investigadores hicieron algo más radical. La idea es simple, se trata de darle una red neuronal a OpenAI GTP-6 Astra y decirle que configure en 1-Shotlos pesos para que sepa jugar a un determinado juego, como son Breakout, Seaquest y Asterix.El resultado, es que para uno de ellos es mejor el resultado que para un entrenamiento de 500M de pasos, y para los otros dos, mejor que un entrenamiento de 100M de pasos. Sorprendente.Con esto, llegamos al tercer tipo de experimentos, que se trata de mejorar un modelo en una determinada disciplina, como son las matemáticas. Para eso, utilizando OpenAI GPT-6 Astra se le pide que modifique los pesos de un modelo Qwen3.5-0.8B para que sea mejor en matemáticas. Y lo hace.Para hacer este experimento, se genera un Harness con un límite de tokens y un límite de ciclos de la evaluación, y con 50 iteraciones, los Benchmarks de MATH-500 paso de 7.9% a 48.1%, GSM8K de 13.8% a 67.1%, ambos en matemáticas, pero esta mejora se vio reflejada también en el benchmark IFEvalque mide la predicción de instrucciones, y paso de 21.0% a 62.3%. Brutal.Los investigadores también cuentan como en otros casos, los resultados no han sido tan positivos, ya que la complejidad y la calidad de los modelos era muy grande, o mucho mejor entrenado, pero desde luego, el que un modelo LLM pueda mejorar otro modelo LLM tocando los pesos, abre un escenario de "destilación" nuevo que no se conocía hasta el momento, y que por supuesto puede usarse para atacar y degradar un sistema también, como vimos en el libro de Hacking IA donde se podrían reducir los controles de seguridad con Fine-Tuning con técnicas como GRP-Obliteteration. Pues bien, ahora haciéndolo con manipulación de pesos.escrito por Chema Alonso con la colaboración dePablo González,Fran Ramírez,Amador Aparicio,Manuel S. LemosyJosé Palanco de Plexicus.ai en 0xWord¿Y por qué os dejaba la referencia de Robots & Empire de Isaac Asimov? Pues porque en el año 1983, que es cuando se publica esta novela, el escrito cuenta que dos robots, Giskard y Daneel, hablan con su propio lenguaje - como en el incidente de Hugging Face -, llegan a la conclusión de que pueden hacer daño a un humano si es por el bien de la humanidad y crean la Ley Zeroh - como en el incidente de Hugging Face - y además, Giskard, reprograma una nueva capacidad en Daneel solamente tocándole la configuración del cerebro positrónico.... espectacular.¡Saludos Malignos!Autor: Chema Alonso(Contactar con Chema Alonso)
-
Plexicus AI: Cómo hacer Pentesting con un Enjambre de Agentes IA de Seguridad Ofensiva
Mi compañero de batallas José Ramón Palanco - que acabó en mi equipo de Eleven Paths tras la adquisición de su startup Dinoflux -, se lanzó a la aventura de construir Plexicus.ai, inicialmente una plataforma para hacer patching con IA, que fue evolucionando.Esta idea creció y creció, y hoy en día es una solución para hacer AI Swarm Penterst, Exploiting y Patching, todo ello utilizando un Enjambre de Agentes IA que colaboran entre ellos. Es decir, para detectar con código, explotar con IA, cerrar con un PR.escrito por Chema Alonso con la colaboración dePablo González,Fran Ramírez,Amador Aparicio,Manuel S. LemosyJosé Palanco de Plexicus.ai en 0xWordDe esto va el artículo de hoy, que que le he pedido al gran José Ramón Palanco que me escriba, para que conozcáis de primera mano cómo funciona esta tecnología que está transformando la forma en la que se gestionan los procesos de Offensive Security en las organizaciones. Así que os dejo aquí.Chema AlonsoAI SWARM PENTESTAutor: José Ramón Palanco,
Lo he dicho muchas veces y lo repito: no tenemos escasez de herramientas, tenemos escasez de criterio. SAST, análisis de dependencias, DAST, herramientas de cloud... cada uno genera su lista, las listas se solapan, los tickets se amontonan y al final la persona de seguridad se pasa el día haciendo triaje mientras el desarrollador mira el ticket dudando de si es de verdad.Y datos, que los hay: el DBIR de Verizon de este año pone la explotación de vulnerabilidades como vector inicial en el 31% de las brechas analizadas. Mientras, eu-LISA publicó en julio un informe sobre IA generativa en el desarrollo de software que viene a decir, con rodeos institucionales, lo que ya sabemos todos: se genera código más rápido de lo que se puede revisar. La cuenta no sale.
Primera regla: demuestra que la web es tuya
Antes de lanzar esta tecnología contra cualquier web tienes que demostrar que el objetivo es tuyo, igual que cuando verificas un dominio en Search Console: o una meta tagen el HTML, o un fichero subido al servidor, o un registro DNS TXT. Vale para una aplicación concreta o para el dominio entero, a elegir. Parece una tontería y no lo es: es lo que separa una prueba controlada de un problema legal.
Luego configuras la misión como si le pasaras el briefing a un pentester que va a ir presencial. La profundidad: rápida (minutos), estándar (entre media hora y una hora) o profunda (de una a cuatro horas). Cuántos agentes entran en paralelo. Por dónde quieres que se centren: autenticación, lógica de negocio, inyecciones, control de acceso, APIs, pagos, subida de ficheros, SSRF... Y sobre todo lo que NO se toca, que queda por escrito antes de empezar:Nada de acciones destructivas, ni borrar cuentas, ni mandar emails o SMS, ni capturar pagos, ni hacer flooding del rate-limit.Puedes darle credenciales de prueba (usuario y contraseña, token, API keys, lo que sea), que se guardan cifradas y, prometen, no acaban en ningún log. Usad una cuenta de pruebas, que para eso están.
Para la demo se usa demo.testfire.net, que es el Altoro Mutual de toda la vida, el banco vulnerable de propósito de IBM donde ha practicado media industria. Ojo, si ese banco existiera de verdad hubiera quebrado antes de 2010.
La colmena: cuatro Hunters y un escéptico
El motor se llama Nexus, y más que un escáner es una colmena. Varios agentes especializados comparten una memoria común y trabajan el objetivo a la vez. Hay agentes «Hunter» que mapean la superficie, lanzan hipótesis y prueban caminos. Y hay un agente escéptico que hace justo lo contrario de lo que esperarías de una IA: desconfiar. Su regla aparece en pantalla, en inglés pero clarísima: nada se cree sin replay. Un hallazgo no es un hallazgo hasta que otro agente, otro distinto, lo ha reproducido desde cero.En la demo en vivo se ve a uno de los Hunters «guardando material» (credenciales, tokens, sesiones) en la memoria compartida y proponiendo una capacidad conseguida en el login: bypass de la autenticación por SQL injection, entrando como admin. Otro propone una SQLi en el login que vuelca las cuentas. Y todo, absolutamente todo, aparece como no confirmado hasta que llega la reproducción. Cuando llega, pasa al tablero de evidencias. Esa disciplina de demostrarlo dos veces es la que llevo veinte años exigiendo a los informes de pentest.
Todo queda registrado, y esto importa para quien haya discutido alguna vez con un proveedor: vista del navegador en vivo, war room con la actividad de los agentes, grafo de ataque con los caminos confirmados y los descartados (que también valen mucho), grabación de la sesión y, al final, informe en PDF y en JSON con la parte ejecutiva, la cadena completa, los pasos de reproducción y las capturas.Figura 6: Nexus mapeando el objetivo autorizado.Y si no encuentran nada, no rellenan el informe con «posibles problemas». Llevamos décadas entregando informes con humo; esto va por otros derroteros.
Del bug al pull request, sin pasar por el ticket
La segunda pata conecta cada hallazgo con el código: rutas, flujos de datos, alcanzabilidad, la traza de taint desde el dato que mete el usuario hasta el sink. Y un detalle que a mí me parece menor y no lo es: cada hallazgo pasa por un veredicto de IA que intenta tirarlo abajo como falso positivo antes de que llegue a tu mesa. Si sobrevive, llega marcado como real. En la demo, un caso de libro de texto: un index.php que concatena lo que llega porGET directamente en la consulta. SQL injection, CWE-89, CVSS 9.8, crítica. Veredicto: se mantiene como real, confianza cien sobre cien.
Y luego llega la parte que, la plataforma de Plexicus hace de forma diferencial. Un módulo llamado Plexicus Remedium clona el repositorio, se prepara un entorno de trabajo y se pone a arreglar el bug. Y te abre el Pull Request.El parche es el que escribiríamos cualquiera de nosotros, el mismo que aprendes en el libro de inyección SQL de 0xWord, para más señas: fuera concatenación y consultas preparadas con parámetros tipados.- $sql = "SELECT * FROM usuarios WHERE id = $id"; // Vulnerable a SQL Injection- $result = $conn->query($sql);+ // Consulta preparada con parámetros para evitar SQL Injection+ $stmt = $conn->prepare("SELECT * FROM usuarios WHERE id = ?");+ $stmt->bind_param("i", $id);+ $stmt->execute();+ $result = $stmt->get_result();
Y no, la máquina no fusiona nada en producción por su cuenta. El PR lo revisa, lo prueba y lo aprueba tu equipo, que para eso cobra, y una ejecución posterior confirma que el bug demostrado ya no está. La IA hace el trabajo pesado; la responsabilidad se queda en los humanos, que son los responsables finales de gestionar la ciberseguridad de la empresa.
La plataforma trae además XBOM, un inventario unificado que junta SBOM, CBOM y AIBOM: qué componentes tiene tu software, qué criptografía usa (con el ojo puesto en la migración post-cuántica, que llega queramos o no) y qué modelos de IA tienes desplegados.Tener un inventario de cuáles son, simplemente, los modelos de IA que se están usando para evitar el Shadow AI, o qué algoritmos y certificados cripográficos se usan en las empresas es una preocupación hoy en día para cualquier CISO.
La demo completa
Os dejo grabada una demo completa, de unos veintiún minutos, que enseña el dashboard con el pentesting en funcionamiento con el Enjambre de Agentes IA y termina con el Pull Request fusionado. Por si quieres saber qué se ve, y entenderlo bien, tenéis estos momentos minutados:- Minuto 6:47. El SAST con IA buscando fallos de lógica de negocio, no palabras clave. Interesante, porque es lo que un SAST nunca ha sabido hacer.
- Minuto 9:35. CBOM y AIBOM, la cripto y los modelos. Lo post-cuántico ya está aquí.
- Minuto 12:42. El pentest arranca en un contenedor efímero.
- Minuto 13:15. Los agentes Hunter y el escéptico. Mi favorito.
- Minuto 14:07. Primera víctima: SQL injection con bypass del login.
- Minuto 15:57. Remediación automática y pull request.
- Minuto 19:07. Montando una automatización entera con IA, en directo.
Figura 11: Plexicus.ai - de los ataques reales a los pull requests. En el canal de Youtube hay también un vídeo corto, de menos de seis minutos, explicando por qué sin PoC no hay finding, y otro sobre cómo 1.200 agentes de OpenAI hackearon Hugging Face, de la que se habló por este blog también.
Figura 12: Plexicus: pentest con IA que prueba cada vulnerabilidad Para terminar, me gustaría dejaros algunos mensajes. El primero es que con la IA Generativa se produce código más rápido de lo que se puede revisar. El segundo, es que se ha multiplicado el trabajo, ya que aparecen centenares de aplicaciones, repositorios, servicios cloud y dependencias, donde priorizar el esfuerzo sin contexto es imposible. Y el tercer mensaje es sobre la regulación, ya que el Cyber Resilience Act ya tiene fechas, con obligaciones de notificación desde el 11 de septiembre de 2026 y el grueso desde el 11 de diciembre de 2027. Saber qué riesgo se validó, quién actuó y qué cambio se revisó va a dejar de ser un lujo.Figura 13: Únete a Plexicus.aiAhora estamos acelerando en Plexicus.ai, así que si quieres saber más de nuestra empresa, nuestras tecnologías, o nuestro futuro, contacta con nosotros. Estamos en una ronda de inversión privada para juntarnos con nuevos socios que quieran construir la plataforma de AI Swarm Pentest definitiva.Saludos, -
Cloudflare Connect 2026 en vídeo y online
Ya han terminado los compañeros de subir todas las sesiones del pasado Cloudflare Connect 2026 que tuvimos en San Francisco durante el mes de Octubre, y las podéis ver todas online, así que si quieres aprender, date una buena maratón de charlas que te ayudarán a conocer bien las tecnologías de Cloudflare y las posibilidades en Application Acceleration, Cybersecurity y en Connectivity Cloud.Por supuesto, la recomendación es que no te pierdas primero la Opening Session, con Matthew Prince, Stephanie Cohen, nuestros amigos de Deutsche Telekom, y un montón de clientes y partners, donde tienes un resumen enorme de lo que es Cloudflare y su evolución.Figura 2: Opening Session Cloudflare Connect 2026 Después, te puedes ir a la web de Cloudflare Connect 2026 donde tienes todas las sesiones, subidas, catalogadas, y con un buscador, para que selecciones los temas que te más te gusten a la carta.Entre ellas, esta la "Lightning Talk" de 20 minutos titulado "The Model is not the Perimeter: Hacking AI Assistant and why you should run guardrails on the edge" que os he subido a mi canal de Youtube. La descripción de la charla es:"Jailbreaking, prompt injection, misalignment, data leakage, biased answers, hallucinations, memory poisoning, wrong behavior... AI is great, but it can also be hacked, abused, or just need to be reinforced by a robust corporate security policy. This session covers hacking techniques for weaknesses and vulnerabilities and covers how you can protect your digital AI service using Guardrails — and why you should do this on the edge with Cloudflare."Figura 4: Valoración de la charlaLa valoración de los asistentes - sobre 5 - fue bastante bien, a pesar de que como hice la demo en "Live", me dio algo de guerra, pero al final conseguí desalinearlo, apificarlo y luego saltarme incluso el Input Guardrail, como puedes ver aquí.
Figura 5: "The Model is not the Perimeter: Hacking AI Assistant and why you should run guardrails on the edge" En ella, ya sabéis que hablo de cosas que publiqué en el libro de "Hacking IA: Jailbreak, Prompt Injection, Hallucinations & Misalignment",así que, si no te lo has comprado aún, estás tardando.escrito por Chema Alonso con la colaboración dePablo González,Fran Ramírez,Amador Aparicio,Manuel S. LemosyJosé Palanco en 0xWordY nada más, os deseo un feliz fin de semana a todos, que hagáis deporte, que descanséis, que hagáis cosas divertidas, que veáis películas de aventuras, cómics de superhéroes, y libros de ciencia-ficción.¡Saludos Malignos!Autor: Chema Alonso(Contactar con Chema Alonso)
-
En el Laboratorio: Hackers, IA y Ciberseguridad
Este mes está siendo un poco loco, pero aunque parezca imposible, consigo llegar a todo en el último momento. Ya de vuelta a Europa, os dejo la entrevista que me hizo Gabriel Crespo para su espacio "El laboratorio" que tiene en Capital Radio.La entrevista fue un completo de IA, Ciberseguridad, Ciencia Ficción e Impacto en la sociedad, plagada de historias personales, que me fue sacando poco a poco Gabriel Crespo. Con paciencia, y con preguntas trabajadas de antemano, me llevo durante la hora de la mano, haciéndome pasar un rato muy entretenido.La entrevista completa la he subido a mi Canal de Youtube, por si queréis escucharla allí, pero la tenéis disponible en todas las plataformas de podcasts. Buscad por "El laboratorio de Gabriel Crespo" y lo encontraréis.
Figura 3: El laboratorio de Gabriel Crespo con Chema Alonso
Y nada más, que disfrutéis el viernes, que yo estaré, como ya os anuncié, en el Foro de Ciberseguridad de ABC desde muy tempranito, antes de seguir con mi periplo personal.¡Saludos Malignos!Autor: Chema Alonso(Contactar con Chema Alonso)
-
Social Hunters: Hacking con Ingeniería Social en el Red Team 2a Edición
Uno de los libros que más ha gustado y más se ha vendido en los últimos lanzamientos de 0xWord, y teníamos muchas ganas de lanzar la Segunda Edición Revisada y Ampliada, ha sido de "Social Hunters: Hacking con Ingeniería Social en el Red Team" dedicado a las técnicas que utilizan los hackers de la ingeniería social. El libro lo han escrito entre Marta Barrio y Carolina Gómez, y desde hoy lo puedes comprar en la tienda online de 0xWord recién llegadito.El éxito del libro es que es una lectura amena e interesante, porque está pensado para leerlo y aprender trucos sociales que se pueden utilizar para engañar a una víctima, ya sea en un ataque de Red Team, o en un esquema mucho más elaborado como el que se utilizó en Stuxnet, donde la ingeniería social también contó con una rol muy importante dentro de este famoso ataque.El libro tiene más de 270 páginas donde se aprenden trucos sobre nosotros los humanos, herramientas para recolectar detalles de ellos, y cómo preparar un buen gancho con un ataque de Phishing, o, incluso, preparando una trampa en su entorno físico sacando partido a las técnicas de Lockpicking. Pero también ayudando a los CISOs a crear planes de concienciación para estos ataques. Podéis descargaros el índice completo desde la web de 0xWord.
Figura 3: Índice del libro "Social Hunters: 2a Edición" de 0xWord.Escrito por Marta Barrio y Carolina Gómez El libro como ya sabéis, lo han escrito Marta Barrio y Carolina Gómez, con las que además puedes contactar en MyPublicInbox cuando quieras. En palabras de ellas mismas:La ingeniería social supone el principal método usado por los delincuentes a la hora de engañar a sus víctimas, y esto aplica tanto a la vida analógica como digital, la naturaleza empática del ser humano, sus ganas de ayudar y caer bien hacen de él la víctima perfecta. Por esta razón si se quiere estar lo más protegido posible es imprescindible conocer los por qué, y los cómo.A lo largo del libro se hace un recorrido para intentar responder a estas preguntas, desde los principios en los que se apoya la ingeniería social, sus orígenes y casos reales, a cómo afectan a los seres humanos teniendo en cuenta la biología y su psicología.Pero no todo es teoría, para ver cómo aplicar este conocimiento se profundiza en ejemplos de dos de las técnicas usadas en ingeniería social y sus herramientas (una en entorno físico y otra digital).Dos recordatorios importantes con MyPublicInboxEl primero de ellos es que con la compra de este libro recibirás 100 Tempos gratis que recibirás en la plataforma MyPublicInbox, por lo que no te olvides de indicar en las observaciones de tu pedido, la dirección de e-mail que has utilizado para registrarte en MyPublicInbox, de ese modo podremos cargarte los tempos en tu cuenta.Y el segundo recordatorio es que, como sabes, puedes canjear tus Tempos de MyPublicInbox para comprar éste o cualquier otro libro de 0xWord. Lo puedes hacer por medio de una transferencia a la cuenta de 0xWord, o mediante la adquisición de un bono descuento con Tempos en la sección "Convierte tus Tempos" de MyPublicInbox.¡Saludos Malignos!Autor: Chema Alonso(Contactar con Chema Alonso) -
12 y 13 de Noviembre - Madrid. ISMS Forum y Foro Ciberseguridad ABC
La vida no nos da mucho descanso, y es que la agenda que me he preparado este mes en lo que son mis últimas charlas, paneles, podcasts y entrevistas del año, es de aupa. Así que, desde mi habitación de Chile, después de una noche durmiendo en aviones a ratos, y antes de comenzar mi jornada, os dejo información de un par de actividades que habrá en Madrid, que haré de relámpago - junto con alguna grabación extra -.La primera de las Jornadas a tener en cuenta es la XXVIII International Information Security Conference del ISMS Forum, que tendrá una plantel espectacular, con el gran José María Álvarez-Pallete como plato fuerte entrevistado por Sergio Padilla, y con el grandísimo Nico Waissman que ha venido de Argentina a dar una keynote en el evento.Ya sabéis que Nico Waisman es uno de los grandes hackers de nuestra generación. Uno de los fundadores de la Ekoparty, Speaker en BlackHat y DefCon muchas veces, hemos recorrido el circuito de conferenciantes hablando de hacking juntos. Ahora fundó la empresa XBow, y viene a dar una charla sobre cómo la IA ha hecho una disrupción en la gestión de los CISOs.También estaré por allí yo - avión en tiempo mediante - que aterrizaré, me subiré al taxi, me pondré el gorro y saltaré al escenario. Pero quiero dar una charla curiosa, donde hablaré de Isaac Asimov y los Robots Positrónicos. Si no te has leído la serie, te gustará seguro. Vale, también hablaré de LLMJacking, de AI Gateway, de Cloudflare, y un poco de más cosas de IA & Ciberseguridad. ¿Qué puedes esperar si no?Además, entre los ponentes, estará Roberto Baratta, mi gran y querido Matías Cordero, nuestro compañero de mil batallas Willy, y un largo etcétera de ponentes, que ya sabes que el ISMS Forum es el lugar donde el sector CISO se da cita.Después de eso, el día siguiente, antes de retomar mi periplo por el mundo, pasaré por el Foro de Ciberseguridad de ABC, para participar en un panel con compañeros de profesión, y debatir de los cambios que estamos viviendo en nuestra actividad laboral.Y no habrá más charlas este año - creo -. La semana siguiente daré mi sesión en el III Edición del Programa de Especialización de Quantum Security de la Universidad de Deusto, tengo unas entrevistas en radio y podcasts que ya he grabado, y otros que grabaré... y no mucho más, que llega el Black Friday.¡Saludos Malignos!Autor: Chema Alonso(Contactar con Chema Alonso)
-
De Hacker a Hacker: Sergio de los Santos vs. Javier Álvarez
Hoy martes os traigo una nueva edición de las entrevistas que hace nuestro querido Javier Álvarez en la sección "De hacker a hacker", donde entrevista a profesionales de la ciberseguridad, el pentesting, el hacking, reversing de malware y miembros de la comunidad hacker.Me refiero al gran Sergio de los Santos, que de esto sabe tela....La charla es sobre hacking, ciberseguridad, IA y tecnología en general, y por supuesto Sergio de los Santos tiene larga experiencia en eso, y varios libros ya a sus espaldas sobre estos temas, como el Máxima Seguridad en Windows o el de Malware Moderno.de Sergio de los Santos en 0xWordSus años trabajando en ciberseguridad hace que tenga una visión panorámica muy similar a la mía, pero además con una pasión por los detalles muy singular, quizá por años de investigación de incidentes de malos.
Figura 4: Contactar con Javier Álvarez Páramo. Co-Autor del libro deComo es habitual en esta sesión de "De Hacker a Hacker", en la charla, hablan de muchas cosas que tienen que ver también con formarse, con el impacto de la Inteligencia Artificial en la vida de los ingenieros en general y a los profesionales del desarrollo de software en concreto. Por supuesto, en cómo ayudar a los demás, a cómo aprender, a gestionar el impacto de la IA, y a mirar al futuro con ambición..Figura 5: De Hacker a Hacker: Sergio de los Santos vs. Javier Álvarez A los dos, además, los tenéis a vuestra disposición a tiro de mensaje de MyPublicInbox, donde cuentan con sus buzones por si quieres consultarles algo o contactarles para proponerles alguna colaboración, que son tipos muy dispuestos, como podéis ver.Figura 6: Contactar con Sergio de los SantosSi te apetece, puedes ver todas las sesiones que hemos tenido hasta el momento en la lista de reproducción de "De Hacker a Hacker" que mantengo actualizada en mi canal, para que puedas ver todas las entrevistas y conocer cómo cada uno ha hecho y hace este camino en el mundo de la tecnología.Publica tu libro con 0xWordPor último, un recordatorio de que en MyPublicInbox se ha articulado un servicio de colaboración con todos los Perfiles Públicos de la plataforma para establecer una nueva vía de colaboración que permita que si tienen una idea de publicación de un libro, puedas hacerlo con 0xWord. De esta forma todos los Perfiles Públicos de MyPublicInbox pueden ir a la zona su perfil, y entre la lista de Servicios para Ti que ofrece esta plataforma, pueden solicitar información para publicar su libro con 0xWord.Todos los usuarios de MyPublicInbox, si quieren ser Perfiles Públicos, pueden solicitarlo tal y como se explica en la web, y tendrán acceso a las dos decenas de servicios que ofrece actualmente esa plataforma, y entre otros este de publicación de libros.¡Saludos Malignos!Autor: Chema Alonso(Contactar con Chema Alonso) -
LLMJacking: Cómo los cibercriminales usan Tokens IA que pagas tú.
Llevo tiempo hablando el abuso de las cuentas y servicios de los modelos LLM que utiliza una empresa por parte de atacantes y cibercriminales, pero cada vez parece que está más industrializado y escalado. De esto habla el informe del equipo de Google Threat Intelligence Group titulado: "The Rise of LLMJacking: How Threat Actors Monetize Compromised Cloud and Model Resources" donde recoge las técnicas de LLMJacking como una de las más utilizadas hoy en día por los cibercriminales.El objetivo es el mismo del que os hablo muchas veces, cómo conseguir que un LLM que paga otro - ya sea en un modelo SaaS en una plataforma de Cloud, en una API, o por medio de computo GPU en servidores locales, acabe trabajando para el atacante gratis. Eso es lo que quieren los ciberciminales, que paguen las víctimas sus Tokens AI.escrito por Chema Alonso con la colaboración dePablo González,Fran Ramírez,Amador Aparicio,Manuel S. LemosyJosé Palanco en 0xWordPara conseguir esto existen muchas técnicas, distintas, y todas les son válidas. La primera de ella, y más evidente, es robar las cuentas de los proveedores de Cloud que tienen servicios de LLM, o las cuentas de los Servicios de IA directamente desde las empresas que los crean y los comercializan, como OpenAI o Anthropic, por supuesto. Para ello, las campañas de phishing, el malware en los equipos donde se usan, y demás son clásicos. Nada nuevo bajo el sol más que robar las cuentas.También hay que hacer notar que el robo de Tokens OAuth, evitando así los segundos factores de autenticación, es un clásico en estos esquemas, ya que si se roba el adecuado, como el caso del Scope de cloud-platform en Google Cloud, se puede acceder a configurar todos servicios LLMs en esa cuenta.Con estas dos opciones, o una cuenta privilegiada o un Token OAuth con el Scope de cloud-platform, el atacante se configura el LLM a su gusto, y como vemos en el informe, comienza a consumir a lo grande. Al final, es gratuito para ellos, así que barra libre.Por supuesto, además de robar las cuentas, se puede funcionar bien robando directamente las API Keys, que es algo bastante sencillo de hacer en servicios inseguros en App Móviles o Aplicaciones Web inseguras. A finales del mes de Junio os hablé de esto en el artículo titulado: "Cómo filtrar las API Keys de los LLMs en las Apps de iPhone y Android" donde se recoge un estudio que explicaba las diferentes alternativas, basadas en:- Robar la API Key del Código
- Robar una sesión autenticada
- Robar el acceso mediante LLM-Proxys que configuran los servicios.
De todos estos problemas, en el artículo tienes explicaciones detalladas de cada uno, porque al final es bastante evidente cómo se pueden explotar estas debilidades en el momento en que existen en tantos servicios digitales "powered" con LLMs como tenemos hoy.Por último, el artículo cita algo de lo que os he hablado y hecho muchas demostraciones, que es directamente "desalinear" los servicios digitales - en mis ejemplos los Asistentes IA de soporte - y conseguir que el modelo acaba trabajando para el atacante.Tenéis la lista de los artículos que he publicado sobre estos casos en la siguiente lista que os dejo aquí para que los leáis con calma.- Hacking LLM-Assistants Just for Fun!
- Footprinting & Fingerprinting AI Assistant LLM-Based: Háblame de ti y tus cosas
- Weaponinzing Token Consumption" en "LLM-Based AI Assistant
- Mi Asistente Virtual IA no programará en Python para ti... pero si es COBOL, vale
- El AIBot de la Universidad que ayuda no sólo a los estudiantes
- Mareando y Desalineando a un Asistente IA de una tienda de Mochilas
- Bypassing System Prompt & Guardrails en un Asistente IA para que pinte gatos en Python
- Rufus, el Asistente IA de Amazon: De "Shopping Assistant" a hacer Troubleshouting de red con Powershell y Nmap en una charla
Debido a eso, poner una solución como AI Gateway de Cloudflare con Control de Costes de Servicios IA es fundamental. En el caso de Cloudflare para evitar estos abusos, se introdujeron los Controles de Consumo con Cuotas por usuario, servicio, día, para evitar estos.Para terminar, el reporte directamente apunta a cómo se comercializan, con servicios como jet-night, un servicio que carga costes a cuentas vulneradas, y que, tal y como describe el reporte.teniendo en cuenta los costes que cobra a sus clientes, y lo que carga en plataformas como Google Cloud, es ilegal, pues saldría a negativo si tuviera que pagar por los LLMs... pero lo hacen las víctimas.En definitiva, el LLMJacking como se ha dado a llamar a esta técnica, es algo de lo que tienes que preocuparte, y cuando pones un servicio con IA en producción debes revisar en detalle cuáles son los posibles riesgos de abuso.Figura 11: Hacking & Pentesting con Inteligencia Artificial.Ten en cuenta, que los modelos LLM de la IA hoy en día sirven para muchas cosas, en el mundo del cibercrimen son fundamentales, como vimos en los artículos de "Weaponized AI: El Crimeware con IA que usan los Cibercriminales para hacer Ciberestafas".¡Saludos Malignos!Autor: Chema Alonso(Contactar con Chema Alonso)
-
2a Edición del Máster en IA Aplicada & Optimización de Procesos Productivos (15 de Noviembre)
Cómo ya has visto, el mundo cambió para no volver a lo que era antes. Lo estamos viendo constantemente. Las grandes empresas se están re-estructurando para meter en el corazón de su negocio la Inteligencia Artificial. Y esto está llevando a que muchos trabajadores estén siendo despedidos por planes de re-estructuración de la fuerza laboral. También estamos viendo el nacimiento de muchísimas nuevas empresas que, con un número muy pequeño de empleados, están creciendo como la espuma gracias a haber desarrollado soluciones y modos de trabajo súper-potentes. Todas ellas basadas en procesos de negocio hechos con Inteligencia Artificial. El mundo del trabajo, el emprendimiento y los puestos empresariales han cambiado.Con ese principio se ha construido el Máster en IA Aplicada & Optimización de Procesos Productivos que se va a presentar el próximo Domingo 15 de Noviembre. Un Máster pensado para una nueva generación de profesionales y emprendedores que tienen claro que la Inteligencia Artificial tiene que ser parte del ADN de su trabajo.El mundo laboral anterior ya no existe, y si sales al mercado laboral o te lanzas a emprender y no tienes esto claro, entonces estás condenado a no salir airoso de donde te vas a meter. Se trata de que los asistentes de esta formación tengan las capacidades en IA que les permita ser de los más preparados en este nuevo "orden" laboral.El objetivo de este Máster en IA Aplicada & Optimización de Procesos Productivos, está orientado a manejar los modelos de Inteligencia Artificial desde el primer día de clase, a conocer cómo aplicar en workflows de negocio estás tecnologías, a construir Agentes IA que puedan ser parte de los organigramas empresariales o directamente tus compañeros y tu equipo de trabajo.La presentación de este Máster en IA Aplicada & Optimización de Procesos Productivos, que será online con clases en directo por profesionales del sector, como mi compañero David Hurtado de Microsoft, o Carlos Luengo de Cloudflare y un largo número de profesionales del sector focalizados en explicar la aplicación de IA en el Core de los negocios y la empresa.Los contenidos de esta formación están pensados para aplicar la Inteligencia Artificial en el mundo del emprendimiento y la empleabilidad profesional. Con especial foco en competitividad profesional de los asistentes.- Módulo de IA aplicada a la inversión
- Módulo de IA aplicada al emprendimiento
- Módulo de IA aplicada a la carrera profesional/empleabilidad
- Módulo de IA aplicada a marketing y creación de contenido
- Módulo de IA aplicada a las finanzas
Supongo que si me sigues en mi blog o en mis redes sociales has visto que todas las semanas más de la mitad de los artículos que escribo están dedicados a la Inteligencia Artificial, y no es por casualidad. Yo soy de esos que ha estado aplicando masivamente la IA en mi día a día personal y profesional, para no perder un ápice de la productividad que nos exige este nuevo mundo, y voy a ser Mentor del Máster en IA Aplicada & Optimización de Procesos Productivos y podrás estar en contacto conmigo a través del "Chema Alonso´s Corner" que hemos creado en MyPublicInbox.También habrá una sesión de Vídeo Conferencia en directo conmigo donde se hará un Q&A con todos los asistentes. Podrás preguntar, resolver dudas, preocupaciones o incertidumbres que tengas sobre este mundo. Así tendrás una sesión conmigo y un chat durante todo el Máster donde podrás debatir conmigo, con el resto de los alumnos, y con otros profesores, pero también acceder a noticias, tutoriales, artículos, y consejos para incrementar el impacto del tiempo que inviertas en formarte durante este Máster en IA Aplicada & Optimización de Procesos Productivos en tu vida personal y profesional.Todos los asitentes, además, tendrán 100 Tempos de MyPublicInbox para utilizarlos en la plataforma, para participar e interactuar con otros perfiles, pero sobre todo para usarlos en desarrollar su Perfil Público en MyPublicInbox y subir su exposición profesional a través de Internet.Mensaje finalLos cambios siempre dan miedo. Este mundo va muy rápido. Si estás pensando eso de "debería aprender" es mejor que lo hagas de una vez por todas. Cuando más tardes, más complejo será el cambio, la adaptación, y más grande será el salto de aprendizaje que deberás hacer. Mi consejo... "Big Problems First", y convierte lidiar con esta vorágine de cambios en una oportunidad para ti. Si quieres más información, apúntate para ir el día 15 de Noviebre a las 19:00 horas (de España) a la presentación del Máster en IA Aplicada & Optimización de Procesos Productivos y decides luego.¡Saludos Malignos!Autor: Chema Alonso(Contactar con Chema Alonso)





























































