858
Ultima Hora de Virus, Malware etc en Smartphone, y ordenadores. Sigue nuestro canal , estarás al día .
Figura 3: Secuencias Tokenizadas por GPT3.5 y GPT4 (https://regmedia.co.uk/2024/03/18/what_was_your_prompt_remote_keylogging_attack_on_ai_assistants.pdf)
Cuando el modelo LLM envía la información protegida contra inspección, el Tokenizador envía los datos en Stream, es decir, que hay una secuencia continua de Tokens que deben ser marcados periódicamente para saber cuándo comienza y termina un Token para poder ser descifrado y enseñado al usuario, tal y como se ve en estos dos ejemplos de la Figura 3 de cómo los Tokenizadores de GPT3.5 y GPT4 funcionan.
Figura 1: Ataque de Side-Channel a conversaciones con ChatGPT, CoPilot y otros LLMs (https://regmedia.co.uk/2024/03/18/what_was_your_prompt_remote_keylogging_attack_on_ai_assistants.pdf)
Esto podría ser un problema clásico de criptografía y cripoanalisis (https://0xword.com/es/libros/36-libro-cifrado-comunicaciones-rsa.html), pero la gracia es que utilizan un LLM para que ayude a resolver el problema, os lo explico un poco para ver si queda más claro.
Los populares routers FRITZ!Box del fabricante alemán AVM cumplen hoy 20 años. El 18 de marzo de 2004 el fabricante presentó el primer router FRITZ!Box en la feria de CeBIT, por aquel entonces, tan solo eran capaces de funcionar a una velocidad de hasta 8Mbps usando para ello la popular tecnología ADSL, sin embargo, la […]
El artículo Los routers FRITZ!Box cumplen 20 años, estos son nuestros motivos para usarlos (https://www.redeszone.net/noticias/redes/routers-fritzbox-cumplen-20-anos-motivos-usarlos/) se publicó en RedesZone (https://www.redeszone.net/).
A la hora de navegar por Internet, puedes hacerlo directamente, con la dirección IP que te corresponde, pero también puedes usar otros servicios que actúen como intermediarios. Por ejemplo, algo bastante habitual es el uso de una VPN. La puedes instalar tanto en el ordenador, como también en el teléfono. Sin embargo, en este artículo […]
El artículo Usar un proxy en el móvil: por qué es útil y cómo funciona (https://www.redeszone.net/noticias/redes/usar-proxy-movil/) se publicó en RedesZone (https://www.redeszone.net/).
El sistema de domótica de Home Assistant nos permite realizar complejas automatizaciones, para convertir nuestro hogar en un verdadero hogar inteligente. Recuerda que este sistema de domótica es compatible con cientos de marcas y miles de dispositivos, y es que podremos tener una administración centralizada de todos y cada uno de los dispositivos inteligentes de […]
El artículo Programa acciones según horarios con Scheduler en Home Assistant (https://www.redeszone.net/tutoriales/domotica/home-assistant-programar-acciones-automatizaciones-scheduler/) se publicó en RedesZone (https://www.redeszone.net/).
Cuando vayas a utilizar la nube y compartir archivos con otros, es importante que no cometas errores. Es esencial mantener los documentos protegidos, para que no terminen en malas manos. Te vamos a explicar qué debes hacer para no tener problemas. Un repaso por algunos fallos comunes que podrías estar cometiendo y que van a […]
El artículo Errores al compartir archivos por la nube que nunca deberías tener (https://www.redeszone.net/noticias/seguridad/errores-compartir-archivos-nube/) se publicó en RedesZone (https://www.redeszone.net/).
Si estás pensando en domotizar tu casa, un buen comienzo pasa por instalar bombillas y enchufes inteligentes. Podemos decir que son la base para poder controlar ciertos aparatos, ahorrar energía o automatizar tareas cotidianas. Te vamos a mostrar algunas opciones en oferta, en Amazon, así como también otros productos interesantes que puedes usar para la […]
El artículo Bombillas, enchufes y otros dispositivos inteligentes con ofertas muy interesantes (https://www.redeszone.net/noticias/ofertas/amazon-varias-bazar-dispositivos-inteligentes-0324/) se publicó en RedesZone (https://www.redeszone.net/).
¿Sospechas de que alguien haya podido entrar en tu cuenta de Instagram? Te vamos a contar un método muy sencillo que puedes tener en cuenta para revisarlo. Esto te ayudará a tomar medidas inmediatas en caso de que veas que alguien ha podido acceder sin tu permiso. El hecho de que sea una red social […]
El artículo Comprueba rápidamente si ha entrado alguien en tu Instagram sin permiso con este truco (https://www.redeszone.net/noticias/seguridad/comprobar-intrusos-cuenta-instagram/) se publicó en RedesZone (https://www.redeszone.net/).
Google ha lanzado el Security Command Center Enterprise (SCC Enterprise), una nueva solución de gestión de riesgos en la nube que combina dos de las tendencias más importantes de la actualidad, como son la ciberseguridad en la nube y las operaciones de seguridad empresarial, junto con la Inteligencia Artificial. Una seguridad sobre la que cada […]
La entrada Google presenta Security Command Center Enterprise: seguridad asistida por IA (https://www.muyseguridad.net/2024/03/18/google-presenta-security-command-center-enterprise-seguridad-asistida-por-ia/) es original de MuySeguridad. Seguridad informática. (https://www.muyseguridad.net/)
Sigue Un informático en el lado del mal (https://elladodelmal.com/) RSS (http://feeds.feedburner.com/ElLadoDelMal) 0xWord (https://0xword.com/)
- Contacta con Chema Alonso (https://mypublicinbox.com/ChemaAlonso) en MyPublicInbox.com (https://mypublicinbox.com/)
Figura 5: Las URLs para el el ataque (https://nokline.github.io/bugbounty/2024/02/04/ChatGPT-ATO.html)
Una vez comprobado eso, basta con generar la URL correcta para que el usuario entregue su Token de autenticación, pase el proceso de autenticarse (o no), y deje su Token guardado en la caché para poder ser accedido después por el atacante.
Figura 3: El Path Share se estaba cacheando automáticamente. (https://nokline.github.io/bugbounty/2024/02/04/ChatGPT-ATO.html)
Sabiendo esto, lo siguiente era ver si podía generar una URL que tuviera el Token de autenticación de un usuario, pero bajo la dirección de una URL con el path /share/, y esto es posible porque la cache no es un servidor web que esté procesando la URL, y la está tomando como una dirección para generar un
Figura 1: Cómo robar cuentas de ChatGPT con "Wildcard Web Cache Deception" (https://nokline.github.io/bugbounty/2024/02/04/ChatGPT-ATO.html)
El bug ha sido publicado una vez resuelto, pero es bastante curioso, ya que el problema se encuentra en la implementación que se hacía de la Cache de ChatGPT, y que el investigador explotó para hacer un ataque funcional que permitiera robar las cuentas de cualquier usuario que hiciera clic en un enlace malicioso, para ganarse su Bug Bounty (https://0xword.com/es/libros/191-bug-bounty-de-profesion-cazarecompensas.html).
Cuando utilizas Google Chrome para navegar, en ocasiones pueden surgir problemas. Podrías encontrarte con un mensaje que indica que no hay memoria suficiente. Esto aparece cuando intentas abrir una nueva web. Significa que no hay más memoria RAM disponible. Eso va a impedir que pueda abrir un sitio más, por lo que tendrías que solucionar […]
El artículo Haz esto si Chrome empieza a fallarte por no tener memoria suficiente (https://www.redeszone.net/noticias/redes/como-evitar-mensaje-memoria-suficiente-chrome/) se publicó en RedesZone (https://www.redeszone.net/).
En ocasiones, al intentar mejorar la seguridad en Internet podemos cometer errores. Puede que instales algún programa o realices alguna configuración, pero en realidad estás empeorando la situación. Podrías estar poniendo en peligro tu sistema, lo cual puede ser un problema importante. Te vamos a mostrar los errores más comunes al intentar mejorar la seguridad […]
El artículo 10 errores que estás cometiendo para mejorar tu seguridad en Internet (https://www.redeszone.net/noticias/seguridad/errores-mejorar-seguridad-internet/) se publicó en RedesZone (https://www.redeszone.net/).
Figura 2: Libro de Cifrado de las comunicaciones digitales: (https://0xword.com/es/libros/36-libro-cifrado-comunicaciones-rsa.html)
de la cifra clásica a RSA 2ª Edición de 0xWord
La idea es que tenemos un servicio que está utilizando un LLM, y éste servicio puede ser un chat, como ChatGPT o un CoPilot como el de Microsoft, donde el usuario está teniendo una conversación con el el motor LLM, que puede ser GPT3.5, GPT4, Llama2, o cualquier otro.
Ataque de Side-Channel a conversaciones con ChatGPT, CoPilot y otros LLMs
http://www.elladodelmal.com/2024/03/ataque-de-side-channel-conversaciones.html
Hoy os vengo a hablar de un paper que fue publicado ayer mismo (https://regmedia.co.uk/2024/03/18/what_was_your_prompt_remote_keylogging_attack_on_ai_assistants.pdf), y que me ha gustado mucho. Es una investigación que intenta descifrar la conversación que un usuario está teniendo con un LLM por medio de capturar la estructura de Tokens que se ha intercambiado, como side-channel.
Los routers FRITZ!Box cumplen 20 años, estos son nuestros motivos para usarlos
https://www.redeszone.net/noticias/redes/routers-fritzbox-cumplen-20-anos-motivos-usarlos/
Usar un proxy en el móvil: por qué es útil y cómo funciona
https://www.redeszone.net/noticias/redes/usar-proxy-movil/
Programa acciones según horarios con Scheduler en Home Assistant
https://www.redeszone.net/tutoriales/domotica/home-assistant-programar-acciones-automatizaciones-scheduler/
Errores al compartir archivos por la nube que nunca deberías tener
https://www.redeszone.net/noticias/seguridad/errores-compartir-archivos-nube/
Bombillas, enchufes y otros dispositivos inteligentes con ofertas muy interesantes
https://www.redeszone.net/noticias/ofertas/amazon-varias-bazar-dispositivos-inteligentes-0324/
Comprueba rápidamente si ha entrado alguien en tu Instagram sin permiso con este truco
https://www.redeszone.net/noticias/seguridad/comprobar-intrusos-cuenta-instagram/
Google presenta Security Command Center Enterprise: seguridad asistida por IA
https://www.muyseguridad.net/2024/03/18/google-presenta-security-command-center-enterprise-seguridad-asistida-por-ia/
Figura 6: El esquema de ataque completo (https://nokline.github.io/bugbounty/2024/02/04/ChatGPT-ATO.html)
En este caso, es necesario que la víctima haga clic en un enlace malicioso, tal y como se muestra en el esquema de ataque, pero es un 1-Click Owned! esquema, muy peligroso, que ChatGPT ya ha corregido, para eliminar este problema.
Figura 7: Hacker & Developer in the Age of GenAI LLM Apps & Services (https://www.youtube.com/watch?v=oyjXZvUcRrs)
Al final, no es un problema del LLM, y no podríamos meterlo en ningún esquema del OWASP TOP 10 de LLM Apps & Services (https://www.elladodelmal.com/2023/10/los-10-problemas-de-seguridad-mas.html), que el problema es la implementación del sistema de compartición, pero es más que interesante cómo funciona este bug.
¡Saludos Malignos!
Autor: Chema Alonso (Contactar con Chema Alonso (https://www.mypublicinbox.com/chemaalonso))
Figura 4: Path Transversal Confusion (https://nokline.github.io/bugbounty/2024/02/04/ChatGPT-ATO.html)
ID de objeto cacheado, así que si se utilizan %2F o wildcards para construir una URL que el servidor Web sí va a procesar, el servicio de Caché no lo va a hacer.
Figura 2: Libro de Bug Bounty: De profesión "Cazarrecompensas" (https://0xword.com/es/libros/191-bug-bounty-de-profesion-cazarecompensas.html)en 0xWord (https://0xword.com/), escrito por Pablo García (https://www.mypublicinbox.com/pablogarcia)
Según cuenta en el artículo el propio descubridor del bug, se dio cuenta porque ChatGPT le estaba cachenado una petición cuando había dado a la opción de Share para compartir una conversación. Aunque siguiera actualizando la conversación, esta se quedaba estática en el enlace de compartición, porque todo lo que estuviera bajo /share/ se cacheaba automáticamente una vez visitada esa URL, ya que el servidor estaba usando el HTTP-Header Cf-Cache-Status:HIT en esa URL.
Cómo robar cuentas de ChatGPT con "Wildcard Web Cache Deception"
http://www.elladodelmal.com/2024/03/como-robar-cuentas-de-chatgpt-con.html
Si ayer os hablaba de tres bugs descubiertos en un Bug Bounty (https://0xword.com/es/libros/191-bug-bounty-de-profesion-cazarecompensas.html) de ChatGPT, hoy os traigo otro que salió publicado este mes de Febrero y que habla de cómo robar cuentas de ChatGPT utilizando Wildcard Web Cache Deception (https://nokline.github.io/bugbounty/2024/02/04/ChatGPT-ATO.html) , que es más que interesante, y que le valió 6.500 USD al investigador que lo descubrió.
Haz esto si Chrome empieza a fallarte por no tener memoria suficiente
https://www.redeszone.net/noticias/redes/como-evitar-mensaje-memoria-suficiente-chrome/
10 errores que estás cometiendo para mejorar tu seguridad en Internet
https://www.redeszone.net/noticias/seguridad/errores-mejorar-seguridad-internet/