Un ataque silencioso está ganando terreno en el mundo de la inteligencia artificial, pero OpenAI acaba de mover sus fichas para darnos un escudo extra.
OpenAI lanzó una función de seguridad llamada Lockdown Mode (algo así como «Modo de Aislamiento» o de bloqueo total).
¿El objetivo? Protegernos de las temidas inyecciones de comandos (prompt injections), una amenaza que crece a la par de los asistentes virtuales.
El peligro oculto de las inyecciones de comandos
Imagínate que las inyecciones de comandos son como técnicas de ingeniería social, pero aplicadas directamente a las máquinas. Los atacantes esconden instrucciones maliciosas dentro de páginas web, documentos o cualquier contenido que luego procesa la IA.
¿Y qué pasa si muerdes el anzuelo? Pues que esas trampas invisibles manipulan al modelo para que termine haciendo cosas que tú jamás le pediste, como revelar información privada o filtrar datos confidenciales de tu cuenta.
¡Un dolor de cabeza total! Por eso, esta nueva función llega como una capa final de defensa que se suma a la infraestructura que ya protege las espaldas de ChatGPT.
¿Para quién es el Lockdown Mode?
Aquí viene la letra pequeña. OpenAI dejó bastante claro que esta herramienta no está pensada para el usuario común y corriente que solo usa el chat para buscar recetas o hacer resúmenes de tareas.
Está diseñada, más bien, para empresas, organizaciones o profesionales que manejan información sensible y prefieren blindar su seguridad antes que la comodidad de tener todas las funciones activas.
Sí, porque activar este modo significa sacrificar algunas de las gracias más avanzadas de la plataforma.
Las funciones que vas a extrañar si lo activas
Cuando enciendes el Lockdown Mode, la IA se vuelve extremadamente desconfiada.
Para evitar que un código malicioso use herramientas conectadas y saque datos sin tu permiso, ChatGPT limitará varias de sus capacidades
- Adiós a los agentes: Herramientas potentes como Deep Research y el Agent Mode se desactivan por completo porque requieren demasiada interacción con el exterior.
- Imágenes bajo la lupa: Podrás seguir subiendo fotos y generando imágenes con DALL-E, pero el bot ya no podrá traer imágenes de internet ni mostrarlas dentro de sus respuestas.
- Análisis de archivos limitado: El chatbot tendrá prohibido descargar archivos externos para analizarlos. Eso sí, tú podrás seguir subiendo tus propios documentos directamente desde tu dispositivo para que los revise.
Un punto clave es que este escudo no borra las instrucciones maliciosas mágicamente si aparecen en un texto. Lo que hace es cerrarle la puerta a la red para que el atacante no pueda extraer información de tu sesión.
Lo que se mantiene intacto y el control empresarial
#Pues bien, no todo se rompe. El Lockdown Mode no afecta la memoria de tus conversaciones, tus ajustes para compartir chats ni las opciones de privacidad sobre si tus datos se usan para entrenar los modelos.
Además, si estás en un entorno corporativo, los administradores del espacio de trabajo siguen teniendo el control total para decidir qué se bloquea y qué no.
Cómo activar la función y una sorpresa extra para tu cuenta
¿Quieres probarlo? La buena noticia es que está disponible para todos, incluyendo las cuentas del plan gratuito. Solo tienes que ir a los ajustes de ChatGPT e ingresar a la sección de Seguridad y Privacidad para encender el interruptor.
Y ya que andas por ahí, aprovecha para revisar otra novedad que lanzaron en silencio: un administrador de sesiones activas.
Es una pestaña idéntica a la de redes sociales que te muestra qué dispositivos y navegadores tienen abierta tu cuenta. Si ves algo raro o un teléfono que no reconoces, puedes cerrar la sesión a distancia en un segundo para mantenerte a salvo.
Con información de Engadget
