Llm on Locodigital

Cómo usar ChatGPT en el trabajo sin filtrar datos de la empresa: 7 cuidados

Tue, 01 Sep 2026 09:00:00 -0300

En abril de 2023, ingenieros de Samsung Semiconductor pegaron código fuente propietario y la transcripción de una reunión interna en ChatGPT — buscando solo corrección de errores y un acta de reunión más organizada. Fueron tres incidentes separados en pocas semanas. El problema: esos datos entraron al flujo de la herramienta y no pudieron recuperarse. Samsung prohibió el uso de IA generativa en la empresa poco después.

Este tipo de filtración no exige ninguna intrusión, ningún malware, ningún atacante. Es el propio empleado, con buena intención, entregando datos sensibles a una herramienta que no entiende completamente por dentro.

Data poisoning: qué es y cómo los atacantes envenenan modelos de IA

Mon, 31 Aug 2026 09:00:00 -0300

Un modelo de IA no nace sabiendo nada: aprende a partir de ejemplos. Esa dependencia es lo que hace posible uno de los ataques más sutiles contra la inteligencia artificial: envenenar los datos de entrenamiento para que el modelo aprenda algo incorrecto a propósito, sin dejar un rastro obvio de que algo fue manipulado.

Qué es el data poisoning

¿Qué es el envenenamiento de datos de IA?

El data poisoning es un ataque en el que se insertan deliberadamente información maliciosa o alterada en los datos usados para entrenar un modelo de inteligencia artificial, haciendo que aprenda patrones incorrectos o comportamientos ocultos definidos por el atacante. El objetivo generalmente no es bloquear el sistema, sino cambiar su comportamiento de forma sutil, manteniendo la apariencia de funcionamiento normal la mayor parte del tiempo.

Prompt injection: qué es y por qué es la mayor amenaza para los chatbots de IA

Fri, 28 Aug 2026 09:00:00 -0300

Chatbots de atención al cliente, asistentes de código, agentes que leen correo y agendan reuniones solos: la IA generativa se convirtió en infraestructura. Y toda esa infraestructura comparte un fallo estructural que la industria todavía no ha resuelto de verdad: el modelo no puede diferenciar con seguridad una instrucción legítima de un texto malicioso disfrazado de contenido común.

Ese problema tiene nombre: prompt injection. Y ocupa el primer lugar del ranking OWASP Top 10 for LLM Applications por segunda edición consecutiva.