Uno de los riesgos relacionados con el uso de la Inteligencia Artificial está ocurriendo todos los días.
En 2023, una firma de seguridad llamada Cyberhaven analizó cómo utilizaban ChatGPT 1,6 millones de trabajadores. El estudio encontró que el 11 % de la información que las personas pegaban en la herramienta era confidencial.
Casi uno de cada nueve fragmentos incluía datos de clientes, contratos, código fuente o información interna de las organizaciones.
Y ese hábito no ha hecho más que crecer.
En su informe de 2026, Cyberhaven encontró que casi cuatro de cada diez interacciones con herramientas de IA, un 39,7 %, ya involucran datos sensibles. También señaló que, en promedio, cada empleado introduce información confidencial en una herramienta de IA una vez cada tres días.
Dicho de forma sencilla: sin darnos cuenta, podemos estar alimentando a las herramientas de IA con datos centrales de nuestras organizaciones.
A veces puede ocurrir por descuido y otras veces por falta de criterio. Lo bueno es que el criterio se puede aprender.
Cuando trabajar más rápido expone información sensible
En 2023, ingenieros de Samsung pegaron código fuente y notas de una reunión interna en ChatGPT con el objetivo de trabajar más rápido.
En pocas semanas se registraron tres incidentes similares y la empresa terminó restringiendo el uso de herramientas de Inteligencia Artificial generativa entre sus empleados.
Lo importante no es señalar que esas personas fueron imprudentes. La realidad es que cualquiera de nosotros podría cometer un error parecido cuando nadie nos ha explicado claramente qué ocurre con la información que escribimos o cargamos en una herramienta de IA.
¿Qué ocurre con lo que escribimos en una IA?
Cuando utilizas una herramienta de IA en línea, la información que escribes normalmente se envía a los servidores de la empresa que ofrece el servicio. No permanece únicamente en tu computadora o teléfono.
Dependiendo de la herramienta, del tipo de cuenta y de su configuración, las conversaciones pueden almacenarse durante cierto tiempo, revisarse para prevenir abusos o utilizarse para mejorar los modelos.
En algunas cuentas personales, el uso de las conversaciones para mejorar el modelo puede estar activado de manera predeterminada, aunque normalmente existen controles para desactivarlo. Las condiciones son diferentes en algunas soluciones empresariales.
El riesgo de fondo es sencillo de entender: cuando compartes información con un servicio externo, dejas de tener control exclusivo sobre ella.
Por eso es importante revisar las políticas de privacidad, los controles de datos y las condiciones específicas de la herramienta antes de compartir documentos o información sensible.
La privacidad de los datos es un asunto serio
En diciembre de 2024, la autoridad italiana de protección de datos sancionó a OpenAI con una multa de 15 millones de euros por asuntos relacionados con el tratamiento de datos personales.
OpenAI anunció que apelaría la decisión. Independientemente del resultado final del proceso, el caso demuestra que la privacidad en las herramientas de IA es un asunto serio y que continúa siendo objeto de regulación, investigación y debate.
No todas las herramientas funcionan igual
Aquí conviene hacer una distinción importante: no todas las herramientas ni todos los tipos de cuenta ofrecen las mismas condiciones de privacidad y protección.
Las versiones empresariales, como ChatGPT Enterprise o Microsoft 365 Copilot, ofrecen protecciones diferentes. Según sus políticas oficiales, los datos empresariales y las conversaciones de trabajo no se utilizan de forma predeterminada para entrenar sus modelos base.
Estas soluciones también pueden incorporar controles administrativos, permisos organizacionales y políticas de seguridad definidas por la empresa.
El problema aparece cuando utilizamos una versión gratuita o personal para realizar tareas del trabajo, algo mucho más común de lo que parece.
En esos casos, la información sensible de una organización puede terminar almacenada en un servicio que la empresa no administra ni controla.
Si tu organización te proporciona una herramienta corporativa, utilízala para el trabajo y reserva las cuentas personales para asuntos personales.
El criterio de esta semana
Nada de esto significa que debamos utilizar la Inteligencia Artificial con miedo. Significa que necesitamos utilizarla con criterio.
Nunca compartas información sin saber quién puede verla o utilizarla.
Antes de escribir algo en una herramienta de IA, hazte esta pregunta:
¿Me molestaría que esta información apareciera en una pantalla que no controlo?
Si la respuesta es sí, no la escribas.
Información que no deberías compartir
Estas son algunas categorías de información que conviene no compartir con una herramienta de IA de uso general:
- Datos personales de identificación: números de documentos, direcciones exactas, información bancaria o números de seguridad social.
- Contraseñas y claves de acceso: incluso cuando compartirlas parezca una forma rápida de solicitar ayuda.
- Información de otras personas: datos de clientes, pacientes, estudiantes, compañeros de trabajo o familiares. Esa información no te pertenece exclusivamente y no deberías compartirla sin autorización.
- Información confidencial de una empresa: contratos, código fuente, estrategias, credenciales, datos financieros, procesos internos o información todavía no publicada.
- Documentos legales o médicos completos: especialmente cuando contienen nombres reales, números de identificación, direcciones, diagnósticos u otra información privada.
¿Qué puedes hacer si necesitas ayuda con un documento real?
Elimina los nombres y reemplázalos por etiquetas genéricas, como Cliente A, Empresa B o Persona 1.
Borra números de identificación, direcciones, teléfonos, correos electrónicos, datos bancarios y cualquier otro elemento que permita identificar a una persona o empresa.
Después, trabaja únicamente con la versión anonimizada del documento. De esta manera puedes recibir ayuda sin exponer innecesariamente a otras personas o a tu organización.
El reto de esta semana
Es momento de pasar del criterio a la acción:
- Nivel fácil: abre la herramienta de IA que más utilizas, revisa tu historial y elimina las conversaciones con información sensible que ya no necesitas.
- Nivel intermedio: entra en la configuración de privacidad o controles de datos y decide, de manera consciente, si deseas que tus conversaciones se utilicen para mejorar o entrenar el modelo.
- Nivel avanzado: para temas sensibles, utiliza el modo de chat temporal cuando esté disponible o crea versiones anonimizadas antes de cargar documentos. Convierte esta práctica en un hábito, no en un esfuerzo aislado.
Casi nadie revisa esta configuración. Hazlo con criterio para proteger mejor tu privacidad y utilizar la tecnología con mayor confianza.
Una responsabilidad para quienes lideran equipos
Para quienes lideran equipos, esto dejó de ser un detalle personal y se convirtió en una parte de la cultura organizacional.
Probablemente tu equipo ya utiliza herramientas de IA. La pregunta es: ¿tiene el criterio necesario para hacerlo de manera segura?
La Inteligencia Artificial debe ampliar nuestra capacidad de decidir, nunca reemplazarla. Proteger lo que compartimos es la primera forma de mantener esa decisión en nuestras manos.
Este es el primer criterio de diez de la serie IA Sin Miedo. Publicaremos uno nuevo cada semana.
¿Tu organización tiene reglas claras sobre qué información se puede y no se puede compartir con una IA, o todavía es tierra de nadie?