> Anthropic, la empresa creadora del modelo de lenguaje Claude, ha confirmado que durante pruebas de seguridad autorizadas, su IA logró infiltrarse en los sistemas de 3 organizaciones. Estos test de penetración revelan que los modelos de IA actuales no solo generan texto, sino que pueden realizar acciones complejas como enviar correos de phishing o explotar vulnerabilidades de software de forma autónoma.
Hablando con Alejandro Gómez, dueño de una pequeña empresa de tecnología en Almería, me contaba que según un informe de McKinsey, el 60% de las empresas españolas han sufrido algún tipo de ciberataque en los últimos años. Lo curioso es que Alejandro, que lleva veinte años en el sector, no estaba sorprendido por la cifra. "El problema ya no es si te van a atacar, sino cuándo y cómo", me dijo mientras tomábamos un café en su oficina del Parque Científico de Almería.
La noticia que nos ocupa
Recientemente, se ha sabido que Anthropic informó que su modelo de lenguaje Claude había logrado infiltrarse en 3 organizaciones durante pruebas de seguridad cibernética. Lo que me sorprendió fue la naturalidad con la que Alejandro hablaba de esto, como si fuera algo esperado. Y tiene razón, en cierto modo.
Las pruebas consistían en algo llamado "red teaming" avanzado. Básicamente, dan a la IA un objetivo, como acceder a un sistema concreto, un límite de presupuesto y unas horas de tiempo. La IA tiene que usar su ingenio, coordinar herramientas, escribir código y ejecutar acciones. Nada de eso es nuevo por separado. Lo nuevo es que la IA lo hace sola, coordinando todo el proceso de principio a fin.
En las pruebas, Claude logró enviar correos de phishing personalizados a empleados de esas organizaciones, correos que parecían legítimos porque la IA había investigado los intereses y el contexto de cada persona. También explotó vulnerabilidades conocidas del sistema. No fue un ataque sofisticado, sino más bien lo contrario: fue eficiente y rápido, mucho más de lo que habría sido con un humano al mando.
Nadie habla de esto pero, para mí, la implicación más profunda es otra. No se trata de que Claude sea mejor o peor hacker que un humano. Se trata de que la barrera de entrada al cibercrimen acaba de derrumbarse. Ya no necesitas años de formación en seguridad informática para lanzar un ataque coordinado. Necesitas una suscripción a un modelo de IA, tiempo y algo de creatividad.
> Según el INE, el 84,7% de las empresas españolas con más de 10 empleados utiliza algún tipo de medida de seguridad TIC, pero solo el 33,6% tiene una política de seguridad documentada (INE, 2024).
El verdadero problema: la asimetría
Lo que más me preocupa, y lo hablábamos largo y tendido con Alejandro, es la asimetría que esto crea. Una gran empresa puede permitirse equipos de seguridad de decenas de personas, firewalls corporativos, SOC (centros de operaciones de seguridad) funcionando 24/7. Una pyme como la tuya o la mía no puede.
Y sin embargo, los atacantes ahora tienen la misma potencia de fuego en ambos casos.
Alejandro me lo resumía con una frase que se me quedó grabada: "Antes, atacar a una empresa pequeña no era rentable. El esfuerzo era el mismo que atacar a una grande, pero el beneficio era menor. Ahora el esfuerzo es casi cero, así que atacan a todos a la vez".
Esto lo cambia todo para las pymes y autónomos en España. El 94% de las empresas españolas tiene menos de 10 trabajadores (Ministerio de Industria, 2024). Son el tejido productivo del país, y son justo las que menos preparadas están para defenderse de ataques automatizados.
¿Qué significa esto en la práctica?
Si tienes un negocio pequeño, probablemente estés pensando que esto no va contigo. Que tu empresa no es un objetivo interesante. Y ahí está el error.
Los ataques automatizados no distinguen entre una multinacional y una tienda de barrio. Lanzan miles de intentos a la vez y se quedan con lo que pillan. Un ransomware que cifra los datos de tu clínica dental o de tu asesoría vale lo mismo que el que cifra los de un banco.
La diferencia es que el banco tiene copias de seguridad y un equipo que restaura los sistemas en horas. Tu negocio, quizás no.
> La seguridad ya no es un problema de "grandes empresas con datos valiosos". Es un problema de supervivencia básica para cualquier negocio que dependa de sus datos para operar.
Lo que nadie te dice de los modelos de IA y la seguridad
Hay un aspecto de esta noticia que apenas ha salido en los medios. Y es que el éxito de Claude en esas pruebas no fue un accidente ni un fallo del sistema. Fue el resultado de entrenar al modelo para que fuera útil en entornos de agentes autónomos, es decir, para que pudiera tomar decisiones y ejecutar acciones por sí mismo.
Cuanto más autónomos sean estos sistemas, más útil será la IA para automatizar tu negocio. También más peligrosa es cuando cae en manos equivocadas.
Llevo meses trabajando con empresas de Almería en la implementación de sistemas de IA, y una de las preguntas que más me repiten es: "¿Puede mi chatbot de atención al cliente ser hackeado?". La respuesta honesta es que sí, puede. Todo software puede ser hackeado. Pero la pregunta que deberían hacerse es otra: "¿Qué haría un atacante con acceso a mi chatbot?".
En el caso de un chatbot que solo responde preguntas frecuentes, el daño es limitado. Pero si tu sistema de IA tiene acceso a tu base de clientes, a tu CRM o a tus facturas, el riesgo cambia. Y con la tendencia actual de dar a la IA más herramientas y más permisos, esto va a ser un problema creciente.
Desde Script Finance, que es la consultora de IA donde trabajo, siempre recomendamos lo mismo a nuestros clientes: empieza con proyectos pequeños de IA, mide los resultados, y sobre todo, limita los permisos que das a tus sistemas. Un chatbot de atención al cliente no necesita acceso a tu base de datos completa. Puede funcionar perfectamente con un conjunto limitado de información.
El marco legal: la nueva directiva NIS2
España está en plena transposición de la Directiva NIS2 de la Unión Europea, que amplía enormemente el número de empresas obligadas a cumplir requisitos de ciberseguridad. Antes, solo las grandes empresas de sectores críticos tenían esta obligación. Ahora, cualquier empresa de más de 50 empleados o con una facturación superior a 10 millones de euros en sectores como alimentación, logística o fabricación, tendrá que demostrar que tiene medidas de seguridad adecuadas.
Y las sanciones pueden llegar al 2% del facturación global.
Lo que me llama la atención es que, en mis conversaciones con empresarios de la zona, casi nadie conoce esta norma. Me sorprende la desconexión entre la velocidad a la que se mueven los reguladores y la lentitud con la que las pequeñas empresas se están enterando de lo que les viene encima.
> Una empresa de distribución alimentaria en Almería con 45 empleados y una facturación de 8 millones de euros estaría dentro del ámbito de aplicación de NIS2. Si no cumple con los requisitos de seguridad y sufre un ataque que afecte a sus clientes, se enfrenta a sanciones de hasta 400.000 euros.
La parte positiva de todo esto
No quiero ser catastrofista. Aunque el panorama suena oscuro, también hay una oportunidad enorme aquí.
La misma tecnología que está bajando la barrera de entrada para los ciberdelincuentes está bajando la barrera de entrada para la defensa. Ya no necesitas un SIEM (sistema de gestión de eventos e información de seguridad) de 50.000 euros al año para proteger tu negocio. Ahora hay servicios de monitorización continua que se adaptan a presupuestos mucho más reducidos.
La IA también puede ayudarte a hacer copias de seguridad inteligentes, a detectar patrones de acceso anómalos o a mantener tus sistemas actualizados. No es magia, pero sí es una ayuda práctica.
Lo que aprendí de mi conversación con Alejandro es que el problema no es la tecnología. El problema es la mentalidad. La mayoría de las pymes siguen pensando que la seguridad es un gasto, cuando en realidad es el seguro de vida de su negocio.
Y no me refiero solo a la seguridad técnica. Me refiero a tener un plan: saber qué hacer si te atacan, tener copias de seguridad probadas, tener a alguien que sepa reaccionar. Eso no es caro. Es cuestión de dedicarle tiempo.
El otro día, un cliente me preguntó si su empresa estaba preparada para un ciberataque. Antes de responderle, le hice otra pregunta: "¿Sabes cuánto tiempo puedes estar sin acceso a tus datos antes de que tu negocio empiece a perder dinero de verdad?". Se quedó en silencio.
Ese silencio es, para mí, la verdadera medida del desafío que tenemos por delante. No el hecho de que una IA haya logrado colarse en tres organizaciones. Sino el hecho de que la mayoría de las empresas todavía no sabe qué haría si eso les pasara a ellas.
La seguridad cibernética no es un departamento de una gran empresa tecnológica. Es una decisión que cada negocio, por pequeño que sea, tiene que tomar hoy. Con o sin IA.
