Europol, UNICRI y Trend Micro descubren las amenazas actuales y futuras de la IA y cómo combatirlas
Hoy se ha publicado un nuevo informe elaborado conjuntamente por Europol, el Instituto Interregional de Investigación sobre Justicia y Crimen (UNICRI) de las Naciones Unidas y Trend Micro que analiza los usos delictivos actuales y previstos de la inteligencia artificial (IA). El informe proporciona a los encargados de hacer cumplir la ley, los legisladores y otras organizaciones información sobre ataques existentes y potenciales que aprovechan la inteligencia artificial y recomendaciones sobre cómo mitigar estos riesgos. Lea el informe completo: Usos maliciosos y abusos de la inteligencia artificial. “La IA promete al mundo una mayor eficiencia, automatización y autonomía. En un momento en el que el público está cada vez más preocupado por el posible uso indebido de la IA, tenemos que ser transparentes sobre las amenazas, pero también analizar los beneficios potenciales de la tecnología de IA ". dijo Edvardas Šileris, director del Centro Europeo de Ciberdelincuencia de Europol. “Este informe nos ayudará no solo a anticipar posibles usos maliciosos y abusos de la IA, sino también a prevenir y mitigar esas amenazas de manera proactiva. Así es como podemos desbloquear el potencial que tiene la IA y beneficiarnos del uso positivo de los sistemas de IA ". El informe concluye que los ciberdelincuentes aprovecharán la IA como vector de ataque y como superficie de ataque. Las falsificaciones profundas son actualmente el uso más conocido de la IA como vector de ataque. Sin embargo, el informe advierte que se necesitarán nuevas tecnologías de detección en el futuro para mitigar el riesgo de campañas de desinformación y extorsión, así como las amenazas que apuntan a conjuntos de datos de IA. Por ejemplo, la IA podría usarse para respaldar:
convencer a los ataques de ingeniería social a gran escala;
malware de rastreo de documentos para hacer que los ataques sean más eficientes;
evasión del reconocimiento de imágenes y biometría de voz;
ataques de ransomware, mediante la evasión y la focalización inteligente;
contaminación de datos, mediante la identificación de puntos ciegos en las reglas de detección.
“A medida que las aplicaciones de inteligencia artificial comienzan a tener un gran impacto en el mundo real, se hace evidente que esta será una tecnología fundamental para nuestro futuro”, dijo Irakli Beridze, director del Centro de Inteligencia Artificial y Robótica de UNICRI. “Sin embargo, así como los beneficios de la IA para la sociedad son muy reales, también lo es la amenaza del uso malintencionado. Nos sentimos honrados de apoyar a Europol y Trend Micro para arrojar luz sobre el lado oscuro de la IA y estimular un mayor debate sobre este importante tema ". El documento también advierte que se están desarrollando sistemas de inteligencia artificial para mejorar la efectividad del malware y para interrumpir los sistemas de reconocimiento facial y anti-malware. “Los ciberdelincuentes siempre han sido los primeros en adoptar la última tecnología y la IA no es diferente. Como revela este informe, ya se está utilizando para adivinar contraseñas, romper CAPTCHA y clonar voz, y hay muchas más innovaciones maliciosas en proceso ”, dijo Martin Roesler, jefe de investigación de amenazas prospectivas de Trend Micro. “Estamos orgullosos de asociarnos con Europol y UNICRI para crear conciencia sobre estas amenazas y, al hacerlo, ayudar a crear un futuro digital más seguro para todos nosotros”. Las tres organizaciones hacen varias recomendaciones para concluir el informe:
aprovechar el potencial de la tecnología de inteligencia artificial como herramienta de lucha contra el crimen para preparar la industria y la policía de la ciberseguridad en el futuro;
continuar la investigación para estimular el desarrollo de tecnología defensiva;
promover y desarrollar marcos de diseño de IA seguros;
reducir la retórica políticamente cargada sobre el uso de IA con fines de ciberseguridad;
aprovechar las asociaciones público-privadas y establecer grupos de expertos multidisciplinarios;
Acerca del Centro Europeo de Ciberdelincuencia de Europol Europol creó el Centro Europeo de Ciberdelincuencia (EC3) en 2013 para fortalecer la respuesta policial a la ciberdelincuencia en la UE y así ayudar a proteger a los ciudadanos, las empresas y los gobiernos europeos de la delincuencia en línea. Nuestro enfoque está en el ciberdelito cometido por grupos del crimen organizado, que generan grandes beneficios (fraude en línea), dañan gravemente a las víctimas (explotación sexual infantil en línea) o impactan en la infraestructura crítica y los sistemas de información en la UE, incluidos los ciberataques. Desde su creación, el EC3 de Europol ha realizado una contribución significativa a la lucha contra la ciberdelincuencia: ha participado en cientos de operaciones de alto perfil y cientos de despliegues de apoyo operativo sobre el terreno que han dado lugar a cientos de detenciones. Sobre UNICRI El Instituto Interregional de Investigaciones sobre Delincuencia y Justicia de las Naciones Unidas se estableció en 1968. Dentro del amplio alcance de su mandato, el Instituto contribuye, mediante la investigación, la capacitación, las actividades sobre el terreno y la recopilación, el intercambio y la difusión de información, a la formulación y aplicación de mejores políticas en el ámbito de la prevención del delito, la justicia y las nuevas amenazas a la seguridad, prestando la debida atención a la integración de dichas políticas en políticas más amplias para el cambio socioeconómico y el desarrollo, y a la protección de los derechos humanos. En 2017, el UNICRI abrió su Centro de Inteligencia Artificial y Robótica en La Haya, Países Bajos, con miras a avanzar en la comprensión de la inteligencia artificial, la robótica y las tecnologías relacionadas en relación con la prevención del delito, la justicia penal, el estado de derecho y la seguridad. . El Centro busca compartir conocimientos e información sobre las posibles aplicaciones beneficiosas de estas tecnologías y contribuir a abordar los efectos nocivos y el uso malintencionado. Acerca de Trend Micro Trend Micro , líder mundial en ciberseguridad, ayuda a que el mundo sea seguro para el intercambio de información digital. Aprovechando más de 30 años de experiencia en seguridad, investigación de amenazas globales e innovación continua, Trend Micro permite la resiliencia de empresas, gobiernos y consumidores con soluciones conectadas en cargas de trabajo en la nube, terminales, correo electrónico, IIoT y redes. Nuestra estrategia de seguridad XGen ™ impulsa nuestras soluciones con una combinación intergeneracional de técnicas de defensa contra amenazas que están optimizadas para entornos clave y aprovechan la inteligencia de amenazas compartida para una protección mejor y más rápida. Con más de 6.700 empleados en 65 países y la investigación e inteligencia de amenazas globales más avanzadas del mundo, Trend Micro permite a las organizaciones proteger su mundo conectado.