Cuatro formas en que los delincuentes pueden usar la IA para atacar a más víctimas

Las advertencias de inteligencia artificial (IA) son omnipresentes en estos días. concluyeron noticias de miedo sobre el potencial de la inteligencia artificial para provocar la extinción de los humanos, evocando imágenes de las películas de Terminator. El primer ministro británico Rishi Sunak empató organizar una cumbre para discutir la seguridad de la inteligencia artificial.

Sin embargo, hemos estado usando herramientas de IA durante mucho tiempo, a partir de los algoritmos que hemos usado. recomendar los productos adecuados en sitios web de tiendas, hasta automóviles con tecnología que reconoce las señales de tráfico Y proporciona posicionamiento de carril. La inteligencia artificial es una herramienta que aumenta la eficiencia, procesa y ordena grandes cantidades de datos y alivia la toma de decisiones.

Sin embargo, estas herramientas están disponibles para todos, incluidos los delincuentes. Ya estamos viendo una fase temprana de adopción de inteligencia artificial por parte de los delincuentes. La tecnología Deepfake se utilizó para esto. generar porno de venganzaPor ejemplo.

Tecnología aumenta la eficacia de las actividades delictivas. Permite a los delincuentes apuntar a más personas y les ayuda a ser más creíbles. Observar cómo los delincuentes se han adaptado y adoptado los avances tecnológicos en el pasado puede proporcionar pistas sobre cómo podrían usar la IA.

1. Un mejor anzuelo de phishing

Herramientas de inteligencia artificial como ChatGPT Y Bardo de Google proporcionar asistencia en la redacción, lo que permite, por ejemplo, a los escritores sin experiencia crear mensajes de marketing efectivos. Sin embargo, esta tecnología también puede ayudar a los delincuentes a sonar más creíbles cuando contactan a víctimas potenciales.

Piense en todos esos correos electrónicos no deseados y textos de phishing que están mal escritos y son fáciles de detectar. Ser creíble es la clave para obtener información de la víctima.

El phishing es un juego de números: un un estimado de 3.400 millones de mensajes de spam se envían diariamente. Según mis propios cálculos, si los delincuentes pudieran mejorar sus mensajes para que solo el 0,000005 % de ellos convencieran a alguien de filtrar información, eso significaría 6,2 millones más de víctimas de phishing cada año.

2. Interacciones automatizadas

Uno de los primeros usos de las herramientas de IA fue automatizar las interacciones entre los clientes y los servicios a través de mensajes de texto, chat y teléfono. Esto permitió una respuesta más rápida a las necesidades de los clientes y un rendimiento comercial optimizado. Es probable que su primer contacto con la organización sea con el sistema de inteligencia artificial antes de comenzar a hablar con un humano.

Los delincuentes pueden usar las mismas herramientas para crear interacciones automatizadas con una gran cantidad de víctimas potenciales, en una escala imposible si tan solo lo hicieran los humanos. Pueden hacerse pasar por servicios legítimos como bancos por teléfono y correo electrónico en un intento de obtener información que les permita robar su dinero.

3. Falsificaciones profundas

La IA es realmente buena para generar modelos matemáticos que pueden “entrenarse” en grandes cantidades de datos reales, lo que hace que estos modelos sean mejores en una tarea determinada. Un ejemplo de esto es la tecnología Deepfake en video y audio. Deepfake nombrado Metafísicademostró recientemente el potencial de esta tecnología con un video Simon Cowell canta ópera en America’s Got Talent.

Esta tecnología está fuera del alcance de la mayoría de los delincuentes, pero la capacidad de usar la IA para imitar la forma en que una persona responde a los mensajes de texto, escribe correos electrónicos, deja notas de voz o hace llamadas telefónicas está disponible a través de la IA. Al igual que los datos de su entrenamiento, que se pueden recopilar de videos de redes sociales, por ejemplo.

Las redes sociales siempre han sido un rico recurso para que los delincuentes extraigan información sobre posibles objetivos. Ahora es posible usar inteligencia artificial para crear una versión falsa de ti. Este deepfake se puede usar para interactuar con amigos y familiares, convenciéndolos de que brinden información sobre usted a los delincuentes. Conquista una mejor visión de tu vida lo hace más fácil de adivinar contraseñas o pines.

4. Extorsión brutal

Otra técnica utilizada por los delincuentes, llamada “extorsión bruta”, también puede beneficiarse de la IA. Aquí, se prueban múltiples combinaciones de caracteres y símbolos uno por uno para ver si coinciden con sus contraseñas.

Por lo tanto, las contraseñas largas y complejas son más seguras; son más difíciles de adivinar con este método. La fuerza bruta requiere muchos recursos, pero es más fácil si sabes algo sobre la persona. Esto permite, por ejemplo, organizar listas de posibles contraseñas por prioridad, aumentando la eficiencia del proceso. Por ejemplo, pueden comenzar con combinaciones que hacen referencia a los nombres de familiares o mascotas.

Los algoritmos entrenados en sus datos pueden ayudarlo a crear estas listas priorizadas con mayor precisión y dirigirse a varias personas a la vez, por lo que se requieren menos recursos. Se pueden desarrollar herramientas especiales de IA que recopilan sus datos en línea y luego los analizan para crear su perfil.

Por ejemplo, si publica con frecuencia sobre Taylor Swift en las redes sociales, revisar manualmente sus publicaciones en busca de pistas de contraseña sería un trabajo difícil. Las herramientas automatizadas hacen esto de manera rápida y eficiente. Toda esta información se utilizará para crear un perfil, lo que facilita adivinar contraseñas y pines.

Escepticismo saludable

No debes tener miedo a la inteligencia artificial, porque puede traer beneficios reales a la sociedad. Pero como con cualquier nueva tecnología, la sociedad tiene que adaptarse y comprenderla. Aunque ahora damos por hecho los smartphones, la sociedad ha tenido que adaptarse a su presencia en nuestras vidas. Estos han sido en gran medida beneficiosos, pero persisten las incertidumbres, como la gran cantidad de tiempo que pasan los niños frente a la pantalla.

Como individuos, debemos ser proactivos en nuestros intentos de comprender la IA, no complacernos. Deberíamos desarrollar nuestro propio enfoque para esto mientras mantenemos un saludable sentido de escepticismo. Tendremos que considerar cómo verificamos la veracidad de lo que leemos, escuchamos o vemos.

Estos sencillos pasos ayudarán a la sociedad a cosechar los beneficios de la IA mientras se protegen contra posibles daños.

Este artículo ha sido republicado desde Conversación bajo una licencia Creative Commons. leer artículo original.