Una investigadora alerta sobre los peligros del «aprendizaje automático malévolo»

💿 ¡Oferta especial de Pascua! ¡Windows 11 por solo 13,45€ y Office 2021 Pro por 25,25€! [ Saber más ]

Dawn Song, una especialista en riesgos de seguridad relacionados con el aprendizaje automático, ha advertido sobre un posible ataque a los sistemas de IA en una reciente conferencia.

Según Song, las nuevas técnicas para manipular los sistemas de aprendizaje automático podrían usarse para atacar casi cualquier sistema basado en la tecnología.

Esta técnica, conocida como aprendizaje automático malévolo, puede conllevar tanto la introducción de datos en un algoritmo para revelar la información con la que ha sido entrenado, como su distorsión para que el sistema funcione mal.

Song mostró varios ejemplos de aprendizaje malévolo. Un proyecto realizado junto con Google para generar respuestas automáticas a partir de correos, demostró que es posible hacer que la IA revele datos confidenciales, como los números de las tarjetas de crédito presentes en los mensajes utilizados para entrenar al sistema, si se crean los mensajes adecuados.

Google ha utilizado estos resultados para evitar que Smart Compose, la herramienta que genera texto automáticamente en Gmail, fuera explotada.

Dawn Song

Otro proyecto consistió en añadir unas pegatinas aparentemente inocentes a las señales de tráfico para engañar a los sistemas de visión artificial de muchos vehículos. En un vídeo, un coche era engañado para que interpretase una señal de STOP como una señal de límite de velocidad de 50 Km/h. Esto podría ser un gran problema para coches autónomos.

Las técnicas de aprendizaje automático malévolo interesan mucho al sector de Defensa. Este año, el Pentágono lanzó un proyecto para estudiar el aprendizaje automático malévolo y crear modelos de IA capaces de resistir a estos ataques.  |  Fuente: Technology Review

💿 ¡Oferta especial de Pascua! ¡Windows 11 por solo 13,45€ y Office 2021 Pro por 25,25€! [ Saber más ]

¿Cuál es tu reacción?
Sorprendido
0%
Feliz
0%
Indiferente
0%
Triste
0%
Enfadado
0%
Aburrido
0%
Incrédulo
0%
¡Buen trabajo!
0%
Sobre el Autor
Luis A.
Luis es el creador y editor jefe de Teknófilo. Se aficionó a la tecnología con un Commodore 64 e hizo sus pinitos programando gracias a los míticos libros de 🛒 'BASIC para niños' con 11 años. Con el paso de los años, la afición a los ordenadores se ha extendido a cualquier cacharrito que tenga una pantalla y CPU.
Comentarios
Deja un comentario

Deja un comentario