Así como los ingenieros de software utilizan la inteligencia artificial para ayudar a escribir código y buscar errores, los piratas informáticos utilizan estas herramientas para reducir el tiempo y el esfuerzo necesarios para orquestar un ataque, reduciendo las barreras para que los atacantes menos experimentados prueben algo.
Algunos en Silicon Valley advierten que la IA está a punto de poder llevar a cabo ataques totalmente automatizados. Pero la mayoría de los investigadores de seguridad sostienen que deberíamos prestar más atención a los riesgos mucho más inmediatos que plantea la IA, que ya está acelerando y aumentando el volumen de estafas.
Los delincuentes explotan cada vez más las últimas tecnologías deepfake para hacerse pasar por personas y estafar a las víctimas con grandes sumas de dinero. Y debemos estar preparados para lo que viene después. Lea la historia completa.
—Rhiannon Williams
Esta historia es de la próxima edición impresa de Revisión de tecnología del MIT revista, que trata sobre el crimen. Si aún no lo has hecho, suscríbete ahora para recibir emisiones futuras una vez que aterricen.
¿Es posible un asistente de IA seguro?
Los agentes de IA son un negocio arriesgado. Incluso cuando están atrapados dentro de la ventana del chat, los LLM cometerán errores y se comportarán mal. Una vez que cuentan con herramientas que pueden utilizar para interactuar con el mundo exterior, como navegadores web y direcciones de correo electrónico, las consecuencias de esos errores se vuelven mucho más graves.
El proyecto viral de agentes de IA OpenClaw, que ha aparecido en los titulares de todo el mundo en las últimas semanas, aprovecha los LLM existentes para permitir a los usuarios crear sus propios asistentes personalizados. Para algunos usuarios, esto significa entregar una gran cantidad de datos personales, desde años de correos electrónicos hasta el contenido de su disco duro. Esto ha asustado a los expertos en seguridad.
En respuesta a estas preocupaciones, su creador advirtió que personas sin conocimientos técnicos no deberían utilizar el software. Pero hay un claro apetito por lo que ofrece OpenClaw, y cualquier empresa de inteligencia artificial que desee ingresar al negocio de los asistentes personales deberá descubrir cómo construir un sistema que mantenga los datos de los usuarios seguros y protegidos. Para lograrlo, necesitarán tomar prestados enfoques de la vanguardia de la investigación sobre seguridad de agentes. Lea la historia completa.
—Grace Huckins
