Para la privacidad y seguridad, piensa dos veces antes de conceder acceso a tu información personal a la inteligencia artificial.
Créditos de la imagen: Bryce Durbin / TechCrunch
La IA se está imponiendo en casi todos los aspectos de la vida, desde teléfonos y aplicaciones hasta motores de búsqueda y incluso comederos de autoservicio, por alguna razón. El hecho de que ahora estemos obteniendo navegadores web con asistentes de IA y chatbots integrados muestra que la forma en que algunas personas están utilizando Internet para buscar y consumir información hoy en día es muy diferente de hace unos pocos años.
Pero las herramientas de IA cada vez más solicitan niveles groseros de acceso a tus datos personales bajo el pretexto de necesitarlos para funcionar. Este tipo de acceso no es normal, ni debería ser normalizado.
No hace mucho tiempo, tendrías razón al cuestionar por qué una aplicación gratuita y aparentemente inofensiva como una “linterna” o una “calculadora” en la tienda de aplicaciones intentaría solicitar acceso a tus contactos, fotos y hasta tu ubicación en tiempo real. Estas aplicaciones no necesitan ese dato para funcionar, pero lo solicitarán si creen que pueden ganar un par de dólares comercializando tu datos.
En estos días, la IA no es muy diferente.
Tomemos, por ejemplo, el último navegador web con IA de Perplexity, Comet. Comet permite a los usuarios encontrar respuestas con su motor de búsqueda de IA integrado y automatizar tareas rutinarias, como resumir correos electrónicos y eventos de calendario.
En una reciente prueba práctica con el navegador, TechCrunch encontró que cuando Perplexity solicita acceso al calendario de Google de un usuario, el navegador pide una amplia gama de permisos para la cuenta de Google del usuario, incluyendo la capacidad de gestionar borradores y enviar correos electrónicos, descargar tus contactos, ver y editar eventos en todos tus calendarios, y hasta la capacidad de hacer una copia de tu directorio de empleados de la empresa.
Acceso solicitado por Comet a la cuenta de Google de un usuario.
Perplexity dice que gran parte de este dato se almacena localmente en tu dispositivo, pero aún estás otorgando a la empresa derechos para acceder y utilizar tu información personal, incluyendo para mejorar sus modelos de IA para todos los demás.
Perplexity no está solo. Las populares aplicaciones y servicios de IA que prometen transcribir tus llamadas o reuniones de trabajo requieren que invites a tu asistente de IA a tu reunión para producir una transcripción generada por IA de tu conversación privada. Meta también ha estado probando los límites de lo que sus aplicaciones de IA pueden solicitar acceso, incluyendo acceder a las fotografías almacenadas en la galería de tu cámara que aún no has subido.
La presidenta de Signal, Meredith Whittaker recientemente comparó el uso de agentes y asistentes de IA con “meter tu cerebro en un frasco”. Whittaker explicó cómo algunas aplicaciones de IA pueden prometer hacer todo tipo de tareas cotidianas, como reservar una mesa en un restaurante o comprar una entrada para un concierto. Pero para hacerlo, la IA dirá que necesita tu permiso para abrir tu navegador para cargar el sitio web (lo que puede permitir a la IA acceder a tus contraseñas almacenadas, marcadores y tu historial de navegación), una tarjeta de crédito para hacer la reserva, tu calendario para marcar la fecha, y también puede solicitar abrir tus contactos para compartir la reserva con un amigo.
Existen riesgos serios de seguridad y privacidad al usar asistentes de IA que dependen de tus datos. Al conceder acceso, estás entregando instantáneamente y de manera irreversible los derechos a un instantáneo de tu información más personal en ese momento, desde tu bandeja de entrada, mensajes y entradas de calendario que datan de años atrás, y más. Todo esto para realizar una tarea que supuestamente te ahorra tiempo — o, según Whittaker, te ahorra tener que pensar activamente en ello.
Además, estás otorgando permiso a que el agente de IA actúe por ti, lo que requiere que deposites una gran cantidad de confianza en una tecnología que ya es propensa a cometer errores o inventar cosas equivocarse o decir mentiras. Usar IA también requiere que confíes en las empresas de desarrollo de productos de IA que utilizan tu datos para intentar mejorar sus modelos de IA. Cuando las cosas salen mal (y lo hacen, a menudo), es común que los humanos en las empresas de IA revisen tus prompts privados para averiguar por qué no funcionaron.
Desde una perspectiva de seguridad y privacidad, un simple análisis de costo-beneficio de conectar la IA a tus datos más personales no vale la pena ceder el acceso a tu información más privada. Cualquier aplicación de IA que solicite estos niveles de permisos debería hacer sonar tus alarmas, al igual que la aplicación de linterna que quiere saber tu ubicación en cualquier momento.
Dado el volumen de datos que le entregas a las empresas de IA, pregúntate si realmente vale la pena.