Durante años nos enseñaron que nunca debíamos compartir nuestros passwords con desconocidos. Sin embargo, hoy estamos haciendo algo que antes hubiese parecido una locura: permitir que una inteligencia artificial tenga acceso a nuestros emails, documentos, calendarios y hasta información personal. Y lo hacemos voluntariamente.

Todo comienza bastante sencillo. Descubrimos ChatGPT, le hacemos preguntas, le pedimos que nos redacte un email y poco a poco comenzamos a confiar. De repente descubrimos los plugins, que nos permiten conectarlo a Gmail, Google Drive, Dropbox y otros servicios para que trabaje directamente con nuestra información. Algo que también podemos hacer con otras AI como Gemini de Google, Claude de Anthropic y las herramientas de Meta.

Pero una cosa es pedirle a una AI que redacte un email y otra muy distinta es permitirle que lo envíe por nosotros.

Recientemente, Anthropic, la compañía detrás de Claude, estaba realizando unas pruebas para que su inteligencia artificial navegara por diferentes páginas de Internet. En una de ellas encontró un formulario de la Policía de Filadelfia para reportar información sobre asesinatos sin resolver. ¿Qué hizo Claude? Inventó un supuesto testimonio y lo envió. El mensaje terminó en spam, pero Anthropic tardó 72 días en descubrir lo sucedido.

Algo parecido ocurrió en India, donde varias compañías estaban probando sus agentes de AI para investigar en Internet. Durante las pruebas, algunos encontraron información que les permitió entrar a sistemas de empresas y consultar documentos confidenciales sin autorización. Ninguna de las empresas detectó las intrusiones. Fueron los desarrolladores de las AI quienes terminaron reportándolas al gobierno.

Y tenemos otro caso que parece el comienzo de una película de horror de Hollywood. Un usuario en Canadá utilizó un agente autónomo de AI para vender un teclado en Facebook Marketplace. Básicamente, le encargó todo el proceso, desde negociar con posibles compradores hasta cerrar el deal. El agente terminó compartiendo la dirección de su casa sin pedirle autorización específica, provocando que un desconocido llegara a su residencia de noche. La AI estaba haciendo el trabajo que le pidieron, pero tomó una decisión que su dueño no esperaba.

Esto no significa que las inteligencias artificiales estén desarrollando conciencia o que quieran hacernos daño. Estamos hablando de sistemas que se encargan de interpretar instrucciones y ejecutar tareas sin que necesariamente nosotros estemos pendientes de cada paso.

Y eso me lleva a una pregunta: ¿cómo sabemos que nuestra AI está haciendo solamente lo que le pedimos?

Estas plataformas cuentan con mecanismos de seguridad, pero no todos funcionan igual. Algunos agentes pueden consultar información, mientras otros también pueden modificar archivos, enviar mensajes o realizar gestiones. Incluso las políticas sobre utilizar nuestros datos para entrenar sus modelos cambian dependiendo de la compañía y nuestras configuraciones.

El problema es que, aunque podamos revisar los permisos que les damos, no necesariamente tenemos visibilidad de todo lo que ocurre detrás de estas herramientas. Por eso es importante verificar qué información pueden consultar y qué acciones necesitan nuestro approval.

No estoy diciendo que dejemos de utilizar inteligencia artificial o que le tengamos miedo. Yo mismo la utilizo constantemente y reconozco cuánto me facilita el trabajo. Pero mientras más cómoda se vuelve nuestra relación con estas herramientas, más fácil es que se nos olvide cuánto acceso les hemos dado.