A era do agente de IA com acesso total chegou

Durante anos, o custo de utilização de serviços “gratuitos” de Google, Facebook, Microsofte outras grandes empresas de tecnologia estão entregando seus dados. Carregar a sua vida na nuvem e usar tecnologia gratuita traz conveniências, mas coloca as informações pessoais nas mãos de corporações gigantes que muitas vezes procuram monetizá-las. Agora, o próxima onda de IA generativa os sistemas provavelmente desejarão mais acesso aos seus dados do que nunca.

Nos últimos dois anos, ferramentas generativas de IA, como OpenAIde Bate-papoGPT e do Google Gêmeos– foram além dos chatbots relativamente simples e somente de texto que as empresas lançaram inicialmente. Em vez disso, a Big AI está cada vez mais construindo e impulsionando a adoção de agentes e “assistentes” que prometem que podem realizar ações e concluir tarefas em seu nome. O problema? Para tirar o máximo proveito deles, você precisará conceder-lhes acesso aos seus sistemas e dados. Embora grande parte da controvérsia inicial sobre os grandes modelos de linguagem (LLMs) tenha sido a cópia flagrante de dados protegidos por direitos autorais on-line, o acesso dos agentes de IA aos seus dados pessoais provavelmente causará uma nova série de problemas.

“Os agentes de IA, para terem todas as suas funcionalidades, para poderem acessar aplicativos, muitas vezes precisam acessar o sistema operacional ou o nível do sistema operacional do dispositivo no qual você os está executando”, diz Harry Farmer, pesquisador sênior do Instituto Ada Lovelace, cujo trabalho incluiu o estudo do impacto dos assistentes de IA e descobriu que podem causar “ameaça profunda” à segurança cibernética e à privacidade. Para personalização de chatbots ou assistentes, diz Farmer, pode haver compensações de dados. “Todas essas coisas, para funcionarem, precisam de muitas informações sobre você”, diz ele.

Embora não haja uma definição estrita do que realmente é um agente de IA, muitas vezes é melhor considerá-lo como um sistema de IA generativo ou LLM que foi fornecido algum nível de autonomia. Neste momento, agentes ou assistentes, incluindo Navegadores da web com IApode assumir o controle do seu dispositivo e navegar na Web para você, reservando voos, realizando pesquisas ou adicionando itens para carrinhos de compras. Alguns podem completar tarefas que incluem dezenas de etapas individuais.

Embora os atuais agentes de IA sejam problemáticos e muitas vezes não consigo concluir as tarefas eles foram determinados a fazeras empresas de tecnologia estão apostando que os sistemas irão fundamentalmente mudar empregos de milhões de pessoas à medida que se tornam mais capazes. Uma parte fundamental da sua utilidade provavelmente vem do acesso aos dados. Portanto, se você deseja um sistema que forneça sua agenda e tarefas, ele precisará de acesso ao seu calendário, mensagens, e-mails e muito mais.

Alguns produtos e recursos de IA mais avançados fornecem uma ideia de quanto acesso os agentes e sistemas poderiam receber. Certos agentes que estão sendo desenvolvidos para empresas podem ler códigoe-mails, bancos de dadosmensagens do Slack, arquivos armazenados no Google Drive e muito mais. O polêmico recall da Microsoft O produto tira capturas de tela da sua área de trabalho a cada poucos segundos, para que você possa pesquisar tudo o que fez no seu dispositivo. O Tinder criou um recurso de IA que pode pesquisar através de fotos no seu telefone “para entender melhor” os “interesses e personalidade” dos usuários.

Carissa Véliz, autora e professora associada da Universidade de Oxford, diz que na maioria das vezes os consumidores não têm uma forma real de verificar se a IA ou as empresas de tecnologia estão a tratar os seus dados da forma que afirmam. “Essas empresas são muito promíscuas com dados”, diz Véliz. “Eles demonstraram não respeitar muito a privacidade.”