IA nos teus dados: personalização sem vigilância

Queremos uma IA que nos conheça — mas conhecer não devia obrigar a vigiar. Há uma diferença técnica, e não filosófica, entre um modelo treinado com os dados de toda a gente e um modelo que aprende só contigo. Esta é essa diferença, contada pelas fontes.

Ilustração editorial de um modelo de IA pessoal que aprende dentro do teu dispositivo, protegido por um perímetro de privacidade

A promessa da inteligência artificial moderna é sedutora: um assistente que te percebe. Que sabe como escreves, o que procuras, aquilo de que precisas antes de o pedires. Mas há uma pergunta desconfortável escondida debaixo dessa promessa. Para uma máquina te conhecer assim tão bem, quem é que teve de olhar para os teus dados — e o que fica lá guardado, para sempre, depois de olhar?

A resposta habitual da última década foi construir modelos globais: um único cérebro artificial, treinado com montanhas de dados recolhidos de milhões de pessoas, alojado num centro de dados algures. É poderoso. Mas não é neutro do ponto de vista da privacidade — e a razão é técnica, não ideológica.

O modelo que se lembra demais

Ao contrário do que a intuição sugere, um modelo de linguagem não "resume" os dados de treino e deita fora o original. Uma parte fica memorizada — e, com o estímulo certo, o modelo devolve-a tal e qual. Numa investigação de referência sobre o tema, uma equipa liderada por Nicholas Carlini mediu esse fenómeno e concluiu que "a memorização cresce significativamente à medida que aumentam (1) a capacidade do modelo, (2) o número de vezes que um exemplo foi duplicado e (3) o número de tokens de contexto usados para o estimular" (tradução livre) [1]. Por outras palavras: quanto maior e mais treinado o modelo, mais dados verbatim consegue reproduzir. Um endereço, um número, uma frase que só existia num sítio — podem sair de novo.

Os reguladores europeus perceberam a implicação. No parecer que emitiu em dezembro de 2024, o Comité Europeu para a Proteção de Dados (EDPB) foi claro: um modelo de IA treinado com dados pessoais não pode, em todos os casos, ser considerado anónimo [2]. A anonimização tem de ser avaliada caso a caso, e só se sustenta quando é "muito improvável identificar, direta ou indiretamente, as pessoas cujos dados foram usados para criar o modelo" e igualmente improvável "extrair esses dados pessoais do modelo através de consultas" (tradução livre) [2]. É um limiar alto. E muitos modelos globais não o atingem.

O falso dilema: personalizar OU proteger

Daqui costuma nascer um dilema preguiçoso: ou tens uma IA útil, que aprende contigo, ou tens privacidade — escolhe. É falso. A engenharia já resolveu o essencial deste problema há anos, e chama-se aprendizagem federada (federated learning).

A ideia é uma inversão elegante. Em vez de levar os teus dados até ao modelo, leva-se o modelo até aos teus dados. Os investigadores da Google Brendan McMahan e Daniel Ramage descreveram-na assim: "O teu dispositivo descarrega o modelo atual, melhora-o aprendendo com os dados no teu telemóvel e depois resume as alterações numa pequena atualização focada" — e apenas essa atualização, cifrada, sai do aparelho; "todos os dados de treino permanecem no teu dispositivo" (tradução livre) [3]. O modelo aprende o teu padrão sem que o teu padrão saia de casa.

Isto muda a natureza da personalização. Deixa de ser um modelo único que sabe um pouco de toda a gente — e passa a ser, no limite, um modelo teu, afinado ao teu comportamento, que não precisa de te comparar com estranhos para te compreender. Personalizar e centralizar deixaram de ser a mesma coisa.

Um modelo pessoal aprende dentro do dispositivo do utilizador, com os dados a permanecer dentro de um perímetro de privacidade

Porque é que isto importa (sobretudo) no teu dinheiro

Nenhum dado é tão revelador como o financeiro. O extrato conta onde estás, o que consomes, com quem vives, se estás doente, se estás em dificuldades. É por isso que a desconfiança sobe de tom quando a IA se aproxima da carteira — e os números confirmam-no. Uma sondagem da Cisco em 2024 mostrou que 30% dos utilizadores de IA generativa já introduziram informação pessoal ou confidencial nessas ferramentas, ao mesmo tempo que 84% receiam que os dados que partilham acabem por se tornar públicos [4]. Queremos a conveniência; tememos o preço.

No terreno específico do dinheiro, a fronteira é ainda mais nítida. Um inquérito do TD Bank revelou que, embora 78% dos americanos usem já ferramentas de IA no dia a dia, apenas 18% confiariam na IA para fazer recomendações financeiras por si só [5]. As pessoas não rejeitam a tecnologia — rejeitam a opacidade. Kiran Vuppu, Chief Information Officer do TD nos EUA, resumiu-o assim: "Os consumidores estão claramente a sinalizar que a transparência, a segurança e a responsabilização humana não são funcionalidades opcionais; são requisitos fundamentais" (tradução livre) [5].

E a confiança não é um extra decorativo — é o que destrava a adoção. Harvey Jang, Vice-Presidente e Chief Privacy Officer da Cisco, notou que "cerca de 60% dos consumidores conscientes das leis de privacidade sentem-se confortáveis a usar IA", e que "ampliar essa consciência e educar os consumidores sobre os seus direitos vai capacitá-los a tomar decisões informadas" (tradução livre) [4]. Traduzindo para o essencial: quem entende como os seus dados são protegidos usa a tecnologia com menos medo.

Como o AtivaMoney encara isto

O AtivaMoney nasceu do lado certo deste dilema. A filosofia é privacy-first e self-hosted: os teus dados financeiros são teus, não são o nosso produto. Não vivemos de os vender nem de os oferecer a um modelo global para treinar o cérebro de outra empresa. Vivemos da tua subscrição. É uma diferença de modelo de negócio — e o modelo de negócio é que decide, no fim, o que acontece aos teus dados.

Na prática, isso traduz-se em escolhas concretas:

  • Categorização individualizada: a organização das tuas transações aprende com o teu histórico e as tuas correções — não com um perfil-tipo montado a partir de milhões de estranhos. O padrão que interessa é o teu.
  • Minimização, não acumulação: recolhemos o que é preciso para a app funcionar, não tudo o que seria possível recolher "por via das dúvidas". Menos dados guardados é menos superfície de risco.
  • Controlo e portabilidade: exportas o que é teu (CSV/PDF) quando quiseres. E no roteiro está a caminho a opção de teres o AtivaMoney na tua nuvem — sem intermediários. É um compromisso de futuro, não uma promessa já cumprida, e dizemo-lo com honestidade.
  • Sem conflito de interesses: uma app que lucra com os teus dados tem um incentivo silencioso para recolher mais. Uma app que lucra com a tua subscrição tem o incentivo oposto: proteger-te para que fiques.

Não te prometemos um oráculo que decide por ti. Prometemos-te uma ferramenta que aprende contigo e que trabalha para ti — que é, afinal, o que uma IA pessoal devia ser.

5 perguntas a fazer a qualquer IA que toque no teu dinheiro

  1. Onde é que os meus dados são processados? No meu dispositivo, ou enviados para um modelo central de terceiros? Se saem, para onde vão e por quanto tempo ficam.
  2. Os meus dados são usados para treinar modelos partilhados? Se a resposta não for um "não" claro, assume que sim — e vê se podes recusar.
  3. Qual é o modelo de negócio? Pago com dinheiro ou pago com dados? Uma das duas coisas está sempre a acontecer.
  4. Consigo exportar e apagar tudo? Portabilidade (RGPD, art. 20.º) e eliminação real são o teste de fogo de quem respeita que os dados são teus.
  5. A personalização precisa mesmo da nuvem? Se um modelo pode aprender no dispositivo, exigir centralização é uma escolha — não uma inevitabilidade.

A boa notícia deste tema é que a tecnologia para uma IA privada já existe. O que falta, muitas vezes, é a vontade de a usar — e a exigência, do teu lado, de que a usem. Não troques o controlo por conveniência sem perguntar o preço. Pergunta primeiro. Decide depois.

Começa grátis — sem cartão

Referências

  1. Carlini, N., Ippolito, D., Jagielski, M., Lee, K., Tramèr, F. & Zhang, C. — Quantifying Memorization Across Neural Language Models, arXiv:2202.07646, 2022
  2. Comité Europeu para a Proteção de Dados (EDPB) — Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models, 17 de dezembro de 2024
  3. McMahan, B. & Ramage, D. (Google Research) — Federated Learning: Collaborative Machine Learning without Centralized Training Data, 2017
  4. Cisco — 2024 Consumer Privacy Survey (declarações de Harvey Jang, VP & Chief Privacy Officer), outubro de 2024
  5. TD Bank — Nearly 80% of Americans use AI Tools but Most Still Want Humans Making Financial Decisions (declarações de Kiran Vuppu, U.S. CIO), 2025
Começa grátis — sem cartão →