Com milhões de novos usuários em 2025, IA gera desafios de uso indevido e violação de dados

Leis e regulamentos para proteção de informações online já estão em ação, mas executivo da Unentel defende normas específicas para IA

Pode ser engraçado à primeira vista, mas é difícil não se preocupar com episódios como o de Marisa Maiô, criada pelo artista e escritor carioca Raony Philips; a personagem é uma sátira de programa de TV gerada por inteligência artificial que se tornou um dos conteúdos mais compartilhados nas redes sociais no início deste mês. A verdade é que, a cada nova geração de IA generativa, os resultados são mais realistas, e fenômenos como deepfake e deepvoice expõem o desafio de regulamentar a internet, coibir seu uso impróprio e a violação de dados.

Casos como esse são ainda mais alarmantes quando as plataformas de GenIA expandem em escala global. Com milhões de novos usuários a cada mês, o ChatGPT é o 5º site mais acessado no mundo; em fevereiro deste ano, ocupava a oitava posição. E os brasileiros são usuários assíduos, colocando o país em terceiro lugar no ranking dos que mais acessam a plataforma. São 285,41 milhões de visitas que duram em torno de 15 minutos e meio.

Porém, a adesão de plataformas como o ChatGPT não acompanha a implementação de medidas de segurança e governança. Até 2027, mais de 40% das violações de dados relacionadas à inteligência artificial serão resultado do uso indevido da GenAI, segundo projeção do Gartner. O problema é que os riscos não se limitam ao uso da tecnologia em esfera pessoal — as empresas também usam IA.

“Na busca por eficiência operacional, as empresas passaram a implementar IA no cotidiano. Contudo, usá-la sem um padrão de governança de dados em comum ameaça a segurança de informações sensíveis e a privacidade de colaboradores, clientes e da própria companhia”, analisa João Neto, Chief Revenue Officer (CRO) da Unentel, distribuidora de soluções tecnológicas para o mercado B2B.

Um exemplo recente é o vazamento de dados da gigante chinesa DeepSeek devido a uma configuração inadequada em um de seus bancos de dados. A falha causou o vazamento de históricos de chats, metadados operacionais e chaves de API.

“Incidentes assim reforçam a necessidade de implementar políticas rigorosas e conscientizar os usuários. Embora a regulamentação da IA esteja em desenvolvimento em muitos países, como a LGPD no Brasil e a GDPR na União Europeia, precisamos de normativas específicas para a IA”, defende o executivo.

Para ele, o fator humano ainda é um grande desafio, já que os profissionais também podem se tornar uma etapa de vulnerabilidade. Sem treinamentos, eles podem expor dados sensíveis aos modelos de IA Generativa sem ao menos perceber, causando grandes prejuízos financeiros.

O dilema é encontrar o equilíbrio entre inovação e segurança, para que um não trave o caminho do outro. “Estamos lidando com uma tecnologia que evolui mais rápido do que as regras que a cercam. O ideal seria não cair na paralisia nem na imprudência, e sim construir estruturas regulatórias flexíveis o bastante para acompanhar esse ritmo, mas firmes o suficiente para proteger pessoas e dados”, continua.

Contudo, a ausência de padrões globais consistentes para IA e governança de dados impede sua plena adoção pelas empresas, uma vez que as obriga a desenvolver estratégias específicas para cada mercado. Essa fragmentação regulatória não só eleva custos operacionais, mas também dificulta a expansão internacional, limitando o potencial de escala da tecnologia.