Os usuários que acessaram as redes sociais nos últimos dias com certeza se depararam com fotos artísticas de amigos em diferentes cenários e estilos, criados por Inteligência Artificial. As criações são do App Lensa, lançado no ano de 2018, mas que só agora caiu no gosto dos usuários, principalmente os brasileiros, nas postagens do Instagram e Twitter.

Em apenas alguns dias, o App Lensa se tornou o aplicativo mais baixado do Brasil, contando com mais de 10 milhões de instalações só no Android. O funcionamento do aplicativo é bem simples, após o download, é só selecionar de 10 até 20 fotos do próprio rosto e fazer o pagamento de acordo com o total de fotos desejadas. Daí em diante, a tecnologia faz o restante do trabalho, entregando edições que levam os usuários para outros mundos, adicionam adereços e cores, que, quando unidas, explicam o motivo do Lensa ter se tornado essa febre

Entre o desejo de acompanhar os amigos, a curiosidade de ver como a Inteligência Artificial irá trabalhar as próprias fotos ou até mesmo uma certa ansiedade de ficar fora da moda no momento, sobra pouco espaço para observar com atenção. Neste ensejo, as questões ligadas à segurança podem ficar para trás, com os usuários ignorando a ideia de que, para a criação das edições, o Lensa precisa processar a aparência dos usuários, bem como coletar alguns dados pessoais.

Fabio Assolini, analista sênior de segurança da Kaspersky no Brasil, aponta que o uso de fotos de pessoas para treinar Inteligências Artificiais deve se tornar cada dia mais comum e não é uma atividade perigosa, em si. No entanto, os usuários precisam considerar as questões ligadas à segurança e privacidade, principalmente no que toca a transparência e a responsabilidade das empresas no armazenamento, processamento e o uso de dados pessoais.

De início, não parece haver motivos para preocupação no uso do aplicativo Lensa, ao contrário de muitos outros apps de edição facial que surgiram nos últimos anos. Os artigos também mostram menos rastreamento e coleta de informações que outras soluções usadas, como as redes sociais e aplicativos de edição. Os termos de uso são bem claros na questão de uso e armazenamento das imagens dos utilizadores, bem como de fácil acesso, ainda que caia muitas vezes no “juridiquês” exigido de documentos desse tipo e esteja disponível somente em inglês.

A Prisma Labs, empresa responsável pelo aplicativo, tem sede nos Estados Unidos, país com forte regramento quanto à proteção de dados. Se o nome é familiar para você, é porque se lembra do aplicativo com mesmo título, que viralizou lá em 2016 também com edições artísticas em fotos enviadas pelos usuários – a companhia tem origem russa, mas após a separação entre seus fundadores originais e recebimento de rodadas de investimentos diferentes, estabeleceu sua base nos Estados Unidos.

Segundo os termos de uso do App Lensa, as imagens enviadas pelos usuários são apagadas em um período de 24 horas após o envio, enquanto todo o processamento é realizado de forma anônima, sem a identificação do usuário original. As fotos também podem ser enviadas para as nuvens do Google ou Amazon, provavelmente onde a arquitetura de IA que oferece base ao aplicativo está. O procedimento também é realizado de forma anônima, com os dados também sendo deletados após no máximo um dia.

Nas lojas de aplicativos, o contrato e detalhes do app também informam indicações de outras coletas de informações durante seu uso. O Lensa não requer cadastro para ser utilizado, enquanto os pagamentos pelas edições das imagens são gerenciados pelo Google e Apple. A única autorização solicitada no iOS é o rastreamento em outros aplicativos. Já no Android, as solicitações são limitadas ao uso da câmera  e acesso ao armazenamento de fotos. Ainda, durante o tempo de processamento e a criação das artes, o utilizador pode pedir que a solução avise quando tudo estiver pronto, o que faz solicitar permissão para notificações.

Na coleta automática, o Lensa obtém informações sobre o aparelho usado como a marca, modelo e informações de hardware, bem como IP de conexão e cookies. A indicação é de possível compartilhamento de dados e rastreamento de usuários com parceiros ligados à publicidade ou utilização para avisar aos usuários, execução de tarefas de suporte, atualização ou monitoramento e correção de bugs.

Estes são elementos comuns em grande parte dos softwares usados no Android e iOS, enquanto os próprios termos do aplicativo mostram uma disposição detalhada de todas as possibilidades relacionadas ao uso dos dados do usuário. A Prisma, ainda esclarece que não fará o processamento de dados além das finalidades dispostas, enquanto o consentimento explícito será solicitado em caso de mudanças nos artigos ou para a necessidade de uma coleta adicional.

Pode chamar a atenção de alguns usuários, entretanto, um termo ligado à propriedade das criações do Lensa. Enquanto os artigos esclarecem que os usuários podem usar, editar, compartilhar ou usar a imagem para qualquer fim, eles também enviam para a Prisma Labas o direito da criação de obras derivativas a partir do resultado da edição das imagens, não necessitando de autorização ou realização de pagamentos.

Isso significa que, durante algum momento, a empresa pode fazer uma campanha de marketing utilizando as imagens criadas pelos utilizadores do Lensa, por exemplo, fazer o uso das edições para campanhas pagas ou novos projetos. Os usuários ainda têm a responsabilidade pelo conteúdo enviado para a plataforma e devem ser os detentores dos direitos de uso das imagens originais, sem que a Prisma Labs tenha qualquer jurisdição sobre o material produzido.

Para quem já tiver criado seus avatares com o Lensa, mas não concordar com a cessão dos direitos autorais deles para a companhia, pode entrar em contato através do e-mail [email protected] e solicitar para que tudo seja excluído, tanto os dados pessoais quanto as imagens criadas. Esse é um direito assegurado pela Lei Geral da Proteção de Dados, ou LGPD, e que deve ser prestado aos usuários brasileiros mesmo pela empresa sediada internacionalmente.

Há ainda, uma questão quanto a dificuldade de IAs lidarem com traços diversos, mantendo a visão eurocêntrica, ficando conhecida como racismo algorítmico. No caso do aplicativo Lensa, a crítica aparece é também vem sendo compartilhada pelas redes, enquanto usuários relatam suas feições sendo modificadas nas edições, como a pele sendo clareada, nariz afinado e olhos com proporção diferente dos naturais.

Há quem diga nas redes sociais, que o risco de utilizar softwares ligados a Inteligência Artificial se estendem além dos dados em si. Essas fotos estariam sendo supostamente usadas para o treinamento de IAs para outros fins, algo que não faz muito sentido. Afinal, por que uma empresa iria depender do envio de imagens de pessoas, em uma solução paga, quando há vários pacotes de rostos gratuitos e pagos disponíveis na internet? Eles são voltados justamente para o aprimoramento da tecnologia e compostos públicos de dados públicos raspados da internet – incluindo, várias vezes, os avatares dos próprios reclamantes, publicados nas redes.

Ainda assim, não é como se o uso das aplicações fosse tranquilo em todos os casos. A análise dos termos de uso, principalmente ligadas a coleta e processamento de dados, é de extrema importância não só para apps de imagens, mas como para todo tipo de software baixado para computador ou celular. Você vai ficar surpreso com os artigos citados em documentos assim, ligados a redes sociais ou serviços de e-mail, várias vezes, com muito mais rastreamento do que as soluções de fotos.

A Kaspersky emitiu um alerta especificamente sobre elas, apontando os ricos, principalmente ligados à biometria facial. A hospedagem indefinida de imagens de rostos em servidores de terceiros podem representar riscos de fraude e golpes caso essas estruturas não estejam bem protegidas e sofram ataques cibernéticos, com as informações obtidas sendo usadas para fins maliciosos.

Ficar atento às permissões solicitadas durante o download, bem como informações solicitadas em cadastros, também ajudam a entender se a aplicação está indo além dos limites necessários. Como apontado pela empresa de segurança, a instalação sempre deve ser feita pelas lojas de aplicativos ou sites oficiais, enquanto o utilizador deve sempre checar o desenvolvedor e evitar softwares que tenham poucos downloads, críticas negativas ou responsáveis obscuros. 

Manter os sistemas operacionais atualizados ajudam a fechar brechas já conhecidas, enquanto a presença de antivírus e outros softwares de segurança protegem o usuário contra ameaças comuns. Em caso de dúvida, evite usar a aplicação ou fornecer dados até ter certeza do que está fazendo.