Resultado de imagem para deepfake

Em tempos de assistentes pessoais baseados em Inteligência Artificial e o retorno da franquia Terminator, os termos DeepfakeDeeplearning e também Deepsecurity passam a fazer parte do universo de reais preocupações das áreas de Privacidade de Dados e Segurança da Informação das corporações e também dos indivíduos em suas vidas pessoais.

Mas o que são estes termos? Inicialmente vamos conceituá-los de forma breve e superficial:

  • Deepfake

deepfake é uma forma de utilização da tecnologia de Inteligência Artificial que possibilita simulações extremamente convincentes de pessoas em ações que estas não cometeram, como por exemplo, vídeos pornográficos, discursos, decisões.

A base tecnológica disso é o machinelearning, onde não vamos nos aprofundar neste post, mas consiste em algo já feito há algum tempo pela indústria do cinema, mas agora tem sido democratizada e possibilita fraudes e situações desfavoráveis a quem é representado pelo produto final.

  • Deeplearning

É a base tecnológica que possibilita, utilizando grandes bancos de dados e bibliotecas de códigos, imagens e recursos disponíveis tanto de forma pública (jogos em  redes sociais que coletam suas fotos, por exemplo – vide FaceApp) a criação de verdadeiras réplicas para fins de utilização de faces, vozes e outros aspectos biométricos, entre outros fatores.

Há, inclusive, aplicativos para celular que geram, em qualidade alta, estas falsificações.

  • Deepsecurity

Já surgem corporações que se especializaram neste campo de atuação, combatendo (com uso de forense e outros recursos) situações onde pessoas e corporações são prejudicadas por este fator.

Quais são os riscos que as pessoas correm por uso de deepfake?

Utilização indevida de imagem, colocando a pessoa em situação de abuso, como em vídeos pornográficos, realizando comentários que não são de sua natureza (imagine que você possa ser vítima disso onde sua imagem e voz é utilizada para postar um vídeo onde você faz a pregação de anti-semitismo, nazismo, racismo e outras convicções que não são genuinamente suas) e geração de notícias falsas, levando o indivíduo a ter de responder por atos não cometidos e, eventualmente, ter sua vida devastada e sua reputação prejudicada e até destruída.

Como isso afeta as corporações?

Inicialmente os riscos mais visados são os de uso de aspectos biométricos para acesso não-autorizado (há relatos de uma pessoa que roubou um iPhone 4, tirou foto do antigo dono, imprimiu uma cabeça em uma impressora 3D e modelou esta foto, conseguindo realizar o desbloqueio por reconhecimento facial – algo que poderia ser feito para entrar em um Datacenter, em um servidor ou em qualquer recurso de missão crítica).

Impressões digitais também são muito visadas e facilmente falsificadas com esta mesma tecnologia e outros fatores estão em pleno desenvolvimento.

No campo regulatória há cláusulas tanto no GDPR quanto na LGPD que preveem controles e sanções para uso automatizado de dados pessoais, que podem enquadrar este tipo de situação e proteger tanto corporações quanto indivíduos.

Como devemos nos proteger?

Restringir o acesso à imagem é algo fundamental, por mais utópico que isso possa parecer. Fotos de perfil em redes sociais dificilmente são suficientes para gerar um deepfake efetivo. Porém, vídeos e volume de diferentes situações de um mesmo indivíduo são matéria-prima para o deepfake utilizando-se de deeplearning.

Já no caso de tornar-se vítima disso, a divulgação passa a ser uma arma justamente para demonstrar que se trata de uma falsificação (claro que levando em consideração o teor da falsificação e como isso  afeta a vida da pessoa).

Já há estudos e testes de uma espécie de marca d’água em fotos e vídeos que dificultem o acesso dos algoritmos de deeplearning para a geração dos deepfakes, mas como em toda escalada, sempre haverá uma corrida de medidas e contramedidas, prevalecendo sempre a auto-preservação e o cuidado e bom senso na utilização de tecnologia, bem como sua constante vigilância por parte do portador dos seus próprios dados e informações.

Fonte: Blog do Rodrigo Magdalena