O que não entendemos sobre os riscos digitais em conflitos armados e o que fazer a respeito

A implantação e o uso de novas tecnologias digitais em conflitos modernos – da informação às operações cibernéticas – criam novos riscos e possibilitam riscos reais de danos aos direitos, vidas, segurança, dignidade e resiliência dos civis. Entender esses riscos está no centro do trabalho de proteção na era digital.

Neste post, a Conselheira de Risco Digital do CICV, Joelle Rizk, e o Pesquisador de Risco Digital Sean Cordey refletem sobre algumas das principais preocupações de proteção na era digital e traçam o caminho a seguir para que os agentes de proteção melhorem sua preparação para lidar com elas.

A proteção humanitária é definida pelos esforços dos atores humanitários em tempos de conflito armado e outras situações de violência para salvaguardar a vida, a segurança e a dignidade dos civis. Para isso, os humanitários e outros atores se envolvem em atividades de proteção que visam garantir que as autoridades e outros atores respeitem suas obrigações e os direitos dos indivíduos de acordo com a letra e o espírito dos órgãos jurídicos relevantes. Tais atividades visam prevenir ou pôr fim a violações reais ou potenciais e abordar suas consequências. As atividades de proteção buscam inerentemente reduzir a exposição a riscos e reduzir vulnerabilidades por meio de assistência técnica e humanitária, apoiando medidas de autoproteção, educação sobre riscos, fornecendo informações adequadas e precisas, etc. O trabalho de proteção requer uma análise contínua dos riscos que as pessoas enfrentam em tais situações.

As atividades de proteção se ajustam constantemente às realidades em mudança dos conflitos, incluindo a implantação de novas tecnologias que moldam a guerra. O uso de tecnologias novas e digitais por diferentes atores em ambientes de conflito armado – sejam eles Estados, atores armados não estatais, grupos criminosos ou empresas privadas (doravante denominados atores de conflito) – para conduzir operações cibernéticas e digitais é uma das mais importantes evoluções contemporâneas em conflitos armados. Embora as operações cibernéticas e digitais raramente existam no vácuo, as circunstâncias pretendidas e esperadas do uso de tecnologias digitais podem representar uma série de riscos – nós os chamamos de riscos digitais – para a vida, segurança, dignidade e resiliência das populações civis. São consequências danosas que muitas vezes se somam ao sofrimento que enfrentam em decorrência de operações cinéticas.

A resposta humanitária ainda não entendeu o peso dos riscos digitais para os civis em conflito. Documentar, avaliar e compreender melhor os usos e danos das novas tecnologias digitais nos ambientes físico e digital é, portanto, fundamental. Atualmente, os riscos digitais podem ser separados em três grandes categorias, das quais este artigo se concentrará nas duas últimas:

  • Primeiro, aquelas relacionadas ao uso por atores humanitários da tecnologia digital para apoiar atividades humanitárias e de proteção, como o uso de biometria;
  • Em segundo lugar, aqueles relacionados ao uso por atores armados em apoio ou independentemente de operações cinéticas, como operações de informação, operações cibernéticas contra civis ou infraestruturas civis, ou o uso indevido de dados pessoais ou humanitários;
  • E terceiro, aqueles relacionados a tecnologias e infraestruturas de reaproveitamento ou de uso duplo e que permitem o envolvimento de civis em ações relacionadas a conflitos, como vigilância, coleta de inteligência ou operações cibernéticas e de informação.

Esses comportamentos específicos e tecnologias digitais podem afetar e restringir transversalmente direitos específicos, como liberdade de expressão, reunião ou movimento, liberdade e segurança, identidade pessoal e privacidade. No entanto, são particularmente preocupantes para o CICV em ambientes de conflito aqueles com consequências prejudiciais à vida, à segurança e à integridade física e psicológica das populações afetadas – sua dignidade; sua capacidade de se proteger e resiliência; sua subsistência econômica; e seu acesso a serviços essenciais e humanitários.

À medida que os atores de proteção e humanitários olham cada vez mais para as novas tecnologias digitais para apoiar suas atividades humanitárias e de proteção e reforçar a agência das pessoas afetadas por conflitos, eles aspiram a não causar danos. Isso é especialmente verdade quando a implantação de tecnologias humanitárias digitais em ambientes de conflito pode promover e exacerbar riscos que podem, por sua vez, minar os direitos fundamentais dos civis e sua confiança nos humanitários, bem como levar a vários tipos de danos. Este artigo enfoca o comportamento e os usos dos atores de conflitos, e não o comportamento dos atores de proteção e seu uso das tecnologias digitais.

‘Proteção’ na era digital

Sem prejudicar o impacto positivo que a tecnologia pode trazer em conflitos, incluindo melhorar o acesso a informações que salvam vidas e potencialmente minimizar danos colaterais, o trabalho de proteção deve considerar os riscos na era digital. Em outros termos, deve abranger a proteção dos direitos das pessoas quando suas vidas se cruzam com a esfera digital. Por exemplo, de acordo com o Direito Internacional Humanitário (DIH), civis e objetos civis não devem ser alvo de ataques durante conflitos armados – uma obrigação igualmente aplicável a operações cibernéticas e digitais.

Os riscos digitais em um contexto de proteção podem, portanto, estar relacionados à proteção de dados ou outros ativos digitais, mas não se limitam a essas questões. Eles giram em torno do uso de tecnologias digitais em contextos de conflitos armados e da maneira como sua aplicação expõe civis a danos, afeta seus direitos, segurança e dignidade (como o uso de spyware contra civis), incluindo quando o abuso ou violação ocorre exclusivamente online (como discurso de ódio). Ou seja, qualquer risco mediado ou potencializado pelas tecnologias digitais, seja ele físico (incluindo infraestruturas de suporte como satélites), lógico ou informativo. Em outros termos, o escopo do trabalho de proteção deve abranger comportamentos e violações que são cometidos por meio de ações entre humanos, entre humanos e máquinas, e entre máquinas (como ataques cibernéticos direcionados a infraestruturas civis ou de uso duplo).

Exposição a riscos e preocupações com a proteção

A proteção na era digital não se traduz necessariamente em preocupações de proteção fundamentalmente novas. No entanto, uma distinção importante é que as preocupações de proteção relacionadas ao digital podem ser menos visíveis, tangíveis, compreendidas (especialmente pelas pessoas afetadas) e relatadas. Além disso, devido ao amplo potencial de ataque e à prevalência de vulnerabilidades, as ameaças digitais podem realmente aumentar rapidamente e ter um amplo alcance. Podem também evoluir à medida que as tecnologias digitais e as práticas progridem, potencialmente fomentando novos riscos imprevistos que os intervenientes na proteção terão de monitorizar.

Informações nocivas on-line

A disseminação de informações nocivas como desinformação, desinformação e discurso de ódio (MDH) pode alimentar conflitos e comprometer a segurança e a dignidade das pessoas. As plataformas de informação e mídia on-line amplificaram a escala, o alcance e a velocidade da disseminação do MDH. Os sistemas de informação e comunicação são aproveitados por Estados e atores não estatais para exercer influência, mudar comportamentos ou atingir objetivos operacionais. Nesse espaço, as narrativas informacionais podem contribuir ou incitar atos de violência contra as pessoas, causar sofrimento direcionado e danos psicológicos duradouros, aumentar ainda mais as vulnerabilidades devido à discriminação, estigmatização e negação de acesso a serviços essenciais, comprometer a consciência situacional e as medidas de autoproteção e interromper ou minar os atores de proteção e suas operações. Esse risco só se torna mais exacerbado à medida que o conteúdo gerado por IA se torna mais acessível. Ao mesmo tempo, as ferramentas de comunicação digital têm sido usadas de maneiras que podem violar direitos e obrigações específicas – como seu uso para espalhar informações prejudiciais em violações da proibição de recrutamento de crianças ou a proibição de expor prisioneiros de guerra à curiosidade pública.

Atividades cibernéticas direcionadas a civis

Os civis também são alvos diretos de atividades cibernéticas que correm o risco de prejudicar seu bem-estar e minar seus direitos. A implantação de spyware direcionado a civis, por exemplo, pode permitir o uso indevido de dados pessoais em detrimento de indivíduos e, potencialmente, afetar o conflito mais amplo. Enquanto isso, populações já vulneráveis devido a conflitos, como refugiados de conflitos e outros deslocados, podem ser alvo online de criminosos e outros atores mal-intencionados, levando a preocupações sobre roubo de identidade, fraude ou golpes.

Operações cibernéticas contra infraestruturas civis

Os atores de conflitos utilizam meios cibernéticos, como ransomware, DDoS ou limpadores, para impactar e desativar a infraestrutura civil e serviços essenciais, como eletricidade, água ou serviços médicos, governança eletrônica e serviços financeiros. Tais operações podem ter consequências humanitárias potencialmente devastadoras, afetando a prestação efetiva de serviços essenciais às populações afetadas pela crise e, portanto, potencialmente causando danos socioeconômicos, sociais e psicológicos ou até mesmo a morte. Os civis também podem ser prejudicados incidentalmente quando as operações cibernéticas afetam a infraestrutura de uso duplo, como satélites.

Uso indevido e tratamento indevido de dados

A implantação e o uso de tecnologias baseadas em dados, como sensores, análise preditiva ou processamento de dados biométricos, levantam uma série de preocupações sobre os direitos, a segurança e a dignidade das populações afetadas por crises. Por exemplo, dados humanitários interceptados, como por meio de solicitações de acesso a provedores terceirizados, hackers ou vazamentos, podem ser usados indevidamente para fins não humanitários, como na aplicação da lei, operações de prisão e rastreios de fronteira. Enquanto isso, os dados privados, pessoais e identificáveis das populações afetadas, incluindo aqueles vinculados ao seu próprio uso de tecnologias digitais (por exemplo, mídias sociais), podem ser aproveitados para identificá-los e direcioná-los diretamente (por exemplo, desinformação, golpes ou violência).

Dados, IA e tomada de decisão

Os atores de conflitos estão integrando “sistemas de apoio à decisão” automatizados habilitados por IA em sua condução de guerra. São ferramentas de software que fornecem análises, recomendações e até previsões para os tomadores de decisão militares. Eles poderiam ser usados em uma ampla gama de decisões militares em todos os níveis de comando, como na “avaliação de ameaças” e reconhecimento de alvos, decisões sobre como conduzir uma operação militar específica ou outras decisões que afetam os direitos das pessoas, como detenção. Seu uso levanta preocupações não apenas sobre como garantir o julgamento e a intervenção legal humana, mas também que os usuários sejam capazes de explicar, desafiar e não confiar excessivamente nesses sistemas baseados em IA. Existem outras preocupações em relação à transparência desses sistemas, potenciais vieses e erros, sua segmentação indiscriminada, mas também danos devido a ataques desproporcionais com potenciais consequências para a vida e a dignidade das pessoas e seus direitos.

Interrupção das operações humanitárias

As operações humanitárias são cada vez mais interrompidas por meios digitais, seja por meio de campanhas de informação que visam sua integridade e neutralidade, seja por meio de operações cibernéticas e violações de dados. Isso pode afetar a capacidade dos atores humanitários de operar, acessar as populações afetadas, coordenar com outros atores, avaliar as necessidades e fornecer ajuda às populações afetadas. Também pode ter um impacto prejudicial na segurança das pessoas e na sua confiança nos intervenientes e nas operações humanitárias. Além disso, põe em risco os trabalhadores humanitários e humanitários.

Interrupção da conectividade das pessoas

A interrupção do acesso à internet e à infraestrutura de comunicação é uma prática cada vez mais utilizada por atores de conflitos para controlar os ambientes de informação e/ou apoiar objetivos políticos ou militares. Tais paralisações podem criar ou exacerbar consequências humanitárias para aqueles que estão no terreno, com consequências potencialmente fatais. Por exemplo, eles não apenas limitam o acesso das populações afetadas pela crise a informações que salvam vidas (por exemplo, humanitários, alimentos, abrigo, cuidados de saúde), mas também podem aumentar o risco de separação com base na importância da conectividade para manter e restaurar a conexão familiar. Enquanto isso, eles também podem impedir a resiliência e a consciência de risco dos civis em situações de conflito, bem como sua capacidade de se proteger, aproveitar oportunidades econômicas e falar e se reunir livremente.

Envolvimento civil

O crescente envolvimento de civis e empresas privadas em atividades no campo de batalha digital coloca os indivíduos em risco de danos e diminui ainda mais a distinção entre civis e combatentes. De fato, os civis poderiam apoiar ativamente os atores do conflito, seja se envolvendo na coleta de inteligência militar (por exemplo, por meio de aplicativos reaproveitados), apoiando a defesa cibernética de um beligerante ou engajando-se em operações cibernéticas contra alvos inimigos, inclusive contra outros alvos civis. Esse envolvimento pode expor civis a sérios danos, como serem alvos de militares, suas propriedades destruídas, detidas ou até mortas. Também pode ser a causa de falsas acusações e suspeitas que levam a mais danos.

Trabalho de preparação e proteção na era digital

À medida que as preocupações com a proteção na era digital continuam a surgir, os atores humanitários ainda têm um longo caminho a percorrer para desvendar os limites e riscos das tecnologias digitais. A interação dos aspectos on-line e off-line dos conflitos e as consequências humanitárias resultantes exigirão que os humanitários adaptem suas habilidades, métodos e abordagens de várias maneiras:

As guerras têm limites, inclusive na esfera digital. O trabalho de proteção na era digital deve, portanto, trabalhar e expandir – sempre que possível – essas estruturas de proteção para proteger os direitos, a segurança e a dignidade dos indivíduos afetados por conflitos: seja promovendo seu desenvolvimento, aumentando a conscientização para eles ou engajando e defendendo com os Estados para sua implementação.

Atores não estatais, como empresas de tecnologia e grupos cibernéticos, emergiram como partes interessadas em conflitos armados e operações que exacerbam ainda mais as ameaças a civis e outras pessoas protegidas. O diálogo com os atores relevantes nesse espaço deve ser incentivado. As questões a serem abordadas incluem governança, prevenção de danos e danos incidentais, aplicação do DIH e a distinção entre alvos civis e não civis, colaboração na realização ou aprimoramento de atividades de proteção, tecnologias centradas em princípios e no ser humano, etc. Estes poderiam basear-se e alavancar os quadros existentes, tais como os Princípios Orientadores das Nações Unidas sobre Empresas e Direitos Humanos. Ao mesmo tempo, os diálogos com os Estados poderiam relembrar suas obrigações legais para garantir que as empresas privadas respeitem as regras relevantes do DIH e do direito internacional dos direitos humanos.

Finalmente, e em conjunto, à medida que os humanitários recolhem dados pessoais e sensíveis, precisam de integrar práticas e estruturas de proteção de dados no seu trabalho. Tais práticas incluem a minimização de dados, avaliações de impacto à proteção de dados, proteção de dados desde a conceção e consideração dos direitos do titular dos dados. Louvavelmente, um trabalho considerável foi feito nos últimos anos sobre o uso responsável de tecnologia e dados em contextos humanitários, como o Manual de Proteção de Dados do CICV, o Gerenciamento de Informações de Proteção (PIM) ou os Padrões Profissionais para o Trabalho de Proteção. 

2. Promover a resiliência

Há uma oportunidade em infundir o trabalho de proteção existente com programas de alfabetização digital e conscientização de risco e treinamentos sobre riscos digitais para populações afetadas e profissionais humanitários. Estes esforços não devem, no entanto, ser feitos à custa de empurrar a responsabilidade para as populações afectadas. À medida que mais organizações e atores privados adotam soluções baseadas em tecnologia e criam oportunidades de alfabetização e conscientização digital, é importante que os atores humanitários e de proteção adotem uma abordagem cuidadosa que reconheça os riscos da exclusão de comunidades ou grupos, criando uma falsa sensação de segurança e, mais importante, transferindo a responsabilidade para os mais vulneráveis.

3. Construir capacidade

A sensibilização para os riscos em todo o setor humanitário continua fragmentada. Há uma lacuna considerável na compreensão e documentação do cenário de ameaças digitais e riscos associados para as populações afetadas e comportamentos de vários atores em ambientes de conflito. Como tal, os instrumentos digitais de avaliação de riscos devem ser desenvolvidos e integrados no trabalho de proteção. Assim, os humanitários terão que continuar a fortalecer sua colaboração com os especialistas acadêmicos, militares e tecnológicos para produzir análises e respostas de proteção baseadas em evidências oportunas e abrangentes.

Além disso, para melhor detectar, avaliar e mitigar os riscos digitais, os trabalhadores de proteção terão que ser capacitados para confiar em abordagens híbridas que mesclem abordagens tradicionais com novos meios. Isso inclui, principalmente, alavancar e integrar informações de código aberto e análise de mídia social, que podem fornecer maior visibilidade e evidências para informar o trabalho de proteção, desde o monitoramento de incidentes que pode informar diálogos de proteção até proteção e engajamento personalizados baseados na comunidade. Os trabalhadores de proteção também devem ser treinados e apoiados para que possam estar cientes e documentar as consequências das operações cibernéticas e digitais em conflitos. Isso inclui o envolvimento com comunidades cujas vidas se cruzam com as tecnologias digitais.

***

O aumento dos riscos digitais decorrentes ou exacerbados por informações nocivas online, operações de defesa cibernética, automação de sistemas militares, uso indevido de dados pessoais e humanitários, desligamentos de conectividade ou o aumento do envolvimento de civis em conflitos por meios digitais é uma realidade de conflito na era digital. O efeito relacionado sobre os direitos, a segurança, a dignidade e a resiliência das populações afetadas por conflitos é uma preocupação que não pode ser ignorada.

Embora surjam desafios importantes, como a literacia digital, a sensibilização para os riscos e a capacidade de gerar provas de danos, os intervenientes na proteção devem trabalhar no sentido de expandir os quadros jurídicos e políticos de proteção existentes (incluindo os de proteção de dados); estabelecer um diálogo de proteção sobre os riscos digitais; promover a resiliência das populações afetadas, por exemplo, através da educação e sensibilização para os riscos; e desenvolver sua própria experiência e capacidade para detectar riscos e prevenir ou tratar os danos resultantes.

Neste ambiente digital em rápida evolução, a preservação do espaço humanitário e uma abordagem centrada na proteção são fundamentais. Enquanto os humanitários continuam a desvendar o que isso significa para suas respectivas ações, é importante não reinventar a roda humanitária, mas adaptar os programas existentes. Envolver-se em riscos digitais não é “bom de se ter”, mas é um imperativo ético e profissional para os humanitários.

Veja também:

Artigo Original