DO RISCO DA ATIVIDADE AO “ALTO” RISCO DA ATIVIDADE ALGORÍTMICA

 

Responsabilidades subjetiva e objetiva representam um “continuum”, sendo que as imputações subjetiva e objetiva de danos consistem apenas em dois extremos de uma longa linha reta, em um perímetro que acomoda várias figuras intermediárias. A responsabilidade objetiva é uma responsabilidade independente da existência de um ilícito. Tanto faz se o agente praticou um comportamento antijurídico ou não, pois esse debate é infenso ao objeto da sentença. Para o magistrado só importa o nexo causal entre a conduta/atividade do agente e o dano. Nas reais hipóteses de incidência da teoria objetiva, o legislador ou o tribunal consideram que o fator de atribuição da obrigação de compensar danos (nexo de imputação) recebe justificação diversa da prática de um fato ilícito, havendo diversas atribuições da obrigação de indenizar pelo fato de terceiro, equidade, garantia, confiança ou pressuposição, que serão imputadas objetivamente pelo legislador a um responsável em função de objetivos políticos e sociais, afastando o dogma de que o lesado suportará o risco do dano quando não se afirmar a ilicitude. É o que nos leciona Massimo Bianca, para quem surgem diversos critérios de imputação da obrigação de indenizar, porém sempre a um mesmo fundamento, que é o da recomposição de um dano injusto, concebido como a lesão de interesse alheio juridicamente tutelado (BIANCA, Massimo, Diritto civile: la responsabilità, Milano: Giuffrè, 2012, p. 543). A multiplicação dos nexos de imputação evidencia a insuficiência da culpa para sozinha cumprir o papel de núcleo irradiador da obrigação de indenizar. Assim, ao contrário do que transparece do cotejo do artigo 927 com o seu parágrafo único do Código Civil, o nexo de imputação não se restringe ao sistema do duplo binário – culpa e risco –, pois os critérios de atribuição de responsabilidade oferecidos pelo sistema normativo são variados, sem que exista entre eles qualquer forma de hierarquia. Nexo de imputação objetiva, portanto, decorrerá da lei ou do risco da atividade

 

Especificamente no tocante à responsabilidade objetiva pelo risco, basta que a atividade danosa seja indutora de um risco anormal, excessivo no cotejo com as demais atividades, por ser apta a produzir danos quantitativamente numerosos ou qualitativamente graves, independentemente da constatação de um defeito ou perigo. Isto é, por mais que seja exercitada com absoluto zelo, não se indaga se A exercia uma “atividade de risco”, pois pela própria dinâmica dos fatos, mesmo que exercida por B, C ou D, os danos decorreriam do “risco intrínseco da atividade”. Por “atividade normalmente desenvolvida” entende-se atividade lícita, autorizada e regulamentada pelo Estado, desenvolvida com continuidade e organização dos atos praticados. Engloba ainda questão crucial da alocação de riscos, isto é, da necessidade de somente se imputar objetivamente um dano a uma pessoa, se o risco for “próprio” à atividade. Apenas quem tem condições de evitar um risco ou mitigá-lo de forma eficiente deverá suportá-lo caso ocorra. Por conseguinte, a teoria objetiva está mais atrelada a uma discussão finalística, orientada pela necessidade de se assegurar a reparação de danos, que não devem ser suportados exclusivamente pela vítima. Alguém será convocado a “pagar a conta” pela violação a um interesse merecedor de tutela por diversos fundamentos, sem que nenhum deles se relacione à ofensa a um dever de cuidado.  Portanto, os “riscos da atividade”, invariavelmente, serão aqueles que a doutrina e os tribunais considerem pertinentes em cada contexto, oscilando conforme espaço e tempo. Este modelo jurídico pode ser melhor nomeado como “imputação objetiva de danos”, “obrigação objetiva de indenizar” ou “responsabilidade independente de ilícito”. 

 

Quando pensávamos que o risco da atividade era a estação final do percurso entre as responsabilidades subjetiva e objetiva, novas demandas sociais apontam para o estabelecimento de um distinto marco final neste itinerário: o “alto risco da atividade”. Ou seja, se a ciência é lebre e o direito é tartaruga, é aconselhável que em determinadas situações se imponha uma cláusula geral do elevado risco da atividade, tendo-se em vista que, a despeito de seus enormes benefícios, em certas circunstâncias o intenso desenvolvimento tecnológico tende a realizar o caminho inverso ao planejado pelo direito civil constitucional: o ser humano protagonista do ordenamento jurídico é reduzido a um indivíduo abstrato, um conjunto de algoritmos passível de comercialização no mercado. 

 

De acordo com o Art. 35. do Regulamento 2016/79 da União Europeia (em vigor desde 25 de maio de 2018) - o GDPR (Regulamento Geral de Proteção de Dados) - impõe-se a Avaliação de Impacto sobre a Proteção de Dados (DPIA) “Quando um certo tipo de tratamento, em particular que utilize novas tecnologias e tendo em conta a sua natureza, âmbito, contexto e finalidades, for suscetível de implicar um alto risco para os direitos e liberdades das pessoas singulares, o responsável pelo tratamento procede, antes de iniciar o tratamento, a uma avaliação de impacto das operações de tratamento previstas sobre a proteção de dados pessoais”. A cláusula geral é elogiável na medida em que o alto/elevado risco da atividade será detectado conforme a aptidão da nova tecnologia para instrumentalizar a pessoa humana, afetando a sua dignidade e direitos fundamentais, por violar a sua liberdade ou igualdade, introduzindo injustificáveis discriminações. A norma indica ao menos nove critérios (WP29) nos quais o processamento de dados resultará em risco elevado na ausência de medidas adotadas pelo controlador para mitigar os riscos. O responsável pelo tratamento realizará uma avaliação de impacto na proteção de dados para avaliar, em particular, a origem, natureza, particularidade e gravidade desse risco. Em termos de tutela preventiva, nos casos em que uma avaliação de impacto na proteção de dados indique que as operações de processamento envolvam um alto risco que o controlador não possa mitigar por medidas apropriadas em termos de tecnologia disponível e custos de implementação, uma consulta à autoridade supervisora deve ocorrer antes do processamento. Isso não significa que esses tipos de processamento são sempre de alto risco ou sempre causam danos - apenas que há uma chance razoável de que eles possam ser de alto risco e, portanto, é necessário um DPIA ("Data Protection Impact Assessment") para avaliar o nível de risco com mais detalhes. Um DPIA é um processo projetado para identificar e minimizar os riscos de proteção de dados de um projeto ou plano que, quando feito corretamente, auxilia a determinar se o nível de risco é aceitável, levando em consideração os benefícios que o empreendedor deseja alcançar.

 

Porém, não apenas a extremamente complexa legislação europeia recorre ao conceito do “alto“ risco da atividade. Há nos Estados Unidos um importante projeto no Senado Federal: o “Algorithmic accountability Act”, exigindo que empresas consertem algoritmos defeituosos que resultem em decisões injustas ou discriminatórias que impactem os cidadãos americanos. É um passo fundamental para assegurar maior responsabilidade das entidades que utilizam "softwares" que tomem deliberações capazes de afetar e modificar vidas. De fato, as mais importantes decisões da economia digital como comprar uma casa ou obter um emprego estão cada vez mais entregues a computadores, sendo que por vezes os algoritmos tendem a assumir premissas que reforçam a discriminação contra mulheres e pessoas de cor. Decisões algorítmicas não são neutras, possuem autores/programadores e sem uma fiscalização diligente eles culminam por refletir os preconceitos dos que estão por trás dos teclados. Assim, para que as tecnologias do século XXI sejam ferramentas de empoderamento e não de marginalização, tutelando a segurança e a privacidade de consumidores, o art. 7 do projeto trata do “High-Risk automated decision System”. Um sistema de decisão automática – processo computacional derivado de “machine learning”, estatísticas, processamento de dados ou técnicas de inteligência artificial que estabelecem ou facilitam decisões humanas impactando consumidores – será de alto/elevado risco tendo em conta a novidade da tecnologia utilizada, a sua natureza, escopo, contexto e propósito da decisão automatizada, que estabelece um risco “significativo” a privacidade ou segurança das informações pessoais dos consumidores ou resulte em decisões injustas ou preconceituosas que impactem consumidores. Outro critério objetivo para a qualificação de um sistema de decisão automatizada é o fato de adotar decisões baseadas em avaliações de consumidores, incluindo tentativas de analisar e predizer aspectos sensíveis de suas vidas, como performance no trabalho, situação de saúde, econômica, preferências pessoais, interesses, comportamentos de modo a alterar situações jurídicas de consumidores, envolver informação pessoal sobre cor, nacionalidade, origem, opinião política, religião, dados genéticos e biométricos, identidade de gênero, orientação sexual, débitos e condenações criminais. Frise-se, ainda, as circunstâncias em que tecnologias fazem o monitoramento sistemático de uma área acessível ao público em larga escala. Isso pode significar o monitoramento de nossas pegadas em ruas que se encontram fora de um local de varejo ou de tráfego de carros, o que exige uma avaliação mais detida.

 

Portanto, quando comparamos o paradigma do risco da atividade com o do “alto” risco da atividade, podemos concluir que no estágio anterior, o risco era é o resultado de uma aferição quantitativa resultante de uma maior probabilidade de danos de certa atividade em comparação com as demais realizadas em certa sociedade. Todavia, o alto risco da atividade põe ênfase não apenas no aspecto quantitativo do risco, mas também no qualitativo. Enquanto o risco implica uma chance mais do que remota de algum dano, o alto risco implica um limite mais elevado, não apenas porque o dano é mais provável, mas também pelo fato de que o dano potencial é mais grave, ou uma combinação dos dois. No universo da inteligência artificial ele se evidencia pelo risco intensificado da atividade para liberdades fundamentais das pessoas naturais, resultando do processamento de dados pessoais que acarrete danos físicos, patrimoniais ou extrapatrimoniais, em especial quando o processamento cause discriminação, furto de identidade, fraudes diversas, perdas financeiras, dano reputacional, perda de confidencialidade dos dados pessoais protegidos por sigilo profissional, reversão não autorizada da pseudonimização ou qualquer outra desvantagem econômica ou social significativa. Acresça-se a isto as circunstâncias onde titulares dos dados pessoais sejam privados de seus direitos ou impedidos de exercer controle sobre eles; onde são processados ​​dados pessoais que desnudem a intimidade, notadamente de pessoas vulneráveis. 

 

PS: Nesta análise, abstemo-nos de comentar as definições de alta baixo, médio e alto risco da atividade (exigirão vistoria prévia para início da operação do estabelecimento), introduzidos pela MP 881/2019 e Resolução n. 51/2019, em razão da indefinição do tema até o momento.

Please reload

Posts em Destaque

POR UMA TIPOLOGIA ABERTA DOS DANOS EXTRAPATRIMONIA...

12/5/2020

1/5
Please reload

Posts Recentes
Please reload

Arquivo
Please reload

Siga-nos
  • Facebook Basic Square
  • Instagram Social Icon

 

Construindo a carreira: uma vida dedicada ao Direito.

  • Facebook Social Icon
  • Instagram Social Icon