Por Luiz Joia
Reflita sobre esta situação: um sistema de reconhecimento facial, operado por autoridades, aponta erroneamente um cidadão comum como um criminoso procurado. Antes que o equívoco seja esclarecido, essa pessoa enfrenta prisão, interrogatórios e um dano irreparável à sua imagem. A quem caberá a responsabilidade por essa falha? Ao criador do software? À empresa que o implementou? Ao agente que confiou na máquina? Ou seria possível responsabilizar a própria Inteligência Artificial (IA), a mente digital que cometeu o “erro”?
Consideremos outro dilema moderno: um carro autônomo, equipado com algoritmos avançados para tomar decisões em frações de segundo, envolve-se em um acidente que resulta em fatalidade. Investigações sugerem que a IA do veículo executou uma manobra, dentro de suas possibilidades programadas, que levou diretamente à tragédia. Estaríamos prontos para discutir a figura de um “homicídio culposo” praticado por uma inteligência não-humana?
Questões como essas, antes restritas à ficção, hoje invadem nosso cotidiano e os corredores da justiça. A IA está presente em nossos lares, nos hospitais auxiliando diagnósticos, nas finanças e na segurança. Sua crescente integração levanta, de forma incontornável, a pergunta sobre quem arca com as consequências quando algo dá errado.
O Direito Penal clássico e o vácuo da responsabilidade da máquina
Nosso arcabouço legal, em particular o Código Penal, foi talhado para julgar ações humanas. A responsabilização criminal exige, fundamentalmente, a comprovação da conduta humana e do chamado elemento subjetivo – o dolo (a intenção de praticar o ato ilícito) ou a culpa (agir com negligência, imprudência ou imperícia).
É precisamente neste ponto que a IA desafia o Direito. Como podemos atribuir “intenção” ou “negligência”, no sentido jurídico, a um conjunto de códigos e algoritmos? Atualmente, uma máquina não é considerada um sujeito de direito; ela não possui a capacidade de entendimento e vontade que fundamenta a culpabilidade penal. Por isso, a busca por responsáveis direciona-se aos seres humanos por trás da tecnologia: o desenvolvedor por falhas no código, a empresa por falta de testes adequados, o usuário por mau uso ou falta de supervisão.
As interrogações que moldam o amanhã
Entretanto, a evolução exponencial da IA, com sistemas capazes de aprender e operar com crescente autonomia, embaralha essa lógica. A linha que conecta o erro da máquina a uma falha humana específica torna-se cada vez mais tênue. Isso nos lança a questionamentos cruciais:
- Como determinar a “culpa” em sistemas de IA que aprendem continuamente e tomam decisões não explicitamente programadas para cada situação específica?
- Deveríamos começar a pensar na IA como um novo tipo de “agente” com impacto no mundo real, mesmo que desprovido de consciência nos moldes humanos?
- Se uma IA pratica um ato que, se fosse humano, seria crime, a ausência de uma “mente” intencional deve isentá-la completamente de qualquer forma de consequência legal direta?
O Direito Penal do futuro: projeções e debates atuais
Pesquisas acadêmicas e debates entre juristas, filósofos e cientistas da computação já esboçam possíveis caminhos para o futuro da responsabilização da IA:
Rastreabilidade e Transparência (‘Explainable AI’): Um foco importante da pesquisa é tornar as “caixas-pretas” da IA mais transparentes, desenvolvendo sistemas que possam explicar ou registrar seus processos decisórios. Isso facilitaria a identificação de vieses, falhas ou manipulações que levaram a um dano.
Responsabilidade Híbrida e por Risco: Modelos que combinam a responsabilidade dos humanos (desenvolvedores, operadores) com a avaliação do risco intrínseco da IA ganham força. Isso poderia incluir responsabilizar empresas por não adotarem salvaguardas robustas em IAs de alto risco, mesmo sem dolo ou culpa tradicional.
Seguros e Fundos de Compensação: Assim como existem para veículos, seguros obrigatórios para IAs críticas ou fundos específicos poderiam garantir a compensação às vítimas, agilizando a reparação independentemente da complexa atribuição de culpa individual.
Auditoria e Certificação: A criação de normas técnicas, selos de qualidade e processos de auditoria para IAs pode se tornar padrão, responsabilizando quem desenvolver ou utilizar sistemas que não atendam a esses critérios de segurança e ética.
Responsabilidade Algorítmica Direta (Debate Teórico): A ideia de conferir algum tipo de “personalidade eletrônica” ou responsabilidade direta a IAs extremamente autônomas ainda é muito debatida e exigiria uma revolução nos fundamentos do Direito, mas não pode ser ignorada nas discussões de longo prazo.
Colocar a “IA no banco dos réus” como acusada principal ainda é uma imagem mais figurativa do que literal. No entanto, a discussão sobre quem responde legalmente quando ela “erra” é absolutamente real e urgente. O Direito precisa evoluir para acompanhar essa revolução tecnológica, assegurando que o progresso e a justiça possam caminhar juntos nesta nova era.
Luiz Felipe Barros Joia
Advogado, formado pela PUC/PR, inscrito na OAB/PR 102.266, apaixonado e atuante no direito criminal e penal desde sua formação, possuindo também especialização em Direito Eleitoral e Direito Empresarial na Era Digital. Músico nas horas vagas. Me siga no Instagram @advluizjoia e @luizjoia e visite meu site luizjoiaadvogado.com.br para mais informações.
Leia mais sobre Direito Criminal
(*) O conteúdo das colunas não reflete, necessariamente, a opinião do O LONDRINE̅NSE.
