*Recurso de imagem obtido a partir do site Freepik.com

Nosso sócio Bernardo Fico comentou, recentemente, as recomendações apresentadas pela UNESCO na consulta pública acerca da Avaliação de Prontidão da Inteligência Artificial ética e responsável no Brasil, tópico central às atividades do escritório. As recomendações, nesse sentido, se mostram como um importante passo em direção à garantia de abrangência dos direitos humanos no âmbito de todo o ciclo de vida do sistema de inteligência artificial (‘IA’), e dizem respeito a princípios e valores norteadores da ética que deve integrar o desenvolvimento e o emprego de tais tecnologias em nosso país.

A Recomendação teve como ferramenta predominante a Metodologia de Avaliação de Prontidão (‘RAM’, sigla proveniente de Readiness Assessment Methodology, na língua inglesa), um sistema de análise desenvolvido pelo secretariado da UNESCO que, abrangendo dimensões jurídico-regulatória, sociocultural, econômica, científico-educacional e tecnológicas e de infraestruturas, fornecerá um relatório a que apontará o estado da arte dos respectivos países em cada um dos parâmetros, com a finalidade de aferir a prontidão das nações no que toca ao desenvolvimento e uso ético de tecnologias de IA.

Em seu comentário, Bernardo ressaltou a importância de considerações de diversidade e inclusão de minorias na formulação de recomendações automatizadas. Ele enfatizou a capacidade de perpetuação de vieses a partir da automação de decisões tendenciosas, o que torna essencial a incorporação de medidas de monitoramento e mitigação interna no âmbito das recomendações. Nesse sentido, destaca que tais medidas devem incluir um sistema de alerta, ainda que não necessariamente conduzidos por humanos, que sejam capazes de sinalizar quando o modelo pode estar exibindo comportamento discriminatório.

O comportamento de sistemas de inteligência artificial, como quaisquer tecnologias automatizadas, responde a inputs com a interpretação de determinado volume de dados que parametrizam o output, a depender do desenvolvimento da própria tecnologia. Fico observa, portanto, que a diversidade no mercado de IA é fundamental à incorporação de diferentes experiências e perspectivas às tecnologias, como consequência dos diversificados históricos dos indivíduos que ocupam tais postos de trabalho. Ele sugere a adoção de mecanismos concretos que incentivem a adoção de força de trabalho diversificada no setor da IA, conjuntamente a políticas públicas promovidas por órgãos públicos como o Ministério do Trabalho e o Ministério de Ciência, Tecnologia e Inovação.

No contexto educacional, Bernardo ressalta que a adoção de recursos de IA pode ser uma ferramenta pertinente no desenvolvimento do conhecimento, desde que mitigados os riscos associados a seu emprego. Ele enfatiza a importância da figura humana no processo educacional, mas destaca o potencial das ferramentas de IA como instrumentos pedagógicos. No que diz respeito à proteção de crianças e adolescentes, enfatiza a pertinência do desenvolvimento e adequação de sistemas de IA que levem em consideração as características específicas desse público, de modo a preservá-lo pela prevenção de riscos associados a suas vulnerabilidades inerentes. Ainda, destaca o potencial da IA na proteção dos menores em ambientes virtuais, detectando conteúdos impróprias e identificando usuários que utilizam serviços online mediante declarações fraudulentas de idade.

Fico promove discussão, ademais, acerca do papel que podem ter as tecnologias de Inteligência Artificial quanto à preservação ambiental, como pelo monitoramento ambiental global voltado ao combate ao desmatamento e à proteção da biodiversidade. Nesse sentido, é feita referência a diversas iniciativas governamentais e privadas que fazem uso de sistemas de IA como mecanismo de aprimoramento do acompanhamento e gestão ambiental, assim como pelo planejamento de operações de fiscalização e mitigação de problemas ambientais que venham a ser identificados.

Bernardo também sugere a inclusão e o fomento a novas formas de contratação com a Administração Pública para que haja efetivo incentivo ao desenvolvimento tecnológico e de inovação, com pesquisas em parceria com o setor privado. Aponta que há, presentemente, ainda alguns percalços com o desenvolvimento de tecnologias de IA em função da falta de flexibilidade dos modelos de contratação vigentes; devem ser adotadas, portanto, medidas que venham a assegurar maior aproximação entre o setor privado e o poder público, objetivando-se conjuntamente o desenvolvimento de novas soluções.

Fico ressalta, ainda, a importância de se garantir a compatibilidade de sistemas de IA em relação aos valores e a ética humanos. Tal preocupação exige um esforço contínuo ao longo da existência de tecnologias de IA, e a almejada compatibilidade pode ser alcançada mediante o emprego de design que incorpore auditorias e alertas a permitir a intervenção humana em caso de comportamentos atípicos, assim como a partir do constante treinamento dos profissionais envolvidas no desenvolvimento desses sistemas.

Por fim, Bernardo se dedica à necessidade de documentação de riscos e estratégias de mitigação aplicados ao longo do desenvolvimento e do ciclo de vida das Inteligências Artificiais. Tais arquivos devem ser continuamente atualizados. No entanto, o advogado entende que a divulgação de relatórios de tais vulnerabilidades deve ocorrer somente em circunstâncias específicas, tais quais com finalidade de auditorias e monitoramento, visando que não haja aberturas à instrumentalização dessas vulnerabilidades e consequente exposição dos usuários. Assim, medidas de prestação de contas devem ser estabelecidas a depender das especificidades concretas, a partir da avaliação dos riscos envolvidos e a consequente diferenciação das medidas.

As recomendações da UNESCO apresentadas na consulta pública são um importante passo na busca por uma IA ética e responsável no Brasil, e os comentários às recomendações contribuem ao enriquecimento do debate sobre como alcançar esse objetivo.