Controle de riscos em inteligência artificial é uma abordagem fundamental para mitigar possíveis problemas, erros ou consequências não desejadas que podem surgir do uso de sistemas desse tipo de ferramenta. Ele se concentra em identificar, avaliar e gerenciar os riscos associados à implantação e operação do uso desse recurso, garantindo que essas tecnologias sejam utilizadas de forma segura e ética.

Esse tópico envolve a análise crítica de fatores que podem resultar em consequências adversas, como erros, discriminação, violações de privacidade ou outros impactos indesejados. Uma parte fundamental desse controle é a atribuição de responsabilidade clara em todas as etapas do ciclo de vida dos sistemas de IA (a tal daaccountability).

Controle de riscos em IA é uma abordagem fundamental para mitigar possíveis problemas, erros ou consequências não desejadas que podem surgir do uso de sistemas desse tipo de ferramenta

Ocorre que, de fato, pouquíssimas empresas conseguem efetivamente aplicar medidas de controle de riscos de inteligência artificial. A maioria delas ainda está em fase de experimentação com a tecnologia e apenas 12% a utilizam com um grau de maturidade capaz de gerar uma forte vantagem competitiva. Adotar a IA e incorporá-la mais profundamente em todos os aspectos dos negócios já não é uma escolha, mas uma necessidade e uma oportunidade para todos os setores, organizações e líderes.

Mas isso não significa sair fazendo tudo ao mesmo tempo. Governança e compliance são, acima de tudo, métodos. E método pressupõe respeitar as etapas de um processo para conseguir extrair ao máximo os benefícios daquela atividade.

Maturidade organizacional em IA é sobre avaliar como organizações dominam as capacidades relacionadas à inteligência artificial, incluindo, estratégia organizacional, cultura, tecnologia e análise de dados, e implementar as ferramentas de controle certas, no momento adequado e com a melhor alocação de recursos.

A definição de maturidade organizacional em IA permite que a empresa aprenda com a jornada, ajustando processos e prioridades de acordo com suas experiências. E para cada etapa de maturidade, existem então as ferramentas mais adequadas. Neste caso, ela se refere a práticas, meios para atingir determinado objetivo – que, no contexto de governança de IA responsável, são estruturas corporativas ou incentivos para o comportamento que visam controlar os riscos de IA na corporação.

Dessa forma, podemos dividir as empresas em três diferentes graus de maturidade para explicar algumas dessas ferramentas de controle. No primeiro, baixo grau de maturidade, a organização já está atenta a movimentos de mercado e discussões regulatórias, talvez já possua alguma iniciativa embrionária sobre IA em nível de produto ou unidade de negócio, mas sem uma estratégia em nível de corporação. Se você trabalha no jurídico ou compliance de uma empresa dessa, vai saber que a principal dor é a legitimidade da pauta dentro da organização. Em outras palavras, convencer a liderança que é importante gastar dinheiro com isso – porque, caso contrário, a empresa vai perder rentabilidade futura. É aqui que entram osmission statements – a tradução dos valores da empresa em documento específico para IA e decisões automatizadas.

As empresas com grau médio de maturidade são aquelas que já enxergam valor e identificam a importância de uma governança estruturada e responsável de IA. Nessa etapa, o desafio é incluir uma governança de IA responsável no dia a dia, ou seja, como parte fundamental da estratégia de governança corporativa, normalizando esse assunto como outros. Algumas dicas são a realização de mapeamento e inventário de ferramentas próprias ou de terceiros, de protocolo de intervenção humana, avaliação de impacto e criação de comitê de IA responsável.

Por fim, nas organizações com alto grau de maturidade, existe uma máxima na publicidade, você só anuncia o que você entrega e, se você realmente entrega, anuncie. E, por isso, certas ferramentas de governança corporativa responsável só funcionam se você faz parte de uma empresa que realmente possui IA comocore da empresa, com papéis bem definidos, produtos sendo vendidos ou utilizados comercialmente e reconhecimento de mercado.

Atualmente, esse é um jogo de poucos – mas com muita gente querendo entrar.

E como faço para atingir esse grau de maturidade? Aqui são dois desafios: garantir que a governança de IA responsável seja escalável e eficiente na mesma medida que a estratégia macro da empresa; e proteger-se do escrutínio regulatório. A definição por etapas de maturidade permite que aempresa aprenda com a jornada, ajustando processos e prioridades de acordo com suas experiências.

Pedro Ramos é professor do Ibmec, mestre em direito pela FGV (Fundação Getulio Vargas) e bacharel em direito pela USP (Universidade de São Paulo), com especialização pela University of Southern California (EUA). Membro do conselho consultivo do Interactive Advertising Bureau Brasil. Coordenador do grupo de estudos GTech/Ibmec. Sócio do Baptista Luz Advogados, onde coordena as áreas de Mídia, Tecnologia e Proteção de Dados. Autor dos livros “Direito & mídia digital” (ed. Dialética) e “Neutralidade da rede” (ed. IASP).