O guia incentiva a adoção ética da tecnologia, estabelece diretrizes para o desenvolvimento e o uso responsável de IA pelas organizações
A Associação Brasileira das Entidades dos Mercados Financeiro e de Capitais (Anbima) publicou recentemente seu “Guia orientativo de boas práticas para o uso de sistemas de inteligência artificial nos mercados financeiro e de capitais”, com orientações para as empresas do setor que desejam utilizar sistemas de Inteligência Artificial (IA).
Além dos princípios definidos pela Organização para Cooperação e Desenvolvimento Econômico (OCDE), o guia da Anbima destaca a necessidade de uma governança específica para a IA. Segundo o documento, é essencial que as organizações implementem uma estrutura formal de papeis e responsabilidades, garantindo que o uso da IA seja limitado de maneira ética e responsável. Essa estrutura deve ser adaptada às melhores práticas de mercado, atualizada conforme avanços regulatórios e flexível o suficiente para responder às mudanças organizacionais e técnicas.
Outro ponto relevante é a recomendação de que as empresas promovam a comunicação transparente em torno da utilização da IA. A Anbima sugere a elaboração de materiais institucionais que expliquem claramente como os sistemas de IA são utilizados com o objetivo de informar tanto os colaboradores diretamente envolvidos quanto os clientes e parceiros impactados. A comunicação deve ser acessível e clara, garantindo que todas as partes interessadas compreendam os processos.
Por fim, o guia destaca a importância da supervisão humana no uso da IA, para que as decisões tomadas pelo sistema sejam monitoradas de acordo com os princípios éticos e organizacionais. A Anbima também reforça a necessidade de monitoramento contínuo das regulamentações aplicáveis, além da adoção de políticas de avaliação e mitigação de riscos associados ao uso de sistemas de IA.
As empresas precisam assegurar a privacidade e proteção de dados no uso de inteligência artificial, para que isso ocorra é importante desenvolver estratégias que combinem a criação de tecnologias com a conformidade legal e governança de dados, indo ao encontro do princípio da OCDE que aborda a necessidade de se implementar sistemas robustos de segurança e proteção. Como, por exemplo, ferramentas de anonimização e criptografia; além de monitorar continuamente o desempenho e a segurança dos algoritmos envolvidos.
Outro passo a se destacar é a adoção de uma governança de informações que seja transparente e de fácil entendimento para todos, desde os parceiros aos usuários que fazem dos serviços criados pelas empresas financeiras.
Para Fabiano Carvalho, especialista em transformação digital e CEO da Ikhon, é essencial que seja realizado um monitoramento contínuo dos sistemas de inteligência artificial para evitar que as plataformas atuem de forma discriminatória ou que infrinjam a privacidade das informações coletadas em sua base de dados. “É importante a supervisão humana para que esses sistemas atuem de acordo com os princípios de ética e privacidade que regem as leis mais modernas sobre a gestão de informações em ambientes on-line”, ressalta.