Apenas em novembro deste ano, mais de 100 ferramentas de Inteligência Artificial (IA) generativas foram usadas na rede da Secretaria Estadual da Fazenda (Sefaz). A constatação da necessidade de discutir as oportunidades, riscos e cuidados necessários para o uso da IA pelo poder público levou a equipe da Divisão de Informações Estratégicas da Contadoria e Auditoria-Geral do Estado (DIE/Cage), com apoio do Departamento de Tecnologia da Informação e Comunicação (Detic) da Sefaz, a organizar o workshop “IA Generativa: do ChatGPT à governança de IA – tecnologia, oportunidade e risco sob a ótica do controle público”.

O evento foi realizado na tarde de terça-feira (2), no Espaço Inovação da Sefaz. O workshop foi dirigido ao público interno da Cage. Exemplos práticos do uso de IA em outros órgãos públicos foram apresentados, bem como algumas iniciativas em andamento na Sefaz.

A introdução ao evento ficou a cargo do chefe da DIE, auditor do Estado Celso Cordova. “O uso de inteligência artificial avança cada vez mais, em todos os setores. Essa é uma oportunidade de desmitificar esses usos e as oportunidades oferecidas por essa ferramenta poderosa para o serviço público. Planejamos há muito tempo, mas agora conseguimos realizar este workshop, que será o início do aprofundamento dos estudos e aplicações de IA nas nossas práticas diárias”, afirmou.

Dividido em três momentos, na primeira etapa o treinamento abordou aspectos introdutórios da IA. Neste momento, a cargo do auditor do Estado Jimmy Paiva Gomes, que planejou e conduziu o evento, foram apresentadas noções básicas sobre IA Generativa como ferramenta de geração de conteúdo baseada em modelos de linguagem. A ênfase na utilização de comandos (prompts) claros e objetivos marcou boa parte do conteúdo apresentado, com a finalidade de obter conteúdo preciso. Com essa finalidade, algumas técnicas foram apresentadas ao público presente, de maneira a evitar erros como imprecisão de comandos, excesso de informações, falta de contexto, entre outros problemas.

A segunda parte do workshop, a cargo do auditor-fiscal da Receita Rodrigo Trevisan, do Detic, abordou a questão dos riscos relacionados ao uso da IA, principalmente quando envolvem a disseminação de dados de órgãos públicos. Entre os riscos, o auditor citou o vazamento de dados, a alucinação ou citação de fatos inexistentes ou imprecisos, e as consequências para os interesses nacionais das disputas entre países e corporações pelo controle da tecnologia de IA.

Entre as soluções, o auditor apresentou algumas dicas de segurança, como evitar fornecer dados públicos sensíveis durante o uso da IA, de modo a preservar as instituições públicas, e a conferência sistemática dos resultados apresentados. Ao final, Trevisan apresentou algumas diretrizes definidas pelo Guia de Uso de IA Generativa do Tribunal de Contas da União (TCU), um dos órgãos públicos que mais investe no uso de IA no Brasil.

A última etapa do workshop foi dedicada à apresentação de iniciativas de uso de IA em andamento na Sefaz, Cage e Detic, feitas pelos auditores Jimmy Paiva Gomes e Rodrigo Trevisan, à exploração de cases de automação de IA no TCU e na Cage, a cargo do auditor do Estado Cleber Ferreira de Lima, ao uso de IA como ferramenta de auditoria, pelo auditor do Estado José Carlos Ferreira Magalhães, e à experiência do uso da IA pela Seccional de Controle de Obras na análise de liquidações, pelo auditor do Estado Robson Jonathan Bittencourt.

A intenção é realizar novas atividades ao longo dos próximos períodos, oferecendo aos servidores da Cage a oportunidade de apropriação cada vez maior das possibilidades de uso da IA.