Cuidados e limites no uso da Inteligência Artificial no trabalho é orientado pela Setic, em segunda edição da série Conecta IA

Nova edição da série Conecta IA reforça cuidados com informações sigilosas e destaca a importância da revisão humana no uso de ferramentas de IA

Para orientar os servidores sobre o uso seguro da Inteligência Artificial (IA) no serviço público, a Superintendência Estadual de Tecnologia da Informação e Comunicação (Setic) publicou a segunda edição da série Conecta IA. A iniciativa reúne recomendações práticas para a utilização segura e responsável dessas ferramentas no âmbito do Poder Executivo Estadual.

Nesta edição, o foco está na proteção de informações estratégicas e na importância da supervisão humana sobre os conteúdos gerados por IA. Diferente de softwares tradicionais, muitas dessas plataformas registram e armazenam as informações inseridas pelos usuários, que podem ser utilizadas para aprimorar seus próprios modelos. Por isso, o compartilhamento de informações sensíveis pode representar riscos à segurança digital dos órgãos públicos.

Para o governador de Rondônia, Marcos Rocha, a transformação digital deve ocorrer de forma alinhada aos princípios da segurança da informação, reforçando que o uso responsável da tecnologia é fundamental para garantir a proteção dos dados e fortalecer a confiança da população nos serviços prestados pelo estado.

CUIDADOS NO USO DA IA

Segundo o encarregado de dados da Setic e membro titular do Conselho Nacional de Proteção de Dados Pessoais e da Privacidade (CNPD), Tiago Aguiar, ferramentas de IA costumam armazenar históricos de conversas e, por isso, não devem receber informações sensíveis da administração pública. “Senhas de sistemas, credenciais de acesso, documentos contendo dados sensíveis e informações estratégicas dos órgãos públicos não devem ser compartilhados nessas plataformas. É importante compreender que esses ambientes registram as interações realizadas pelos usuários e podem representar riscos quando utilizados de forma inadequada”, explicou.

Outra recomendação é priorizar ferramentas oficialmente autorizadas pela instituição, garantindo maior controle sobre aspectos de segurança, privacidade e conformidade.

REVISÃO HUMANA INDISPENSÁVEL

A segunda edição da série também chama atenção para um erro comum: considerar que toda informação produzida pela Inteligência Artificial Generativa está correta. Embora essas ferramentas sejam capazes de gerar textos, documentos específicos e análises em poucos segundos, elas podem apresentar informações incorretas, desatualizadas ou até mesmo inventadas.

De acordo com o encarregado de dados da Setic,  a validação humana continua sendo indispensável. “A Inteligência Artificial pode apoiar o trabalho dos servidores e aumentar a produtividade, mas é preciso lembrar que a autoria e a responsabilidade pela geração do documento oficial continuam sendo do agente público. Toda informação gerada por IA deve ser revisada e conferida antes de ser inserida em processos administrativos ou na tomada de decisões”, destacou.

CONECTA IA

As orientações integram a série Conecta IA, desenvolvida pela Setic para disseminar boas práticas relacionadas à segurança da informação, proteção de dados pessoais e uso responsável da Inteligência Artificial no setor público. A iniciativa é publicada semanalmente nas redes sociais da Setic, sempre às quartas-feiras, ao longo do mês de junho, com encerramento previsto para 1º de julho. Os conteúdos abordarão temas relacionados à proteção de dados pessoais, segurança da informação, boas práticas no uso de ferramentas de IA e a aplicação segura dessas tecnologias no cotidiano do serviço público de Rondônia.

ENTRE NO GRUPO DE WHATSAPP E RECEBA NOTÍCIAS EM PRIMEIRA MÃO