A expansão da inteligência artificial no ambiente de trabalho já impõe desafios relacionados à segurança, à ética e à proteção de dados. Esse foi o foco de uma palestra realizada pela Câmara de Guarulhos na tarde desta quinta-feira (1º/10), com o tema “Uso Responsável da Inteligência Artificial (IA): Desafios, Oportunidades e Boas Práticas”.
O encontro foi conduzido por Leonardo Matheus Paes Lago, gestor estratégico do Legislativo, e contou com a participação de Rafael Lotfi, fundador e CEO da VGrid, empresa de consultoria especializada em governança corporativa de inteligência artificial.
Durante a apresentação, Lotfi explicou o conceito de IA e traçou um breve histórico de seu desenvolvimento, destacando que, apesar de estar em evidência atualmente, a tecnologia vem sendo desenvolvida desde a década de 1950.
“Trata-se de um sistema de aprendizado de máquinas que tenta replicar o raciocínio e o comportamento humano e, embora seja um tema atual, vem sendo desenvolvido desde a década de 1950”, explicou.
O especialista também chamou a atenção para a evolução dos sistemas e os dilemas provocados por suas capacidades.
“Chegamos a um ponto em que as IAs ultrapassam comportamentos humanos, o que, de certa forma, provoca dilemas e exige cuidados em seu uso”, advertiu.
Um dos pontos centrais da palestra foi a utilização da inteligência artificial em ambientes corporativos, especialmente em instituições públicas. Entre os assuntos discutidos estiveram o uso de contas pessoais durante o trabalho, o compartilhamento de dados, as permissões de acesso e os riscos associados à utilização inadequada das ferramentas.
Lotfi também esclareceu conceitos técnicos como alucinação, prompt injection, viés e discriminação, aspectos que exigem atenção na adoção de sistemas de IA.
Segundo o conferencista, a tecnologia oferece amplas possibilidades de aplicação no serviço público, inclusive na Câmara de Guarulhos, com potencial para gerar ganhos operacionais. Entretanto, a implementação precisa considerar ameaças como o vazamento de informações.
“Há questões éticas, de governança, segurança e compliance que precisam ser discutidas. É necessário pesquisar muito antes de decidir qual IA utilizar como ferramenta”, afirmou.
Ao encerrar a atividade, Leonardo Lago ressaltou a necessidade de aprofundar o conhecimento sobre a tecnologia dentro do Legislativo, especialmente diante da possibilidade de sua utilização nas atividades institucionais.
“Precisamos intensificar a discussão dentro do Legislativo sobre como a inteligência artificial funciona e pode ser usada desde agora. Palestras como esta enriquecem esse processo”, afirmou.
O debate evidencia a necessidade de conciliar inovação tecnológica e responsabilidade institucional, especialmente em órgãos públicos que lidam com informações e dados que exigem proteção.