Startup brasileira cria solução para corrigir alucinações em sistemas de inteligência artificial
Nos últimos meses, empresas de diversos setores abraçaram a inteligência artificial (IA), mas agora enfrentam um desafio crucial: corrigir as chamadas alucinações. Agora, uma startup que um brasileiro ajudou a criar acredita ter a solução.
“Durante o desenvolvimento de um sistema de IA, ele funciona perfeitamente em ambiente de teste. Mas, ao entrar em produção, surgem novos cenários, e a IA pode não estar preparada para isso e começa a perder desempenho”, explica o brasileiro André Quintanilha, ex-executivo da Accenture e cofundador e Chief Growth Officer da startup Palqee, em entrevista ao InfoMoney. “Se não houver uma solução de monitoramento, pode ser tarde demais para reagir”.
Identificação de alucinações com Prisma
Alucinações ocorrem quando os sistemas de IA geram informações incorretas ou irreais, podendo levar a decisões erradas e riscos operacionais significativos. De olho nesse problema, a Palqee criou uma solução que promete identificar episódios e mitigar os problemas causados por eles.
Chamada de Prisma, ela avalia fatores como tom de entrada, clareza e mudanças no ambiente afetam os resultados, antecipando possíveis riscos e ajudando a elevar a confiança das IAs que dominaram o ambiente corporativo.
Flexibilidade e regulamentações
A ferramenta é projetada para ser usada em qualquer setor ou modelo de IA, desde sistemas baseados em aprendizado de máquina tradicional até os mais avançados modelos generativos. Segundo a startup, essa flexibilidade é fundamental para empresas que operam em mercados dinâmicos e regulados, como finanças, saúde e aviação.
“Como garantir que essas tecnologias realmente funcionem conforme o esperado?”, questiona Sabrina. “Parece que perdemos um pouco o controle após a implementação da IA no mercado, então o gerenciamento de riscos se tornou uma preocupação fundamental, especialmente em mercados regulados, onde é crucial garantir que os sistemas de IA sejam precisos, relevantes, não tendenciosos e livres de erros”.
Exemplo da KPMG
A Palqee cita a KPMG como um exemplo de empresa que se beneficiou da utilização do Prisma. A empresa desenvolveu uma IA de uso interno que respondia perguntas sobre documentos anexados, mas apresentava respostas discrepantes, mesmo sendo tecnicamente corretas. A Palqee identificou que o sistema apresentava uma taxa de alucinação de 14% e que a clareza das perguntas influencia em 6% as chances de alucinação. Com essas informações, a KPMG ajustou o sistema, reduziu a taxa de erro e orientou seus funcionários sobre como interagir com a ferramenta de forma mais eficiente.
Rodada de financiamento
A Palqee fez uma captação pré-seed há alguns anos e diz já ter alcançado o breakeven antes do lançamento da nova solução. A startup planeja uma nova rodada de financiamento no início de 2025.