A criadora do Claude está desenvolvendo uma tecnologia inédita para checar se uma resposta foi genuinamente gerada pelo modelo de inteligência artificial que uma organização diz empregar, combatendo fraudes no setor tecnológico.

Como funciona a verificação criptográfica Batizado de FlashProve, o mecanismo emprega recursos de criptografia para gerar uma espécie de comprovante matemático da identidade do modelo responsável por determinada saída, dando aos consumidores uma forma de confirmar se estão interagindo com a IA divulgada pelo fornecedor, em vez de uma versão alternativa ou menos potente.

Detalhes técnicos e abertura para pesquisadores O projeto foi revelado em um comunicado divulgado pela companhia em uma terça-feira, ocasião em que a empresa também disponibilizou uma especificação técnica e partes do código em formato aberto para que outros pesquisadores possam examinar e aprimorar a iniciativa.

O sistema se baseia no conceito de inferência comprovável, gerando uma prova criptográfica similar às assinaturas digitais de e-mails, mas voltada para identificar qual modelo de IA produziu um conteúdo específico sem expor os pesos internos das ferramentas.

Combate à substituição oculta de softwares Um dos principais problemas que o FlashProve pretende enfrentar é a possibilidade de um fornecedor apresentar uma tecnologia avançada aos clientes, mas utilizar outra durante a operação para reduzir custos operacionais.

A checagem também serviria para auditar casos em que um desenvolvedor afirma ter utilizado um recurso de cibersegurança de ponta ou um plano validado por uma ferramenta apropriada para a tarefa.

Status atual do projeto Apesar da apresentação pública, a novidade ainda está em fase de pesquisa, sem data oficial de lançamento para o mercado ou para os próprios serviços da desenvolvedora.

Os criadores ressaltam que o lançamento funciona como um avanço intermediário, abrindo caminho para que a comunidade científica analise a proposta e colabore com o seu aprimoramento futuro.