Agricultor confia em conselho de IA e perde 10 hectares de plantação de uma só vez

Um agricultor de 67 anos perdeu cerca de 10 hectares de gergelim depois de seguir uma recomendação de um chatbot para combater ervas daninhas e pragas. O sistema indicou o uso de fomesafen, um herbicida que acabou atingindo não apenas as plantas indesejadas, mas também o próprio cultivo. O caso ocorreu na província de Anhui, no leste da China. O detalhe que ajuda a explicar por que o agricultor, identificado pelo sobrenome Wu, seguiu a orientação sem consultar um especialista é que aquela não era sua primeira experiência com IA.

Segundo o relato, ele utilizava a ferramenta havia aproximadamente um ano para tirar dúvidas sobre o trabalho no campo, incluindo épocas de plantio e uso de fertilizantes. As respostas anteriores teriam funcionado, criando uma relação de confiança que terminou mal quando chegou a hora de cuidar do gergelim.

IA recomendou fomesafen para os 10 hectares de gergelim

Wu pediu ao chatbot que elaborasse um plano para eliminar ervas daninhas e controlar pragas. Entre as recomendações estava o fomesafen. Sem confirmar a indicação com um profissional, o agricultor preparou a mistura e pulverizou toda a área. No dia seguinte, encontrou a plantação de gergelim seca.

Só depois do prejuízo ele voltou a consultar a ferramenta sobre o produto. Dessa vez, o próprio sistema teria informado que o fomesafen havia provocado os danos.

O fomesafen é realmente utilizado na agricultura, inclusive em cultivos de soja. O problema está em aplicar uma recomendação agrícola sem considerar cultura, dose, estágio de desenvolvimento e outras condições específicas. Estudos mostram, inclusive, que a tolerância ao fomesafen varia entre diferentes culturas.

Não sabemos qual chatbot deu a resposta

Há uma limitação importante no caso: o chatbot não foi identificado publicamente. Portanto, não é possível atribuir o erro ao ChatGPT, Gemini ou qualquer outro serviço específico. Os responsáveis pela ferramenta disseram que o sistema obtém informações disponíveis na internet e não possui uma base agrícola independente. Eles também apontaram que o serviço exibe um aviso sobre possíveis erros e recomenda a verificação das respostas.

Wu argumentou que não teria utilizado o herbicida se tivesse recebido um alerta sobre o risco. O episódio ilustra um problema conhecido dos modelos generativos: uma resposta pode ser apresentada de maneira convincente mesmo quando está errada ou deixa de considerar informações essenciais. Em uma pergunta casual, isso pode gerar apenas uma informação incorreta. Quando a resposta é transformada diretamente em uma decisão sobre 10 hectares de uma lavoura, o custo do erro assume outra escala.

Por isso, recomendações de IA envolvendo defensivos agrícolas, dosagens ou outras decisões capazes de causar prejuízo devem ser tratadas como ponto de partida para pesquisa, não como substitutas de orientação técnica especializada.

Você também deve ler!