A inteligência artificial se tornou uma ferramenta indispensável em diversas áreas, desde a análise de dados até a redação de textos e códigos. No entanto, confiar cegamente na IA pode gerar problemas sérios, como aprendeu da pior forma um dos maiores escritórios de advocacia dos Estados Unidos.
Uso de IA compromete reputação do Morgan & Morgan
O renomado escritório Morgan & Morgan, especializado, por exemplo, em casos de negligência médica, viu sua credibilidade abalada após um advogado citar casos fictícios gerados por IA em um processo contra a rede de supermercados Walmart.
O incidente ocorreu em uma ação judicial que alegava que um hoverboard defeituoso, supostamente ligado ao Walmart, teria causado um incêndio residencial. O advogado Rudwin Ayala, responsável pelo caso, incluiu oito precedentes legais que simplesmente não existiam, sendo todos gerados por ChatGPT. Os advogados do Walmart rapidamente identificaram o erro e alertaram o tribunal.
Repercussão e medidas disciplinares
Diante da gravidade do problema, o diretor de transformação do Morgan & Morgan, Yath Ithayakumar, enviou um comunicado interno alertando seus advogados de que o uso indevido de IA poderia resultar em sanções disciplinares, incluindo demissão.
Ayala foi imediatamente afastado do caso e substituído por seu supervisor, T. Michael Morgan, que expressou “grande vergonha” pelo ocorrido. Para minimizar o impacto do erro, o escritório chegou a um acordo com os advogados do Walmart para cobrir todos os custos processuais gerados pela falha.
Um alerta para o futuro do uso da IA no Direito
O caso do Morgan & Morgan serve como um alerta para o uso crescente da inteligência artificial no setor jurídico. Segundo a Reuters, esse não é um incidente isolado: nos últimos dois anos, pelo menos sete processos nos EUA foram comprometidos por “alucinações” da IA, onde o sistema gera informações falsas de maneira convincente.
Embora a IA seja uma ferramenta poderosa, o episódio reforça a importância da supervisão humana e da verificação rigorosa das informações fornecidas por essas tecnologias.
