5 Erros Fatais de GenAI Que Podem Destruir Seu Negócio em 2025

Forbes, a mais conceituada revista de negócios e economia do mundo.

De acordo com uma pesquisa recente , 67% dos líderes empresariais acreditam que a IA generativa trará mudanças significativas para suas organizações nos próximos dois anos. Mas na pressa de adotar e implementar essa tecnologia que mudará o mundo, é bem provável que erros sejam cometidos.

A desvantagem desse enorme potencial é que, quando as coisas dão errado, os danos também podem ser muito sérios, desde à reputação até multas pesadas e, talvez o pior de tudo, perda de confiança do cliente. Então aqui está minha visão geral de cinco dos erros mais comuns que acredito que muitas empresas e líderes empresariais cometerão no próximo ano, para que você possa se planejar para evitá-los.

Omitindo a supervisão humana

Poderosa e transformadora como é, sem dúvida, não podemos ignorar o fato de que a IA generativa nem sempre é totalmente precisa. Na verdade, algumas fontes afirmam que erros factuais podem ser encontrados em até 46% dos textos gerados por IA. E em 2093, o site de notícias de tecnologia CNET pausou a publicação de notícias geradas por IA após ter que emitir correções para 41 de 77 histórias. O que isso significa para as empresas é que a revisão, a verificação de fatos e manter um humano informado são essenciais se você não quiser correr o risco de parecer ridículo. É claro que os humanos também cometem erros, e qualquer empresa envolvida em troca de informações deve ter procedimentos robustos de verificação, independentemente de usar IA generativa ou não.

Substituindo GenAI pela criatividade e autenticidade humanas

Outro erro que me preocupa que veremos com muita frequência é nos tornarmos excessivamente dependentes da GenAI como um substituto para a criatividade humana. Isso provavelmente terá consequências negativas na autenticidade de um negócio ou na voz de uma marca. Embora seja fácil usar o ChatGPT ou ferramentas semelhantes para produzir grandes volumes de e-mails, blogs, postagens em mídias sociais e coisas do tipo super-rápido, isso frequentemente leva a um conteúdo excessivamente genérico e pouco inspirador que deixa o público se sentindo desconectado ou até mesmo enganado. A editora de videogames Activision Blizzard, por exemplo, foi recentemente criticada por fãs por usar “ AI slop ” no lugar de obras de arte criadas por humanos. É importante lembrar que a IA generativa deve ser usada como uma ferramenta para aumentar a criatividade humana, não para substituí-la.

A menos que um aplicativo de IA generativa seja executado com segurança no local em seus próprios servidores, geralmente não há como saber o que acontecerá com os dados inseridos nele. A OpenAI e o Google, por exemplo, declaram em seus EULAs que os dados enviados para seus chatbots generativos podem ser revisados ​​por humanos ou usados ​​para treinar ainda mais seus algoritmos. Isso já causou problemas para algumas organizações — a Samsung declarou que seus funcionários vazaram inadvertidamente informações confidenciais da empresa ao inseri-las no ChatGPT sem estar cientes das consequências. Incidentes como esse criam um risco para as empresas de que elas acabarão violando os regulamentos de proteção de dados, o que pode levar a penalidades severas. É provável que isso seja uma ocorrência cada vez mais comum à medida que mais e mais empresas começarem a usar ferramentas de IA generativa, e as organizações — particularmente aquelas que lidam com dados pessoais de clientes em escala — devem garantir que a equipe seja completamente educada sobre esses perigos.

Ignorando os riscos da propriedade intelectual

Muitas ferramentas de IA generativas comumente usadas, incluindo ChatGPT, são treinadas em vastos conjuntos de dados extraídos da internet e, em muitos casos, isso inclui dados protegidos por direitos autorais. Devido à falta de maturidade nas regulamentações de IA, o júri ainda não decidiu se isso constitui uma violação de direitos de propriedade intelectual por parte dos desenvolvedores de IA, com vários casos atualmente passando pelos tribunais. A responsabilidade pode não parar por aí, no entanto. Foi sugerido que as empresas que usam ferramentas de IA gen também podem se ver responsabilizadas em algum momento no futuro se os detentores de direitos autorais conseguirem convencer os tribunais de que seus direitos foram violados. A partir de agora, deixar de avaliar se a saída gerada por IA pode conter materiais que infrinjam direitos autorais ou marcas registradas provavelmente colocará as empresas em apuros em 2025, se elas não tomarem medidas proativas para garantir que isso não aconteça.

Não ter uma política de IA generativa em vigor

Se você quiser minimizar as chances de que qualquer pessoa trabalhando para sua organização cometa algum desses erros, então provavelmente a melhor coisa a fazer é dizer a eles para não fazerem isso. Os casos de uso em potencial para GenAI são tão variados, e as oportunidades que ele cria são tão vastas que quase certamente será mal utilizado em algum momento. Talvez o passo mais importante que você pode tomar para reduzir a chance de isso acontecer é ter uma estrutura clara e definida em vigor, estabelecendo como ele pode — e não pode — ser usado. No que me diz respeito, isso é algo óbvio para todas as organizações que não chegam a uma proibição geral de IA generativa, o que seria um erro bem grande, dadas as oportunidades que ela cria. Sem uma política dessas em vigor, você pode quase garantir que ela será usada sem supervisão apropriada, usada em excesso em detrimento da criatividade humana e levará à divulgação não autorizada de dados pessoais, violação de PI e todos os outros erros abordados aqui.

Não tenha medo do potencial da IA

Para finalizar – em 2025, veremos organizações darem grandes passos à medida que se tornam cada vez mais confiantes, criativas e inovadoras na forma como usam a IA generativa. Também veremos erros. Ter medo do potencial transformador da IA ​​generativa provavelmente entregará a liderança à nossa concorrência, mas adotar uma abordagem cuidadosa e cautelosa pode nos salvar de erros dispendiosos.

O post 5 Erros Fatais de GenAI Que Podem Destruir Seu Negócio em 2025 apareceu primeiro em Forbes Brasil.