Uma pesquisa feita pela Adversa AI, empresa de segurança para ferramentas de IA, mostrou que o chatbot pode ajudar os usuários com instruções para atos ilícitos, como fabricar bombas e seduzir crianças.

O Grok, ferramenta de IA generativa da xAI, empresa lançada por Elon Musk em julho de 2023 para concorrer com a OpenAI, dona do ChatGPT, divulgou na última sexta-feira, 12 de abril, uma nova capacidade: analisar imagens.

• Siga a Forbes no WhatsApp e receba as principais notícias sobre negócios, carreira, tecnologia e estilo de vida

O recurso de “visão digital” para análise de representações visuais já está disponível em ferramentas como o ChatGPT 4.0 e o Gemini Advanced (IA do Google) há algum tempo. No entanto, o diferencial do Grok, de acordo com Musk, é sua “rebeldia”.

“O Grok foi projetado para responder perguntas com uma tendência rebelde. Se você não tem senso de humor, evite-o”, publicou o bilionário no final do ano passado. Elon também já mencionou o “acesso em tempo real” ao X (antigo Twitter) como benefício do chatbot.

Leia também:

• 6 maneiras de saber se seu celular foi hackeado
• Diretor jurídico que representava X no Brasil renuncia ao cargo
• Forbes IA 50: as empresas mais promissoras do mundo em inteligência artificial

“Para desenvolver assistentes de IA úteis, precisamos avançar na compreensão do mundo real. Para este fim, estamos introduzindo um novo produto, o RealWorldQA, projetado para avaliar e compreender o mundo a partir de um conjunto de dados com mais de 700 imagens”, divulgou a xAI em comunicado.

5 erros cometidos por ferramentas de IA generativa:

Entretanto, a “rebeldia” do Grok pode ir longe demais em alguns casos. Uma pesquisa feita pela Adversa AI, empresa de segurança para ferramentas de inteligência artificial, mostrou que o chatbot pode ajudar os usuários com instruções para a realização de atos ilícitos, como fabricar bombas e seduzir crianças.

O post Alvo de polêmicas, IA de Elon Musk agora irá analisar imagens apareceu primeiro em Forbes Brasil.