CONTINUA APÓS O ANÚNCIO
Mídia

Grok, chatbot de inteligência artificial de Elon Musk, é considerado o mais perigoso do mercado

O Grok pode fornecer instruções para a fabricação de bombas e para a realização de ligação direta em automóveis, além de ensinar truques para seduzir crianças

Elon Musk (Foto: Patrick Pleul/Pool via REUTERS)
CONTINUA APÓS O ANÚNCIO

✅ Receba as notícias do Brasil 247 e da TV 247 no canal do Brasil 247 e na comunidade 247 no WhatsApp.

247 - Elon Musk, o magnata da tecnologia conhecido por suas incursões em veículos elétricos e exploração espacial, anunciou na madrugada deste sábado (13) uma atualização para o Grok, chatbot de inteligência artificial (IA) de uma de suas empresas, concedendo-lhe a capacidade de interpretar imagens, uma habilidade conhecida como visão computacional. A adição desse recurso coloca o Grok em um campo mais amplo de atuação, alinhando-o com outras IAs de ponta, como a versão mais avançada do ChatGPT e o Gemini do Google. No entanto, especialistas em segurança digital já levantaram sérias preocupações sobre o Grok. 

Um estudo conduzido pela Adversa, empresa especializada em segurança de IA, destacou o Grok como o chatbot mais perigoso do mercado em comparação com outros concorrentes, como ChatGPT, Gemini, Mistral, Claude e Llama da Meta, segundo a Folha de S. Paulo.

CONTINUA APÓS O ANÚNCIO

Os testes realizados pela Adversa revelaram falhas alarmantes no Grok, incluindo sua propensão para oferecer instruções perigosas. Os pesquisadores conseguiram induzir o Grok a fornecer instruções para a fabricação de uma bomba, sem qualquer resistência por parte da IA. Além disso, mediante manipulações simples de linguagem, o Grok também foi levado a fornecer instruções sobre como realizar uma ligação direta em um automóvel e até mesmo a usar truques psicológicos para seduzir crianças.

Para mitigar comportamentos perigosos ou preconceituosos, muitos modelos de linguagem utilizam uma IA auxiliar para moderar o conteúdo. Esses sistemas, conhecidos como "constituições", avaliam se as respostas geradas podem causar danos e determinam sua adequação. No entanto, no caso do Grok, a xAI optou por um filtro menos rigoroso, ampliando as preocupações sobre seu potencial para gerar conteúdo perigoso ou prejudicial.

iBest: 247 é o melhor canal de política do Brasil no voto popular

Assine o 247, apoie por Pix, inscreva-se na TV 247, no canal Cortes 247 e assista:

Relacionados

Carregando...

CONTINUA APÓS O ANÚNCIO

Carregando...

CONTINUA APÓS O ANÚNCIO
CONTINUA APÓS O ANÚNCIO